Zelf-gesuperviseerd transfer learning
Zelf-gesuperviseerd transfer learning combineert twee krachtige paradigma's: een model leert eerst rijke representaties uit ongelabelde data via zelf-gesuperviseerde pretext-taken, waarna die geleerde representaties worden getransfereerd en gefinetuned op een downstream-taak met beperkte gelabelde data. Deze aanpak ligt ten grondslag aan baanbrekende systemen zoals BERT in NLP en SimCLR en DINO in computer vision, waardoor de behoefte aan gelabelde data in veel domeinen drastisch wordt verminderd.
Lees de volledige methode
Log in met een gratis account om dit onderdeel te lezen.
Method map
The neighbourhood of related methods — select a node to explore.
Bronnen
- Chen, T., Kornblith, S., Norouzi, M., & Hinton, G. (2020). A simple framework for contrastive learning of visual representations. In Proceedings of the 37th International Conference on Machine Learning (ICML), PMLR 119, 1597–1607. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
Deze pagina citeren
ScholarGate. (2026, June 3). Self-supervised Pre-training for Transfer Learning. ScholarGate. https://scholargate.app/nl/machine-learning/self-supervised-transfer-learning
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Few-shot LearningMachine learning↔ compare
- Metrische LerenMachine learning↔ compare
- Zelfgesuperviseerd Few-Shot LerenMachine learning↔ compare
- Zelf-gesuperviseerd LerenMachine learning↔ compare
- Semi-supervised LearningMachine learning↔ compare
- TransferlerenMachine learning↔ compare
Een fout op deze pagina gezien? Meld het of stel een correctie voor →