Selv-supervisert overføringslæring
Selv-supervisert overføringslæring kombinerer to kraftige paradigmer: en modell lærer først rike representasjoner fra umerkede data ved hjelp av selv-superviserte forhåndsoppgaver (pretext tasks), deretter overføres og finjusteres disse lærte representasjonene på en nedstrømsoppgave med begrenset merket data. Denne tilnærmingen ligger til grunn for landemerkesystemer som BERT innen NLP og SimCLR og DINO innen datasyn, noe som dramatisk reduserer kravet til merket data på tvers av mange domener.
Les hele metoden
Logg inn med en gratis konto for å lese denne delen.
Method map
The neighbourhood of related methods — select a node to explore.
Kilder
- Chen, T., Kornblith, S., Norouzi, M., & Hinton, G. (2020). A simple framework for contrastive learning of visual representations. In Proceedings of the 37th International Conference on Machine Learning (ICML), PMLR 119, 1597–1607. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
Slik siterer du denne siden
ScholarGate. (2026, June 3). Self-supervised Pre-training for Transfer Learning. ScholarGate. https://scholargate.app/no/machine-learning/self-supervised-transfer-learning
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Få-skudds læringMaskinlæring↔ compare
- MetrikklæringMaskinlæring↔ compare
- Selv-supervisert fåskudds læringMaskinlæring↔ compare
- Selv-supervisert læringMaskinlæring↔ compare
- Semiveiledet læringMaskinlæring↔ compare
- OverføringslæringMaskinlæring↔ compare
Funnet en feil på denne siden? Rapporter eller foreslå en rettelse →