Självövervakad överföringsinlärning
Självövervakad överföringsinlärning kombinerar två kraftfulla paradigm: en modell lär sig först rika representationer från oannoterad data genom självövervakade föruppgift-uppgifter (pretext tasks), sedan överförs och finjusteras dessa inlärda representationer på en nedströmsuppgift med begränsad annoterad data. Detta tillvägagångssätt ligger till grund för landmärkesystem som BERT inom NLP och SimCLR och DINO inom datorseende, vilket dramatiskt minskar behovet av annoterad data inom många domäner.
Läs hela metoden
Logga in med ett kostnadsfritt konto för att läsa avsnittet.
Method map
The neighbourhood of related methods — select a node to explore.
Källor
- Chen, T., Kornblith, S., Norouzi, M., & Hinton, G. (2020). A simple framework for contrastive learning of visual representations. In Proceedings of the 37th International Conference on Machine Learning (ICML), PMLR 119, 1597–1607. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
Så citerar du den här sidan
ScholarGate. (2026, June 3). Self-supervised Pre-training for Transfer Learning. ScholarGate. https://scholargate.app/sv/machine-learning/self-supervised-transfer-learning
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Few-shot LearningMaskininlärning↔ compare
- MetriskinlärningMaskininlärning↔ compare
- Självövervakad inlärning med få exempel (Self-supervised Few-shot Learning)Maskininlärning↔ compare
- Självövervakad inlärningMaskininlärning↔ compare
- Semi-övervakad inlärningMaskininlärning↔ compare
- ÖverföringsinlärningMaskininlärning↔ compare
Hittade du ett fel på sidan? Rapportera eller föreslå en rättelse →