ScholarGate
Assistent
Machine learningMachine learning

Selbstüberwachtes Transferlernen

Selbstüberwachtes Transferlernen kombiniert zwei mächtige Paradigmen: Ein Modell lernt zunächst reiche Repräsentationen aus unbeschrifteten Daten mittels selbstüberwachter Prätextaufgaben. Anschließend werden diese gelernten Repräsentationen auf eine nachgelagerte Aufgabe mit begrenzten beschrifteten Daten übertragen und feinabgestimmt. Dieser Ansatz liegt Landmarkensystemen wie BERT in der NLP und SimCLR und DINO in der Computer Vision zugrunde und reduziert die Anforderungen an beschriftete Daten in vielen Domänen dramatisch.

In MethodMind öffnenDemnächstVideoDemnächstDownload slides

Die vollständige Methode lesen

Nur für Mitglieder

Melden Sie sich mit einem kostenlosen Konto an, um diesen Abschnitt zu lesen.

Anmelden

Method map

The neighbourhood of related methods — select a node to explore.

Quellen

  1. Chen, T., Kornblith, S., Norouzi, M., & Hinton, G. (2020). A simple framework for contrastive learning of visual representations. In Proceedings of the 37th International Conference on Machine Learning (ICML), PMLR 119, 1597–1607. link
  2. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423

So zitieren Sie diese Seite

ScholarGate. (2026, June 3). Self-supervised Pre-training for Transfer Learning. ScholarGate. https://scholargate.app/de/machine-learning/self-supervised-transfer-learning

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side
ScholarGateSelf-supervised Transfer learning (Self-supervised Pre-training for Transfer Learning). Abgerufen am 2026-06-15 von https://scholargate.app/de/machine-learning/self-supervised-transfer-learning · Datensatz: https://doi.org/10.5281/zenodo.20539026