Gefinetunede Transformer
Het fine-tunen van een Transformer past een groot, vooraf getraind model — zoals BERT, GPT of ViT — aan een specifieke downstreamtaak aan door de gradiëntgebaseerde training voort te zetten op een gelabelde doeldataset. Dit tweefasenparadigma (pre-train dan fine-tune) behaalt consequent state-of-the-art resultaten voor NLP- en computervisie-taken met veel minder taakspecifieke gegevens dan trainen vanaf nul.
Lees de volledige methode
Log in met een gratis account om dit onderdeel te lezen.
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
Bronnen
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Deze pagina citeren
ScholarGate. (2026, June 3). Fine-Tuned Transformer (Task-Specific Adaptation of Pre-Trained Transformer Models). ScholarGate. https://scholargate.app/nl/deep-learning/fine-tuned-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-gebaseerde ClassificatieDeep learning↔ compare
- Fijn-afgestelde BERT-gebaseerde ClassificatieDeep learning↔ compare
- Fijn-afgestemd Recurrent Neural NetworkDeep learning↔ compare
- RoBERTa-gebaseerde ClassificatieDeep learning↔ compare
Geciteerd door
Een fout op deze pagina gezien? Meld het of stel een correctie voor →