Transformer afinat
Afinar un Transformer adapta un gran model pre-entrenat — com BERT, GPT o ViT — a una tasca específica d'abast inferior mitjançant la continuació de l'entrenament basat en gradients sobre un conjunt de dades objectiu etiquetat. Aquest paradigma de dues etapes (pre-entrenament i posterior afinació) aconsegueix de manera constant resultats d'avantguarda en tasques de PLN i visió per computador amb molta menys dades específiques de la tasca que entrenant des de zero.
Llegeix el mètode complet
Inicia la sessió amb un compte gratuït per llegir aquesta secció.
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
Fonts
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Com citar aquesta pàgina
ScholarGate. (2026, June 3). Fine-Tuned Transformer (Task-Specific Adaptation of Pre-Trained Transformer Models). ScholarGate. https://scholargate.app/ca/deep-learning/fine-tuned-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Classificació basada en BERTAprenentatge profund↔ compare
- Classificació basada en BERT amb ajustament fiAprenentatge profund↔ compare
- Xarxa Neuronal Recurrent FinetunedAprenentatge profund↔ compare
- Classificació basada en RoBERTaAprenentatge profund↔ compare
Citat per
Has vist cap problema en aquesta pàgina? Informa'n o suggereix una correcció →