Fino podešeni Transformer
Fino podešavanje Transformera prilagođava veliki, prethodno trenirani model — kao što su BERT, GPT ili ViT — specifičnom zadatku nastavljajući obuku zasnovanu na gradijentu na obeleženom ciljnom skupu podataka. Ova dvostepena paradigma (prethodno treniranje, zatim fino podešavanje) dosledno postiže najsavremenije rezultate u zadacima obrade prirodnog jezika (NLP) i kompjuterskog vida sa daleko manje podataka specifičnih za zadatak nego obuka od nule.
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
Izvori
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 3). Fine-Tuned Transformer (Task-Specific Adaptation of Pre-Trained Transformer Models). ScholarGate. https://scholargate.app/sr/deep-learning/fine-tuned-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-based ClassificationDuboko učenje↔ compare
- Fino-podešena klasifikacija zasnovana na BERT-uDuboko učenje↔ compare
- Fino podešena rekurentna neuronska mrežaDuboko učenje↔ compare
- Klasifikacija zasnovana na RoBERTa modeluDuboko učenje↔ compare
Citirana u
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →