BERT fine-tuning
BERT fine-tuning, nadograđujući se na BERT model koji su predstavili Devlin i saradnici 2019. godine, ponovo trenira prethodno obučeni BERT model na malom označenom skupu podataka za ciljni zadatak kao što je klasifikacija, prepoznavanje imenovanih entiteta ili odgovaranje na pitanja. Kroz transferno učenje postiže visoke performanse čak i sa relativno malo podataka specifičnih za zadatak.
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
Izvori
- Devlin, J., Chang, M.-W., Lee, K. & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y. & Huang, X. (2019). How to Fine-Tune BERT for Text Classification. CCL. DOI: 10.1007/978-3-030-32381-3_16 ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 1). Fine-Tuning of Pre-trained BERT (Bidirectional Encoder Representations from Transformers). ScholarGate. https://scholargate.app/sr/deep-learning/bert-finetuning
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- GPT fino-podešavanjeDuboko učenje↔ compare
- LoRA i PEFTDuboko učenje↔ compare
- Slučajna šumaMašinsko učenje↔ compare
- Vision TransformerDuboko učenje↔ compare
- XGBoostMašinsko učenje↔ compare
Citirana u
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →