BERT Fine-Tuning
BERT fine-tuning, voortbouwend op het BERT-model dat Devlin en collega's in 2019 introduceerden, hertraint een vooraf getraind BERT-model op een kleine gelabelde dataset voor een doelgerichte taak zoals classificatie, naamherkenning (named-entity recognition) of vraagbeantwoording. Door middel van transfer learning bereikt het hoge prestaties, zelfs met relatief weinig taakspecifieke data.
Lees de volledige methode
Log in met een gratis account om dit onderdeel te lezen.
Method map
The neighbourhood of related methods — select a node to explore.
Bronnen
- Devlin, J., Chang, M.-W., Lee, K. & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y. & Huang, X. (2019). How to Fine-Tune BERT for Text Classification. CCL. DOI: 10.1007/978-3-030-32381-3_16 ↗
Deze pagina citeren
ScholarGate. (2026, June 1). Fine-Tuning of Pre-trained BERT (Bidirectional Encoder Representations from Transformers). ScholarGate. https://scholargate.app/nl/deep-learning/bert-finetuning
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- GPT Fine-TuningDeep learning↔ compare
- LoRA en PEFTDeep learning↔ compare
- Random ForestMachine learning↔ compare
- Transformator voor Visuele WaarnemingDeep learning↔ compare
- XGBoostMachine learning↔ compare
Geciteerd door
Een fout op deze pagina gezien? Meld het of stel een correctie voor →