Classificació basada en BERT auto-supervisat
La classificació basada en BERT auto-supervisat utilitza les representacions d'incrustació bidireccionals d'un transformador (BERT) de Google, pre-entrenat amb una massa de text no etiquetat mitjançant modelatge de llenguatge emmascarat, i el perfecciona amb exemples etiquetats per assignar text a categories. Aconsegueix de manera constant una precisió d'avantguarda en anàlisi de sentiments, classificació de temes, detecció d'intencions i tasques similars de PLN, fins i tot amb dades etiquetades limitades.
Llegeix el mètode complet
Inicia la sessió amb un compte gratuït per llegir aquesta secció.
Method map
The neighbourhood of related methods — select a node to explore.
Fonts
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
Com citar aquesta pàgina
ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/ca/deep-learning/self-supervised-bert-based-classification
Citat per
Has vist cap problema en aquesta pàgina? Informa'n o suggereix una correcció →