Classificació basada en RoBERTa
La classificació basada en RoBERTa aplica el transformador pre-entrenat RoBERTa —entrenat de manera més robusta que BERT amb emmascarament dinàmic i lots més grans— a tasques de categorització de text afegint un capçal de classificació lleuger sobre la representació del token [CLS] i ajustant tot el model amb exemples etiquetats. Consistentment iguala o supera BERT en punts de referència estàndard de PLN.
Llegeix el mètode complet
Inicia la sessió amb un compte gratuït per llegir aquesta secció.
Method map
The neighbourhood of related methods — select a node to explore.
+24 more
Fonts
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
Com citar aquesta pàgina
ScholarGate. (2026, June 3). RoBERTa-based Text Classification (Robustly Optimized BERT Pretraining Approach). ScholarGate. https://scholargate.app/ca/deep-learning/roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Classificació basada en BERTAprenentatge profund↔ compare
- Classificació basada en RoBERTa amb ajustament fiAprenentatge profund↔ compare
- Unitat recurrent amb portes (GRU)Aprenentatge profund↔ compare
- Long Short-Term Memory (LSTM)Aprenentatge profund↔ compare
- Sentence EmbeddingsAprenentatge profund↔ compare
Citat per
Has vist cap problema en aquesta pàgina? Informa'n o suggereix una correcció →