Classificació basada en RoBERTa adaptada al domini
La classificació basada en RoBERTa adaptada al domini estén el transformador RoBERTa continuant primer el seu preentrenament amb el model de llenguatge emmascarat (MLM) en un corpus específic del domini abans de fer un ajustament fi (fine-tuning) per a una tasca de classificació. Aquesta adaptació en dues etapes uneix la bretxa entre les dades generals d'entrenament rastrejades a la web i camps especialitzats com ara text biomèdic, legal o científic, superant constantment l'ajustament fi estàndard de RoBERTa quan hi ha text del domini objectiu disponible.
Llegeix el mètode complet
Inicia la sessió amb un compte gratuït per llegir aquesta secció.
Method map
The neighbourhood of related methods — select a node to explore.
Fonts
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of ACL 2020, pp. 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
Com citar aquesta pàgina
ScholarGate. (2026, June 3). Domain-Adaptive RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/ca/deep-learning/domain-adaptive-roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Classificació basada en BERTAprenentatge profund↔ compare
- Classificació basada en BERT adaptada al dominiAprenentatge profund↔ compare
- Classificació basada en RoBERTa amb ajustament fiAprenentatge profund↔ compare
- Classificació multilingüe basada en RoBERTaAprenentatge profund↔ compare
- Classificació basada en RoBERTaAprenentatge profund↔ compare
Has vist cap problema en aquesta pàgina? Informa'n o suggereix una correcció →