Clasificare bazată pe RoBERTa adaptată la domeniu
Clasificarea bazată pe RoBERTa adaptată la domeniu extinde transformatorul RoBERTa, continuând mai întâi pre-antrenamentul său de tip masked-language-model pe un corpus specific domeniului, înainte de a efectua fine-tuning pentru o sarcină de clasificare. Această adaptare în două etape reduce decalajul dintre datele de antrenament extrase din web, de uz general, și domenii specializate, cum ar fi textul biomedical, juridic sau științific, depășind în mod constant fine-tuning-ul standard RoBERTa atunci când textul din domeniul țintă este disponibil.
Citește metoda completă
Autentifică-te cu un cont gratuit pentru a citi această secțiune.
Method map
The neighbourhood of related methods — select a node to explore.
Surse
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of ACL 2020, pp. 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
Cum se citează această pagină
ScholarGate. (2026, June 3). Domain-Adaptive RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/ro/deep-learning/domain-adaptive-roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Clasificare bazată pe BERTÎnvățare profundă↔ compare
- Clasificare bazată pe BERT adaptată domeniuluiÎnvățare profundă↔ compare
- Fine-Tuned RoBERTa-based ClassificationÎnvățare profundă↔ compare
- Clasificare bazată pe RoBERTa multilingvÎnvățare profundă↔ compare
- Clasificare bazată pe RoBERTaÎnvățare profundă↔ compare
Ai observat o problemă pe această pagină? Raportează sau sugerează o corectură →