Uainishaji wa Kujifundisha kwa kutumia RoBERTa
Uainishaji wa Kujifundisha kwa kutumia RoBERTa unachanganya uwasilishaji wenye nguvu wa lugha wa transformer wa RoBERTa — uliojifunzwa kutoka kwa makusanyo makubwa ya data yasiyo na lebo kupitia modeli ya lugha iliyofichwa — na malengo ya kujifundisha ili kufanya uainishaji wa maandishi kwa data kidogo au bila data yoyote yenye lebo ya binadamu. Mbinu hii hutumia maandishi mengi yasiyo na lebo ili kuzalisha ishara yake ya mafunzo kabla ya kusafishwa kwa kazi maalum ya uainishaji.
Soma mbinu kamili
Ingia kwa akaunti ya bure ili kusoma sehemu hii.
Vyanzo
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
Jinsi ya kunukuu ukurasa huu
ScholarGate. (2026, June 3). Self-supervised RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/sw/deep-learning/self-supervised-roberta-based-classification
Umeona tatizo kwenye ukurasa huu? Ripoti au pendekeza marekebisho →