Klasifikācija, kas balstīta uz RoBERTa
Klasifikācija, kas balstīta uz RoBERTa, izmanto iepriekš apmācītu transformatoru RoBERTa — apmācītu robustāk nekā BERT ar dinamisku maskēšanu un lielākām partijām — tekstu kategorizācijas uzdevumiem, pievienojot vieglu klasifikācijas galvu virs [CLS] marķiera attēlojuma un pilnībā pielāgojot modeli ar iezīmētiem piemēriem. Tā pastāvīgi sasniedz vai pārsniedz BERT rezultātus standarta NLP etalonos.
Lasīt pilno metodes aprakstu
Piesakieties ar bezmaksas kontu, lai lasītu šo sadaļu.
Method map
The neighbourhood of related methods — select a node to explore.
+24 more
Avoti
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
Kā citēt šo lapu
ScholarGate. (2026, June 3). RoBERTa-based Text Classification (Robustly Optimized BERT Pretraining Approach). ScholarGate. https://scholargate.app/lv/deep-learning/roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT klasifikācijaDziļā mācīšanās↔ compare
- RoBERTa modeļa adaptācija klasifikācijaiDziļā mācīšanās↔ compare
- Gated Recurrent Unit (GRU)Dziļā mācīšanās↔ compare
- Atmiņas ilgtermiņa īstermiņa (LSTM) arhitektūraDziļā mācīšanās↔ compare
- Ievietojumi teikumiemDziļā mācīšanās↔ compare
Uz to atsaucas
Pamanījāt kļūdu šajā lapā? Ziņojiet vai ierosiniet labojumu →