Uz domēnu adaptēta RoBERTa balstīta klasifikācija
Uz domēnu adaptēta RoBERTa balstīta klasifikācija paplašina RoBERTa transformatoru, vispirms turpinot tā maskētās valodu modelēšanas (MLM) iepriekšapmācību domēnam specifiskā korpusā, pirms precizēšanas klasifikācijas uzdevumam. Šī divpakāpju adaptācija mazina plaisu starp vispārīgiem tīmekļa pārmeklēšanas apmācības datiem un specializētām jomām, piemēram, biomedicīnas, juridiskajiem vai zinātniskajiem tekstiem, konsekventi pārspējot standarta RoBERTa precizēšanu, ja ir pieejams mērķa domēna teksts.
Lasīt pilno metodes aprakstu
Piesakieties ar bezmaksas kontu, lai lasītu šo sadaļu.
Method map
The neighbourhood of related methods — select a node to explore.
Avoti
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of ACL 2020, pp. 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
Kā citēt šo lapu
ScholarGate. (2026, June 3). Domain-Adaptive RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/lv/deep-learning/domain-adaptive-roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT klasifikācijaDziļā mācīšanās↔ compare
- Domenam pielāgotā BERT klasifikācijaDziļā mācīšanās↔ compare
- RoBERTa modeļa adaptācija klasifikācijaiDziļā mācīšanās↔ compare
- Daudzvalodu klasifikācija, balstīta uz RoBERTaDziļā mācīšanās↔ compare
- Klasifikācija, kas balstīta uz RoBERTaDziļā mācīšanās↔ compare
Pamanījāt kļūdu šajā lapā? Ziņojiet vai ierosiniet labojumu →