Domenski adaptirana klasifikacija zasnovana na RoBERTa
Domenski adaptirana klasifikacija zasnovana na RoBERTa proširuje RoBERTa transformator tako što prvo nastavlja svoje pred-treniranje maskiranim jezičkim modelom na korpusu specifičnom za domen, pre nego što se fino podesi za zadatak klasifikacije. Ova dvostepena adaptacija premošćuje jaz između opštih podataka za obuku prikupljenih sa veba i specijalizovanih oblasti kao što su biomedicinski, pravni ili naučni tekstovi, dosledno nadmašujući standardno RoBERTa fino podešavanje kada je ciljni domen teksta dostupan.
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
Izvori
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of ACL 2020, pp. 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 3). Domain-Adaptive RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/sr/deep-learning/domain-adaptive-roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-based ClassificationDuboko učenje↔ compare
- Domenski-prilagođena klasifikacija zasnovana na BERTDuboko učenje↔ compare
- Klasifikacija zasnovana na finotreniranom RoBERTa modeluDuboko učenje↔ compare
- Višejezična klasifikacija zasnovana na RoBERTa modeluDuboko učenje↔ compare
- Klasifikacija zasnovana na RoBERTa modeluDuboko učenje↔ compare
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →