Domänadaptiv RoBERTa-baserad klassificering
Domänadaptiv RoBERTa-baserad klassificering utökar RoBERTa-transformatorn genom att först fortsätta dess maskerade språkmodellerings-förträning på ett domänspecifikt korpus innan finjustering för en klassificeringsuppgift. Denna tvåstegsanpassning överbryggar klyftan mellan allmänna webbskrapade träningsdata och specialiserade fält såsom biomedicinsk, juridisk eller vetenskaplig text, och överträffar konsekvent standard RoBERTa-finjustering när måldomäntext finns tillgänglig.
Läs hela metoden
Logga in med ett kostnadsfritt konto för att läsa avsnittet.
Method map
The neighbourhood of related methods — select a node to explore.
Källor
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of ACL 2020, pp. 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
Så citerar du den här sidan
ScholarGate. (2026, June 3). Domain-Adaptive RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/sv/deep-learning/domain-adaptive-roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-baserad klassificeringDjupinlärning↔ compare
- Domänadaptiv BERT-baserad klassificeringDjupinlärning↔ compare
- Fintrimmad RoBERTa-baserad klassificeringDjupinlärning↔ compare
- Multilingual RoBERTa-baserad klassificeringDjupinlärning↔ compare
- Klassificering baserad på RoBERTaDjupinlärning↔ compare
Hittade du ett fel på sidan? Rapportera eller föreslå en rättelse →