Domänenadaptierte RoBERTa-basierte Klassifikation
Domänenadaptierte RoBERTa-basierte Klassifikation erweitert den RoBERTa-Transformer, indem zunächst sein Masked-Language-Model-Pretraining auf einem domänenspezifischen Korpus fortgesetzt wird, bevor für eine Klassifikationsaufgabe feinabgestimmt wird. Diese zweistufige Anpassung überbrückt die Lücke zwischen allgemeinen, aus dem Web gesammelten Trainingsdaten und spezialisierten Bereichen wie biomedizinischen, juristischen oder wissenschaftlichen Texten und übertrifft durchweg die Standard-RoBERTa-Feinabstimmung, wenn Text aus der Zieldomäne verfügbar ist.
Die vollständige Methode lesen
Melden Sie sich mit einem kostenlosen Konto an, um diesen Abschnitt zu lesen.
Method map
The neighbourhood of related methods — select a node to explore.
Quellen
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of ACL 2020, pp. 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
So zitieren Sie diese Seite
ScholarGate. (2026, June 3). Domain-Adaptive RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/de/deep-learning/domain-adaptive-roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-basierte KlassifikationDeep Learning↔ compare
- Domänenadaptives BERT-basiertes KlassifizierenDeep Learning↔ compare
- Feinabgestimmte RoBERTa-basierte KlassifikationDeep Learning↔ compare
- Multilinguale RoBERTa-basierte KlassifikationDeep Learning↔ compare
- RoBERTa-basierte KlassifikationDeep Learning↔ compare
Einen Fehler auf dieser Seite entdeckt? Melden oder Korrektur vorschlagen →