Selbstüberwachte BERT-basierte Klassifikation
Die selbstüberwachte BERT-basierte Klassifikation verwendet Googles Bidirectional Encoder Representations from Transformers (BERT), das auf massiven unbeschrifteten Textdaten mittels Masked-Language Modelling vortrainiert wurde, und stimmt es dann mit beschrifteten Beispielen ab, um Text in Kategorien einzuteilen. Sie erzielt durchweg modernste Genauigkeit bei Stimmungsanalysen, Themenklassifikationen, Intent-Erkennung und ähnlichen NLP-Aufgaben, selbst mit begrenzten beschrifteten Daten.
Die vollständige Methode lesen
Melden Sie sich mit einem kostenlosen Konto an, um diesen Abschnitt zu lesen.
Method map
The neighbourhood of related methods — select a node to explore.
Quellen
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
So zitieren Sie diese Seite
ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/de/deep-learning/self-supervised-bert-based-classification
Referenziert von
Einen Fehler auf dieser Seite entdeckt? Melden oder Korrektur vorschlagen →