Självövervakad BERT-baserad klassificering
Självövervakad BERT-baserad klassificering använder Googles Bidirectional Encoder Representations from Transformers (BERT), förtränad på massiva oetiketterade texter via maskerad språkmodellering, och finjusterar den på etiketterade exempel för att tilldela text till kategorier. Den uppnår konsekvent toppmodern noggrannhet inom sentimentanalys, ämnesklassificering, avsiktsdetektering och liknande NLP-uppgifter även med begränsad etiketterad data.
Läs hela metoden
Logga in med ett kostnadsfritt konto för att läsa avsnittet.
Method map
The neighbourhood of related methods — select a node to explore.
Källor
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
Så citerar du den här sidan
ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/sv/deep-learning/self-supervised-bert-based-classification
Refereras av
Hittade du ett fel på sidan? Rapportera eller föreslå en rättelse →