Klasifikasi Berasaskan BERT Kendiri-Susun
Klasifikasi berasaskan BERT kendiri-susun menggunakan Bidirectional Encoder Representations from Transformers (BERT) daripada Google, yang telah dilatih awal (pretrained) pada teks tidak berlabel yang banyak melalui pemodelan bahasa bertopeng (masked-language modelling), dan kemudiannya disesuaikan (fine-tuned) pada contoh berlabel untuk menempatkan teks ke dalam kategori. Ia secara konsisten mencapai ketepatan terkini (state-of-the-art) dalam analisis sentimen, klasifikasi topik, pengesanan niat, dan tugas Pemprosesan Bahasa Semula Jadi (NLP) yang serupa walaupun dengan data berlabel yang terhad.
Baca kaedah sepenuhnya
Log masuk dengan akaun percuma untuk membaca bahagian ini.
Method map
The neighbourhood of related methods — select a node to explore.
Sumber
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
Cara memetik halaman ini
ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/ms/deep-learning/self-supervised-bert-based-classification
Dirujuk oleh
Terjumpa masalah pada halaman ini? Laporkan atau cadangkan pembetulan →