Klasifikasi Berbasis BERT Self-Supervised

Klasifikasi Berbasis BERT Self-Supervised menggunakan Bidirectional Encoder Representations from Transformers (BERT) dari Google, yang telah dilatih sebelumnya (pretrained) pada teks tak berlabel dalam jumlah masif melalui pemodelan bahasa bertopeng (masked-language modelling), dan kemudian disesuaikan (fine-tuned) pada contoh berlabel untuk mengklasifikasikan teks ke dalam kategori-kategori. Metode ini secara konsisten mencapai akurasi mutakhir (state-of-the-art) pada analisis sentimen, klasifikasi topik, deteksi intensi, dan tugas-tugas Pemrosesan Bahasa Alami (NLP) serupa, bahkan dengan data berlabel yang terbatas.