Phân loại dựa trên BERT tự giám sát
Phân loại dựa trên BERT tự giám sát sử dụng Bidirectional Encoder Representations from Transformers (BERT) của Google, được huấn luyện trước trên kho văn bản khổng lồ không nhãn thông qua mô hình hóa ngôn ngữ bị che (masked-language modelling), và tinh chỉnh trên các ví dụ có nhãn để gán văn bản vào các danh mục. Phương pháp này liên tục đạt được độ chính xác hàng đầu (state-of-the-art) trong phân tích cảm xúc, phân loại chủ đề, phát hiện ý định và các tác vụ Xử lý Ngôn ngữ Tự nhiên (NLP) tương tự ngay cả với dữ liệu có nhãn hạn chế.
Đọc toàn bộ phương pháp
Đăng nhập bằng tài khoản miễn phí để đọc phần này.
Method map
The neighbourhood of related methods — select a node to explore.
Nguồn tài liệu
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
Cách trích dẫn trang này
ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/vi/deep-learning/self-supervised-bert-based-classification
Được tham chiếu bởi
Phát hiện lỗi trên trang này? Báo cáo hoặc đề xuất chỉnh sửa →