การจำแนกประเภทโดยใช้ BERT
การจำแนกประเภทโดยใช้ BERT เป็นการปรับจูน (fine-tune) โมเดล Bidirectional Encoder Representations from Transformers ของ Google ด้วยชุดข้อมูลข้อความที่มีป้ายกำกับ โดยแทนที่ส่วนหัว (head) ที่ได้รับการฝึกฝนล่วงหน้า (pre-trained) แบบทั่วไปด้วยชั้นการจำแนกประเภทที่เฉพาะเจาะจงกับงาน โมเดลนี้ใช้ประโยชน์จากบริบทแบบสองทิศทางเชิงลึกจากพารามิเตอร์ที่ได้รับการฝึกฝนล่วงหน้าหลายร้อยล้านรายการ เพื่อให้ได้ความแม่นยำระดับ State-of-the-art สำหรับงานจำแนกประเภทข้อความสั้นและปานกลาง ด้วยข้อมูลที่มีป้ายกำกับค่อนข้างน้อย
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
+60 more
แหล่งอ้างอิง
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), Lecture Notes in Computer Science, vol 11856, pp. 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 3). Bidirectional Encoder Representations from Transformers for Text Classification. ScholarGate. https://scholargate.app/th/deep-learning/bert-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- หน่วยความจำระยะสั้นแบบยาว (LSTM)การเรียนรู้เชิงลึก↔ compare
- โครงข่ายประสาทเทียมแบบเวียนซ้ำ (Recurrent Neural Network - RNN)การเรียนรู้เชิงลึก↔ compare
- การจำแนกประเภทโดยใช้ RoBERTaการเรียนรู้เชิงลึก↔ compare
- Sentence Embeddingsการเรียนรู้เชิงลึก↔ compare