ทรานส์ฟอร์มเมอร์ (การประมวลผลภาษาธรรมชาติ)
ทรานส์ฟอร์มเมอร์เป็นแบบจำลองการเรียนรู้เชิงลึกที่ใช้กลไกการใส่ใจ (attention-based deep learning model) ซึ่ง Vaswani และคณะได้นำเสนอในปี 2017 แบบจำลองนี้ใช้สำหรับการจำแนกประเภทข้อความ การระบุชื่อเฉพาะ และการสร้างแบบจำลองภาษา โดยอนุญาตให้โทเค็นแต่ละตัวในลำดับสามารถใส่ใจไปยังโทเค็นอื่น ๆ ได้โดยตรง ทรานส์ฟอร์มเมอร์ได้เข้ามาแทนที่สถาปัตยกรรมแบบเวียนซ้ำ (recurrent designs) ก่อนหน้านี้ด้วยกลไกการใส่ใจตนเอง (self-attention mechanism) ที่ประมวลผลลำดับทั้งหมดแบบขนาน
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
แหล่งอ้างอิง
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/th/deep-learning/transformer-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- ออโตเอ็นโค้ดเดอร์การเรียนรู้เชิงลึก↔ compare
- การถดถอยโลจิสติกสถิติการวิจัย↔ compare
- Random Forestการเรียนรู้ของเครื่อง↔ compare
- XGBoostการเรียนรู้ของเครื่อง↔ compare