กลไกการใส่ใจ (Attention Mechanism)
กลไกการใส่ใจ ซึ่งถูกนำเสนอโดย Bahdanau, Cho และ Bengio ในปี 2015 และได้รับการปรับปรุงโดย Luong, Pham และ Manning ในปีเดียวกัน ช่วยให้ตัวถอดรหัสลำดับสามารถเรียนรู้แบบไดนามิกได้ว่าควรจะให้ความสนใจกับผลลัพธ์ใดของตัวเข้ารหัสในแต่ละขั้นตอน ก่อนหน้า Transformer กลไกนี้ได้ปรับปรุงคุณภาพของการแปลภาษาด้วยเครื่องอย่างมาก โดยปลดปล่อยโมเดลจากการบีบอัดอินพุตทั้งหมดให้อยู่ในเวกเตอร์คงที่เพียงเวกเตอร์เดียว
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
+3 more
แหล่งอ้างอิง
- Bahdanau, D., Cho, K. & Bengio, Y. (2015). Neural Machine Translation by Jointly Learning to Align and Translate. ICLR. link ↗
- Luong, M.T., Pham, H. & Manning, C.D. (2015). Effective Approaches to Attention-based Neural Machine Translation. EMNLP, 1412–1421. DOI: 10.18653/v1/D15-1166 ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 1). Attention Mechanism (Bahdanau / Luong Attention). ScholarGate. https://scholargate.app/th/deep-learning/attention-mechanism
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- การปรับจูน BERTการเรียนรู้เชิงลึก↔ compare
- การปรับละเอียด GPT (GPT Fine-Tuning)การเรียนรู้เชิงลึก↔ compare
- Random Forestการเรียนรู้ของเครื่อง↔ compare
- ความสนใจหลายหัวของตนเอง (Multi-Head Self-Attention)การเรียนรู้เชิงลึก↔ compare
- XGBoostการเรียนรู้ของเครื่อง↔ compare