سازوکار توجه
سازوکار توجه، که توسط بهدانو، چو و بنگیو در سال ۲۰۱۵ معرفی شد و همان سال توسط لیونگ، فام و منینگ بهبود یافت، به یک رمزگشای توالی اجازه میدهد تا به صورت پویا یاد بگیرد که در هر گام بر کدام یک از خروجیهای رمزگذار تمرکز کند. پیش از ترنسفورمر، این سازوکار با رها کردن مدلها از فشردهسازی کل ورودی در یک بردار ثابت واحد، کیفیت ترجمه ماشینی را به طور قابل توجهی بهبود بخشید.
مطالعهٔ کامل روش
برای خواندن این بخش با حساب رایگان وارد شوید.
Method map
The neighbourhood of related methods — select a node to explore.
+3 more
منابع
- Bahdanau, D., Cho, K. & Bengio, Y. (2015). Neural Machine Translation by Jointly Learning to Align and Translate. ICLR. link ↗
- Luong, M.T., Pham, H. & Manning, C.D. (2015). Effective Approaches to Attention-based Neural Machine Translation. EMNLP, 1412–1421. DOI: 10.18653/v1/D15-1166 ↗
نحوهٔ استناد به این صفحه
ScholarGate. (2026, June 1). Attention Mechanism (Bahdanau / Luong Attention). ScholarGate. https://scholargate.app/fa/deep-learning/attention-mechanism
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- تنظیم دقیق BERTیادگیری عمیق↔ compare
- تنظیم دقیق GPTیادگیری عمیق↔ compare
- جنگل تصادفییادگیری ماشین↔ compare
- توجه به خود چند-سرییادگیری عمیق↔ compare
- XGBoostیادگیری ماشین↔ compare
ارجاعشده در
در این صفحه مشکلی دیدید؟ گزارش دهید یا اصلاحی پیشنهاد کنید →