Machine learning
آلية الانتباه
تسمح آلية الانتباه، التي قدمها باهداناو وتشاو وبنغيو في عام 2015 وصقلها لونغ وفام ومانينغ في نفس العام، لمفكك التسلسل بتعلم ديناميكي أي من مخرجات المشفر يجب التركيز عليها في كل خطوة. قبل الترانسفورمر، حسّنت آلية الانتباه جودة الترجمة الآلية بشكل كبير عن طريق تحرير النماذج من ضغط مدخل كامل في متجه ثابت واحد.
اقرأ الطريقة كاملة
للأعضاء فقط
تسجيل الدخولسجّل الدخول بحساب مجاني لقراءة هذا القسم.
خريطة المناهج
محيط المناهج ذات الصلة — اختر عقدةً للاستكشاف.
+3 أخرى
المصادر
- Bahdanau, D., Cho, K. & Bengio, Y. (2015). Neural Machine Translation by Jointly Learning to Align and Translate. ICLR. link ↗
- Luong, M.T., Pham, H. & Manning, C.D. (2015). Effective Approaches to Attention-based Neural Machine Translation. EMNLP, 1412–1421. DOI: 10.18653/v1/D15-1166 ↗
كيف تستشهد بهذه الصفحة
ScholarGate. (2026, June 1). Attention Mechanism (Bahdanau / Luong Attention). ScholarGate. https://scholargate.app/ar/deep-learning/attention-mechanism
أيُّ منهج؟
ضع هذا المنهج إلى جانب أقرب نظائره واقرأهما جنباً إلى جنب — المكتبة تضع الكتب على الطاولة، والاختيار لك.
- ضبط نموذج بيرت الدقيقالتعلم العميق↔ قارن
- ضبط نماذج GPT الدقيقالتعلم العميق↔ قارن
- الغابات العشوائيةتعلم الآلة↔ قارن
- الانتباه الذاتي متعدد الرؤوسالتعلم العميق↔ قارن
- XGBoostتعلم الآلة↔ قارن