Machine learning
الانتباه الذاتي متعدد الرؤوس
الانتباه الذاتي متعدد الرؤوس، الذي قدمه فاسفاني وزملاؤه في عام 2017، هو الآلية التي تسمح لكل موضع في تسلسل بحساب علاقته بجميع المواضع الأخرى بالتوازي. وهو جوهر بنية المحولات (Transformer) والأساس الذي تقوم عليه نماذج BERT و GPT و T5.
اقرأ الطريقة كاملة
للأعضاء فقط
تسجيل الدخولسجّل الدخول بحساب مجاني لقراءة هذا القسم.
خريطة المناهج
محيط المناهج ذات الصلة — اختر عقدةً للاستكشاف.
المصادر
كيف تستشهد بهذه الصفحة
ScholarGate. (2026, June 1). Multi-Head Self-Attention (Transformer Core). ScholarGate. https://scholargate.app/ar/deep-learning/self-attention-transformer
أيُّ منهج؟
ضع هذا المنهج إلى جانب أقرب نظائره واقرأهما جنباً إلى جنب — المكتبة تضع الكتب على الطاولة، والاختيار لك.
- ضبط نموذج بيرت الدقيقالتعلم العميق↔ قارن
- ضبط نماذج GPT الدقيقالتعلم العميق↔ قارن
- LoRA و PEFTالتعلم العميق↔ قارن
- الغابات العشوائيةتعلم الآلة↔ قارن
- XGBoostتعلم الآلة↔ قارن