المحولات شبه المُشرف عليها
تستفيد التعلّم شبه المُشرف عليه باستخدام معماريات المحولات (Transformer) من كميات كبيرة من البيانات غير المُصنفة إلى جانب مجموعة صغيرة من البيانات المُصنفة لتدريب نماذج تسلسلية قوية. النمط السائد - الذي يتجسد في BERT - يقوم أولاً بتدريب المحول مسبقًا على البيانات غير المُصنفة باستخدام أهداف ذاتية الإشراف مثل التنبؤ بالرموز المقنّعة، ثم يُحسّنه (fine-tunes) على المهمة المُصنفة. هذا النهج ذو المرحلتين يقلل بشكل كبير من البيانات المُصنفة المطلوبة لتحقيق أداء قوي.
اقرأ الطريقة كاملة
سجّل الدخول بحساب مجاني لقراءة هذا القسم.
خريطة المناهج
محيط المناهج ذات الصلة — اختر عقدةً للاستكشاف.
+5 أخرى
المصادر
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. DOI: 10.18653/v1/N19-1423 ↗
- Zoph, B., Ghiasi, G., Lin, T.-Y., Cui, Y., Liu, H., Cubuk, E. D., & Le, Q. V. (2020). Rethinking Pre-training and Self-training. Advances in Neural Information Processing Systems (NeurIPS), 33, 3833–3845. link ↗
كيف تستشهد بهذه الصفحة
ScholarGate. (2026, June 3). Semi-supervised Learning with Transformer Architectures. ScholarGate. https://scholargate.app/ar/deep-learning/semi-supervised-transformer
أيُّ منهج؟
ضع هذا المنهج إلى جانب أقرب نظائره واقرأهما جنباً إلى جنب — المكتبة تضع الكتب على الطاولة، والاختيار لك.
- تصنيف قائم على BERTالتعلم العميق↔ قارن
- محوّل مُعدَّلالتعلم العميق↔ قارن
- تصنيف قائم على RoBERTaالتعلم العميق↔ قارن
- محوّل ذاتي الإشراف (Self-supervised Transformer)التعلم العميق↔ قارن
- شبكة عصبية التفافية شبه مُشرف عليهاالتعلم العميق↔ قارن