ScholarGate
المساعد
Machine learning

تقطير المعرفة

تقطير المعرفة هو أسلوب لضغط النماذج، قدمه جيفري هينتون وزملاؤه في عام 2015، يقوم بتدريب نموذج طالب صغير باستخدام مخرجات التسميات الناعمة لنموذج معلم كبير. تصل النماذج المقطرة مثل DistilBERT و TinyBERT إلى حوالي 97% من أداء النموذج الأكبر بينما تعمل بشكل أسرع بكثير.

افتح في MethodMindقريبًافيديوقريبًاDownload slides

اقرأ الطريقة كاملة

للأعضاء فقط

سجّل الدخول بحساب مجاني لقراءة هذا القسم.

تسجيل الدخول

Method map

The neighbourhood of related methods — select a node to explore.

تقطير المعرفة
لونغفورمر / بيغ بيردمزيج الخبراءالغابات العشوائيةالتعلم التبايني البصريXGBoostشبكة الكبسولةالتعلم الذاتي المجمّع (E…التعلم الاتحاديMobileNet: شبكات عصبية ا…التعلّم متعدد المهام

+3 more

المصادر

  1. Hinton, G., Vinyals, O. & Dean, J. (2015). Distilling the Knowledge in a Neural Network. NeurIPS Deep Learning Workshop. link ↗
  2. Sanh, V., Debut, L., Chaumond, J. & Wolf, T. (2019). DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter. arXiv:1910.01108. link ↗

كيف تستشهد بهذه الصفحة

ScholarGate. (2026, June 1). Knowledge Distillation (Teacher–Student Model Compression). ScholarGate. https://scholargate.app/ar/deep-learning/knowledge-distillation

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side →

يُستشهد بها في

شبكة الكبسولةالتعلم الذاتي المجمّع (Ensemble Self-supervised Learning)التعلم الاتحاديMobileNet: شبكات عصبية التفافية فعالة لرؤية الأجهزة المحمولةالتعلّم متعدد المهامNeural Architecture Searchتصنيف الصور ذاتي الإشرافمحوّل الرؤية المُشرف عليه ضعيفًا

هل لاحظت مشكلة في هذه الصفحة؟ أبلغ عنها أو اقترح تصحيحًا →

ScholarGate — Knowledge Distillation (Knowledge Distillation (Teacher–Student Model Compression)). استُرجع بتاريخ 2026-06-15 من https://scholargate.app/ar/deep-learning/knowledge-distillation · مجموعة البيانات: https://doi.org/10.5281/zenodo.20539026