سجل دليل المنهج
Knowledge Distillation
Knowledge Distillation is a model-compression technique, introduced by Geoffrey Hinton and colleagues in 2015, that trains a small student model using the soft-label outputs of a large teacher model. Distilled models such as DistilBERT and TinyBERT reach roughly 97% of the larger model's performance while running far faster.
سجل المصدر
تم نسخ الاستشهادات حرفيًا من سجل مصدر المنهج. لا يُستدل على أي تحقق على مستوى الادعاء منها.
Knowledge Distillation (Teacher–Student Model Compression)
سجل منهج تصنيفي · ml-model / deep-learning
- Hinton, G., Vinyals, O. & Dean, J. (2015). Distilling the Knowledge in a Neural Network. NeurIPS Deep Learning Workshop. · URL
- Sanh, V., Debut, L., Chaumond, J. & Wolf, T. (2019). DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter. arXiv:1910.01108. · URL
الادعاءات المنسقة
تم حفظ الادعاءات في دفتر الأستاذ الخاص بالأدلة، ولكل منها تقييمها الخاص.
لا توجد ادعاءات منسقة بعد
هذه الواجهة لا تخترع تقييمًا للادعاء عندما لا يكون دفتر الأستاذ يحتوي على واحد.
المنهجيات ذات الصلة
تم إنشاؤها من الرسم البياني للمنهج وتظهر كعلاقات مقترحة آليًا - لا يُستدل على أي ادعاء دليل.