手法証拠記録
Knowledge Distillation
Knowledge Distillation is a model-compression technique, introduced by Geoffrey Hinton and colleagues in 2015, that trains a small student model using the soft-label outputs of a large teacher model. Distilled models such as DistilBERT and TinyBERT reach roughly 97% of the larger model's performance while running far faster.
出典記録
引用は手法の出典記録からそのままコピーされています。それらからレベルごとの検証は推論されません。
Knowledge Distillation (Teacher–Student Model Compression)
分類的手法記録 · ml-model / deep-learning
- Hinton, G., Vinyals, O. & Dean, J. (2015). Distilling the Knowledge in a Neural Network. NeurIPS Deep Learning Workshop. · URL
- Sanh, V., Debut, L., Chaumond, J. & Wolf, T. (2019). DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter. arXiv:1910.01108. · URL
キュレーションされた主張
主張は証拠台帳に永続化され、それぞれが独自の評価を持っています。
まだキュレーションされた主張はありません
このビューは、台帳に主張評価がない場合、主張評価を生成しません。
関連手法
手法グラフから生成され、機械が提案した関係として表示されます — 証拠主張は推論されません。