Metodes pierādījumu reģistrs
Knowledge Distillation
Knowledge Distillation is a model-compression technique, introduced by Geoffrey Hinton and colleagues in 2015, that trains a small student model using the soft-label outputs of a large teacher model. Distilled models such as DistilBERT and TinyBERT reach roughly 97% of the larger model's performance while running far faster.
Avota reģistrs
Atsauces kopētas tieši no metodes avota reģistra. Tās nenozīmē nekādu apgalvojumu līmeņa verifikāciju.
Knowledge Distillation (Teacher–Student Model Compression)
Taksonomiskās metodes reģistrs · ml-model / deep-learning
- Hinton, G., Vinyals, O. & Dean, J. (2015). Distilling the Knowledge in a Neural Network. NeurIPS Deep Learning Workshop. · URL
- Sanh, V., Debut, L., Chaumond, J. & Wolf, T. (2019). DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter. arXiv:1910.01108. · URL
Kurēti apgalvojumi
Apgalvojumi saglabāti pierādījumu reģistrā, katram ar savu novērtējumu.
Vēl nav kurētu apgalvojumu
Šis skatījums neizgudro apgalvojumu novērtējumu, ja reģistrā tā nav.
Saistītās metodes
Ģenerēts no metodes grafika un parādīts kā mašīnas ieteiktas attiecības — netiek izvirzīts neviens pierādījumu apgalvojums.