Módszerbizonyíték rekord
Knowledge Distillation
Knowledge Distillation is a model-compression technique, introduced by Geoffrey Hinton and colleagues in 2015, that trains a small student model using the soft-label outputs of a large teacher model. Distilled models such as DistilBERT and TinyBERT reach roughly 97% of the larger model's performance while running far faster.
Forrásrekord
A hivatkozások szó szerint a módszer forrásrekordjából kerültek átvételre. Ezekből nem következtethető ki állítás-szintű ellenőrzés.
Knowledge Distillation (Teacher–Student Model Compression)
Taxonómiai módszerrekord · ml-model / deep-learning
- Hinton, G., Vinyals, O. & Dean, J. (2015). Distilling the Knowledge in a Neural Network. NeurIPS Deep Learning Workshop. · URL
- Sanh, V., Debut, L., Chaumond, J. & Wolf, T. (2019). DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter. arXiv:1910.01108. · URL
Kurált állítások
Az állítások a bizonyíték-jegyzőkönyvben tárolódtak, mindegyik saját értékeléssel.
Még nincsenek kurált állítások
Ez a nézet nem hoz létre állítás-értékelést, ha a jegyzőkönyvben nincs.
Kapcsolódó módszerek
A módszergráfból generálva és gépi javaslatú kapcsolatokként jelenítve meg – nem következtethető ki bizonyíték-állítás.