Mixture of Experts
Mixture of Experts (MoE) is a sparse neural-network architecture, introduced by Shazeer and colleagues in 2017 with the sparsely-gated MoE layer, in which only a subset of expert sub-networks is activated for each input. As seen in models such as Switch Transformer and Mixtral, it holds computation cost fixed even as the total parameter count grows.
Record di origine
Citazioni copiate testualmente dal record di origine del metodo. Non si inferisce alcuna verifica a livello di affermazione da esse.
- Shazeer, N. et al. (2017). Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer. ICLR. arXiv:1701.06538 · URL
- Jiang, A.Q. et al. (2024). Mixtral of Experts. arXiv. · URL
Affermazioni curate
Affermazioni persistite nel registro delle evidenze, ciascuna con la propria valutazione.
Questa vista non inventa una valutazione dell'affermazione quando il registro non ne ha.
Metodi correlati
Generato dal grafo dei metodi e mostrato come relazioni suggerite dalla macchina — nessuna affermazione di evidenza viene inferita.