Mixture of Experts
Mixture of Experts (MoE) è un'architettura di rete neurale sparsa, introdotta da Shazeer e colleghi nel 2017 con il livello MoE a gating sparso, in cui solo un sottoinsieme di sottoreti esperte viene attivato per ogni input. Come si è visto in modelli come Switch Transformer e Mixtral, mantiene il costo computazionale fisso anche se il numero totale di parametri cresce.
Leggi il metodo completo
Accedi con un account gratuito per leggere questa sezione.
Mappa dei metodi
Il vicinato dei metodi correlati — seleziona un nodo per esplorare.
Fonti
Come citare questa pagina
ScholarGate. (2026, June 1). Sparsely-Gated Mixture of Experts (MoE). ScholarGate. https://scholargate.app/it/deep-learning/mixture-of-experts
Quale metodo?
Affianca questo metodo ai suoi parenti più prossimi e leggili fianco a fianco — la biblioteca dispone i libri sul tavolo; la scelta è tua.
- Rete di Attenzione su GrafoApprendimento profondo↔ confronta
- Random ForestApprendimento automatico↔ confronta
- XGBoostApprendimento automatico↔ confronta
Citato da
Hai notato un problema in questa pagina? Segnalalo o proponi una correzione →