ScholarGate
Asistent
Machine learning

Amestec de Experți

Amestecul de Experți (MoE) este o arhitectură de rețea neuronală rară, introdusă de Shazeer și colaboratorii săi în 2017 cu stratul MoE cu poartă rară, în care doar un subset de sub-rețele experți este activat pentru fiecare intrare. Așa cum se vede în modele precum Switch Transformer și Mixtral, menține costul de calcul fix chiar și pe măsură ce numărul total de parametri crește.

Deschide în MethodMindÎn curândVideoÎn curândDescarcă prezentarea

Citește metoda completă

Doar pentru membri

Autentifică-te cu un cont gratuit pentru a citi această secțiune.

Autentificare

Harta metodelor

Vecinătatea metodelor înrudite — selectați un nod pentru a explora.

Amestec de Experți
Rețeaua de Atenție Grafi…Pădurea Aleatoare (Rando…XGBoostDistilarea cunoștințelorLongformer / BigBirdVariational Autoencoder…Căutarea Arhitecturilor…Time-MoE: Model fundamen…Învățare vizuală contras…

Surse

  1. Shazeer, N. et al. (2017). Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer. ICLR. arXiv:1701.06538 link ↗
  2. Jiang, A.Q. et al. (2024). Mixtral of Experts. arXiv. link ↗

Cum se citează această pagină

ScholarGate. (2026, June 1). Sparsely-Gated Mixture of Experts (MoE). ScholarGate. https://scholargate.app/ro/deep-learning/mixture-of-experts

Ce metodă?

Așezați această metodă lângă cele mai apropiate rude și citiți-le alăturat — biblioteca pune cărțile pe masă; alegerea vă aparține.

Compară alăturat →

Citat de

Distilarea cunoștințelorLongformer / BigBirdVariational Autoencoder MultimodalCăutarea Arhitecturilor NeuronaleTime-MoE: Model fundamental de tip "Mixture-of-Experts" pentru serii de timpÎnvățare vizuală contrastivă

Ai observat o problemă pe această pagină? Raportează sau sugerează o corectură →

ScholarGate — Mixture of Experts (Sparsely-Gated Mixture of Experts (MoE)). Preluat la 2026-06-15 de pe https://scholargate.app/ro/deep-learning/mixture-of-experts · Set de date: https://doi.org/10.5281/zenodo.20539026