Blandning av experter
Mixture of Experts (MoE) är en sparsam neuralnätverksarkitektur, introducerad av Shazeer och kollegor 2017 med det sparsamt-gated MoE-lagret, där endast en delmängd av expert-subnätverk aktiveras för varje indata. Som sett i modeller som Switch Transformer och Mixtral, bibehåller den beräkningskostnaden konstant även när det totala antalet parametrar växer.
Läs hela metoden
Logga in med ett kostnadsfritt konto för att läsa avsnittet.
Metodkarta
Närområdet av besläktade metoder — välj en nod för att utforska.
Källor
Så citerar du den här sidan
ScholarGate. (2026, June 1). Sparsely-Gated Mixture of Experts (MoE). ScholarGate. https://scholargate.app/sv/deep-learning/mixture-of-experts
Vilken metod?
Placera den här metoden bredvid sina närmaste släktingar och läs dem sida vid sida — biblioteket lägger fram böckerna på bordet; valet är ditt.
- GrafuppmärksamhetsnätverkDjupinlärning↔ jämför
- Random ForestMaskininlärning↔ jämför
- XGBoostMaskininlärning↔ jämför
Refereras av
Hittade du ett fel på sidan? Rapportera eller föreslå en rättelse →