Ekspertu maisījums
Ekspertu maisījums (Mixture of Experts, MoE) ir reti sastopama neironu tīklu arhitektūra, ko 2017. gadā ieviesa Shazeer un kolēģi ar reti izmantojamās MoE kārtu (sparsely-gated MoE layer), kurā katram ievadam tiek aktivizēta tikai daļa no ekspertu apakštīkliem. Kā redzams modeļos, piemēram, Switch Transformer un Mixtral, aprēķinu izmaksas paliek nemainīgas, pat pieaugot kopējam parametru skaitam.
Lasīt pilno metodes aprakstu
Piesakieties ar bezmaksas kontu, lai lasītu šo sadaļu.
Metožu karte
Saistīto metožu apkaime — atlasiet mezglu, lai izpētītu.
Avoti
Kā citēt šo lapu
ScholarGate. (2026, June 1). Sparsely-Gated Mixture of Experts (MoE). ScholarGate. https://scholargate.app/lv/deep-learning/mixture-of-experts
Kura metode?
Novietojiet šo metodi blakus tās tuvākajām radniecīgajām metodēm un lasiet tās līdzās — bibliotēka noliek grāmatas uz galda; izvēle ir jūsu.
- Grafu uzmanības tīkls (Graph Attention Network, GAT)Dziļā mācīšanās↔ salīdzināt
- Random ForestMašīnmācīšanās↔ salīdzināt
- XGBoostMašīnmācīšanās↔ salīdzināt
Uz to atsaucas
Similar methods
Pamanījāt kļūdu šajā lapā? Ziņojiet vai ierosiniet labojumu →