Mezcla de Expertos
La Mezcla de Expertos (MoE, por sus siglas en inglés) es una arquitectura de red neuronal dispersa, introducida por Shazeer y colegas en 2017 con la capa MoE de compuerta dispersa (sparsely-gated), en la cual solo un subconjunto de subredes expertas se activa para cada entrada. Como se observa en modelos como Switch Transformer y Mixtral, mantiene el costo computacional fijo incluso cuando crece el número total de parámetros.
Leer el método completo
Inicia sesión con una cuenta gratuita para leer esta sección.
Mapa de métodos
El vecindario de métodos relacionados: selecciona un nodo para explorarlo.
Fuentes
Cómo citar esta página
ScholarGate. (2026, June 1). Sparsely-Gated Mixture of Experts (MoE). ScholarGate. https://scholargate.app/es/deep-learning/mixture-of-experts
¿Qué método?
Coloca este método junto a sus parientes más cercanos y léelos lado a lado: la biblioteca pone los libros sobre la mesa; la elección es tuya.
- Red de Atención GráficaAprendizaje profundo↔ comparar
- Random ForestAprendizaje automático↔ comparar
- XGBoostAprendizaje automático↔ comparar
Citado por
¿Has visto un problema en esta página? Infórmanos o sugiere una corrección →