Mecanismo de atención
El mecanismo de atención, introducido por Bahdanau, Cho y Bengio en 2015 y refinado por Luong, Pham y Manning el mismo año, permite a un decodificador de secuencias aprender dinámicamente en qué salidas del codificador centrarse en cada paso. Antes del Transformer, mejoró sustancialmente la calidad de la traducción automática al liberar a los modelos de la compresión de toda una entrada en un único vector fijo.
Leer el método completo
Inicia sesión con una cuenta gratuita para leer esta sección.
Mapa de métodos
El vecindario de métodos relacionados: selecciona un nodo para explorarlo.
+3 más
Fuentes
- Bahdanau, D., Cho, K. & Bengio, Y. (2015). Neural Machine Translation by Jointly Learning to Align and Translate. ICLR. link ↗
- Luong, M.T., Pham, H. & Manning, C.D. (2015). Effective Approaches to Attention-based Neural Machine Translation. EMNLP, 1412–1421. DOI: 10.18653/v1/D15-1166 ↗
Cómo citar esta página
ScholarGate. (2026, June 1). Attention Mechanism (Bahdanau / Luong Attention). ScholarGate. https://scholargate.app/es/deep-learning/attention-mechanism
¿Qué método?
Coloca este método junto a sus parientes más cercanos y léelos lado a lado: la biblioteca pone los libros sobre la mesa; la elección es tuya.
- Ajuste fino de BERTAprendizaje profundo↔ comparar
- Ajuste fino de GPTAprendizaje profundo↔ comparar
- Random ForestAprendizaje automático↔ comparar
- Autoatención Multi-cabezaAprendizaje profundo↔ comparar
- XGBoostAprendizaje automático↔ comparar
Citado por
¿Has visto un problema en esta página? Infórmanos o sugiere una corrección →