Mecanismo de Atenção
O mecanismo de atenção, introduzido por Bahdanau, Cho e Bengio em 2015 e refinado por Luong, Pham e Manning no mesmo ano, permite que um decodificador de sequência aprenda dinamicamente em quais saídas do codificador focar em cada etapa. Antes do Transformer, melhorou substancialmente a qualidade da tradução automática ao liberar os modelos de comprimir toda a entrada em um único vetor fixo.
Leia o método completo
Entre com uma conta gratuita para ler esta seção.
Mapa de métodos
A vizinhança de métodos relacionados — selecione um nó para explorar.
+3 mais
Fontes
- Bahdanau, D., Cho, K. & Bengio, Y. (2015). Neural Machine Translation by Jointly Learning to Align and Translate. ICLR. link ↗
- Luong, M.T., Pham, H. & Manning, C.D. (2015). Effective Approaches to Attention-based Neural Machine Translation. EMNLP, 1412–1421. DOI: 10.18653/v1/D15-1166 ↗
Como citar esta página
ScholarGate. (2026, June 1). Attention Mechanism (Bahdanau / Luong Attention). ScholarGate. https://scholargate.app/pt/deep-learning/attention-mechanism
Qual método?
Coloque este método ao lado dos seus pares mais próximos e leia-os lado a lado — a biblioteca dispõe os livros sobre a mesa; a escolha é sua.
- Ajuste Fino de BERTAprendizado profundo↔ comparar
- GPT Fine-TuningAprendizado profundo↔ comparar
- Random ForestAprendizado de máquina↔ comparar
- Autoatenção Multi-CabeçaAprendizado profundo↔ comparar
- XGBoostAprendizado de máquina↔ comparar
Referenciado por
Encontrou um problema nesta página? Relate ou sugira uma correção →