Attention Mechanism
The attention mechanism, introduced by Bahdanau, Cho and Bengio in 2015 and refined by Luong, Pham and Manning the same year, lets a sequence decoder dynamically learn which of the encoder's outputs to focus on at each step. Before the Transformer, it substantially improved machine-translation quality by freeing models from compressing an entire input into a single fixed vector.
Kaynak kayıt
Alıntılar, yöntemin kaynak kaydından harfi harfine kopyalanmıştır. Bunlardan herhangi bir düzeyde doğrulama çıkarımı yapılmamıştır.
- Bahdanau, D., Cho, K. & Bengio, Y. (2015). Neural Machine Translation by Jointly Learning to Align and Translate. ICLR. · URL
- Luong, M.T., Pham, H. & Manning, C.D. (2015). Effective Approaches to Attention-based Neural Machine Translation. EMNLP, 1412–1421. · DOI 10.18653/v1/D15-1166
Derlenmiş iddialar
Her biri kendi değerlendirmesiyle birlikte kanıt defterine kaydedilmiş iddialar.
Bu görünüm, defterde hiç iddia olmadığında bir iddia değerlendirmesi icat etmez.
İlgili yöntemler
Yöntem grafiğinden oluşturulmuştur ve makine tarafından önerilen ilişkiler olarak gösterilir — herhangi bir kanıt iddiası çıkarımı yapılmamıştır.