Machine learning
Transformer (NLP)
Transformerは、2017年にVaswaniらによって導入された、注意機構（attention-based）に基づく深層学習モデルであり、シーケンス内の各トークンが他の全てのトークンに直接注意を払うことを可能にすることで、テキスト分類、固有表現認識、言語モデリングを実行します。これは、シーケンス全体を並列処理する自己注意機構（self-attention mechanism）によって、以前の再帰的設計（recurrent designs）に取って代わりました。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
出典
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
このページの引用方法
ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/ja/deep-learning/transformer-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
Compare side by side →