Machine learningTime-series forecasting
Reformer: 長いシーケンスのための効率的なTransformer
Reformerは、2020年のICLRでKitaev、Kaiser、Levskayaによって発表されたTransformerアーキテクチャの効率的な変種です。これは、長いシーケンスに対する標準的な自己注意機構の法外なO(L²)のメモリおよび計算コストに対処します。主な革新は、O(L log L)の時間で完全な注意機構を近似する局所性鋭敏型ハッシュ（LSH）注意機構と、訓練中の活性化メモリを劇的に削減する可逆残差層です。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
出典
- Kitaev, N., Kaiser, Ł., & Levskaya, A. (2020). Reformer: The efficient transformer. ICLR. link ↗
このページの引用方法
ScholarGate. (2026, June 2). Reformer (The Efficient Transformer). ScholarGate. https://scholargate.app/ja/deep-learning/reformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
Compare side by side →