Pyraformer: Pyramidal Attention Transformer pro dlouhodobé časové řady
Pyraformer je model založený na Transformeru pro dlouhodobé předpovídání časových řad, který představili Liu et al. na konferenci ICLR 2022. Jeho hlavní inovací je modul Pyramidal Attention Module (PAM), který organizuje tokeny do hierarchie s více rozlišeními, což modelu umožňuje zachytit časové závislosti napříč více škálami při zachování časové a paměťové složitosti O(L log L) namísto kvadratické složitosti standardní self-attention.
Přečíst celou metodu
Pro přečtení této sekce se přihlaste s bezplatným účtem.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Jak citovat tuto stránku
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/cs/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Autoformer: Transformer s dekompozicí pro dlouhodobé časové řadyHluboké učení↔ compare
- InformerHluboké učení↔ compare
- Reformer: Efektivní Transformer pro dlouhé sekvenceHluboké učení↔ compare
Odkazuje sem
Našli jste na této stránce chybu? Nahlaste ji nebo navrhněte opravu →