Pyraformer: Pyramidal Transformer pre dlhodobé časové predikcie
Pyraformer je model založený na Transformeri pre dlhodobé časové predikcie, ktorý predstavili Liu et al. na konferencii ICLR 2022. Jeho ústrednou inováciou je modul Pyramidal Attention Module (PAM), ktorý organizuje tokeny do hierarchie s viacerými rozlíšeniami, čo umožňuje modelu zachytiť časové závislosti naprieč viacerými škálami pri zachovaní časovej a pamäťovej zložitosti na úrovni O(L log L) namiesto kvadratickej zložitosti štandardnej samo-pozornosti.
Prečítať celú metódu
Ak si chcete prečítať túto sekciu, prihláste sa s bezplatným účtom.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Ako citovať túto stránku
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/sk/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Autoformer: dekompozičný Transformer pre dlhodobé časové radyHlboké učenie↔ compare
- InformerHlboké učenie↔ compare
- Reformer: Efektívny Transformer pre dlhé sekvencieHlboké učenie↔ compare
Odkazujú sem
Našli ste na tejto stránke chybu? Nahláste ju alebo navrhnite opravu →