Pyraformer: Pyramidal Attention Transformer voor Long-Range Tijdreeksvoorspelling
Pyraformer is een op Transformer gebaseerd model voor long-range tijdreeksvoorspelling, geïntroduceerd door Liu et al. op ICLR 2022. De centrale innovatie is een Pyramidal Attention Module (PAM) die tokens organiseert in een hiërarchie met meerdere resoluties, waardoor het model temporele afhankelijkheden op meerdere schalen kan vastleggen met behoud van tijd- en geheugencomplexiteit van O(L log L) in plaats van de kwadratische kosten van vanilla self-attention.
Lees de volledige methode
Log in met een gratis account om dit onderdeel te lezen.
Method map
The neighbourhood of related methods — select a node to explore.
Bronnen
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Deze pagina citeren
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/nl/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Autoformer: Decomposition Transformer voor Lange-termijn TijdreeksvoorspellingDeep learning↔ compare
- InformerDeep learning↔ compare
- Reformer: De Efficiënte Transformer voor Lange SequentiesDeep learning↔ compare
Geciteerd door
Een fout op deze pagina gezien? Meld het of stel een correctie voor →