Pyraformer: Piramidalni Transformer za dugoročno prognoziranje vremenskih nizova
Pyraformer je model utemeljen na Transformeru za dugoročno prognoziranje vremenskih nizova koji su predstavili Liu et al. na ICLR-u 2022. Njegova središnja inovacija je Piramidalni modul pažnje (PAM) koji organizira tokene u hijerarhiju više rezolucija, omogućujući modelu da uhvati vremenske ovisnosti na više skala, zadržavajući vremensku i memorijsku složenost na O(L log L) umjesto kvadratnog troška standardne samopažnje.
Pročitajte cijelu metodu
Prijavite se besplatnim računom kako biste pročitali ovaj odjeljak.
Method map
The neighbourhood of related methods — select a node to explore.
Izvori
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/hr/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoformerDuboko učenje↔ compare
- InformerDuboko učenje↔ compare
- Reformer: Učinkoviti Transformer za duge sekvenceDuboko učenje↔ compare
Citirana u
Uočili ste pogrešku na ovoj stranici? Prijavite je ili predložite ispravak →