Pyraformer: Piramidalis figyelmet használó Transformer hosszú távú idősor-előrejelzéshez
A Pyraformer egy Transformer-alapú modell hosszú távú idősor-előrejelzéshez, amelyet Liu és mtsai mutattak be az ICLR 2022 konferencián. Központi újítása a Piramidalis Figyelmi Modul (Pyramidal Attention Module, PAM), amely a tokeneket több felbontású hierarchiába szervezi, lehetővé téve a modell számára, hogy több skálán is megragadja az időbeli függőségeket, miközben az idő- és memóriakomplexitás O(L log L) marad, szemben a hagyományos önfigyelem kvadratikus költségével.
A teljes módszer elolvasása
Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.
Method map
The neighbourhood of related methods — select a node to explore.
Források
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Hogyan hivatkozzon erre az oldalra
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/hu/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Autoformer: Decompozíciós transzformer hosszú távú idősor-előrejelzéshezMélytanulás↔ compare
- InformerMélytanulás↔ compare
- Reformer: Az effektív Transformer hosszú szekvenciákhozMélytanulás↔ compare
Hivatkozik rá
Hibát talált ezen az oldalon? Jelentse, vagy javasoljon javítást →