Pyraformer: Pyramidal Attention Transformer pitkän aikavälin aikasarjaennustamiseen
Pyraformer on Transformer-pohjainen malli pitkän aikavälin aikasarjaennustamiseen, jonka Liu et al. esittelivät ICLR 2022 -konferenssissa. Sen keskeinen innovaatio on Pyramidal Attention Module (PAM), joka järjestää tokenit monikerroksiseen hierarkiaan. Tämä mahdollistaa mallin aikariippuvuuksien sieppaamisen useilla tasoilla, pitäen samalla aika- ja muistivaativuuden O(L log L) -tasolla tavanomaisen itsehuomion neliöllisen kustannuksen sijaan.
Lue koko menetelmä
Kirjaudu sisään maksuttomalla tilillä lukeaksesi tämän osion.
Method map
The neighbourhood of related methods — select a node to explore.
Lähteet
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Näin viittaat tähän sivuun
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/fi/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Autoformer: Dekompositio-muuntaja pitkän aikavälin aikasarjaennustamiseenSyväoppiminen↔ compare
- InformerSyväoppiminen↔ compare
- Reformer: Tehokas Transformer pitkille sekvensseilleSyväoppiminen↔ compare
Tähän viittaavat
Huomasitko virheen tällä sivulla? Ilmoita siitä tai ehdota korjausta →