Pyraformer: Transformer Piramidal për Parashikime të Serive Kohore me Rreze të Gjatë
Pyraformer është një model i bazuar në Transformer për parashikime të serive kohore me rreze të gjatë, prezantuar nga Liu et al. në ICLR 2022. Inovacioni i tij kryesor është Moduli Piramidal i Vëmendjes (PAM) që organizon gjurmët (tokens) në një hierarki shumërezolucionale, duke i mundësuar modelit të kapë varësi kohore në shkallë të shumta, duke ruajtur kompleksitetin kohor dhe memorik në O(L log L) në vend të kostos katrore të vëmendjes vetë-vetësh (vanilla self-attention).
Lexoni metodën e plotë
Hyni me një llogari falas për ta lexuar këtë seksion.
Method map
The neighbourhood of related methods — select a node to explore.
Burimet
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Si ta citoni këtë faqe
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/sq/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoformerMësimi i thellë↔ compare
- InformerMësimi i thellë↔ compare
- Reformer: Transformer efikas për sekuenca të gjataMësimi i thellë↔ compare
Cituar nga
Vutë re një problem në këtë faqe? Raportojeni ose sugjeroni një korrigjim →