Pyraformer: Transformer cu Atenție Piramidală pentru Prognoză pe Termen Lung a Seriilor Temporale
Pyraformer este un model bazat pe Transformer pentru prognoza pe termen lung a seriilor temporale, introdus de Liu et al. la ICLR 2022. Inovația sa centrală este un Modul de Atenție Piramidală (PAM) care organizează token-urile într-o ierarhie multi-rezoluție, permițând modelului să capteze dependențe temporale pe multiple scale, menținând în același timp complexitatea temporală și de memorie la O(L log L) în loc de costul pătratic al atenției auto-sui generis.
Citește metoda completă
Autentifică-te cu un cont gratuit pentru a citi această secțiune.
Method map
The neighbourhood of related methods — select a node to explore.
Surse
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Cum se citează această pagină
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/ro/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoformerÎnvățare profundă↔ compare
- InformerÎnvățare profundă↔ compare
- Reformer: Transformer Eficient pentru Secvențe LungiÎnvățare profundă↔ compare
Citat de
Ai observat o problemă pe această pagină? Raportează sau sugerează o corectură →