Pyraformer: Пирамидална Трансформър Модел с Внимание за Дългосрочно Прогнозиране на Времеви Редове
Pyraformer е модел, базиран на Трансформър, за дългосрочно прогнозиране на времеви редове, представен от Liu et al. на ICLR 2022. Неговата централна иновация е Модул за Пирамидално Внимание (PAM), който организира токените в йерархия с много резолюции, позволявайки на модела да улавя времеви зависимости в множество мащаби, като същевременно поддържа времевата и паметна сложност на O(L log L) вместо квадратичната цена на стандартното самовнимание.
Прочетете целия метод
Влезте с безплатен профил, за да прочетете този раздел.
Method map
The neighbourhood of related methods — select a node to explore.
Източници
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Как да цитирате тази страница
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/bg/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoformerДълбоко обучение↔ compare
- InformerДълбоко обучение↔ compare
- Reformer: Ефективният Transformer за дълги последователностиДълбоко обучение↔ compare
Цитиран в
Забелязахте ли проблем на тази страница? Съобщете или предложете поправка →