Pyraformer: Пірамідальний Трансформер з Увагою для Прогнозування Часових Рядів на Великих Відстанях
Pyraformer — це модель на основі Трансформера для прогнозування часових рядів на великих відстанях, представлена Лю та ін. на ICLR 2022. Її центральним нововведенням є Модуль Пірамідальної Уваги (PAM), який організовує токени в ієрархію багаторівневої роздільної здатності, дозволяючи моделі захоплювати часові залежності в різних масштабах, зберігаючи при цьому часову та пам'ятну складність O(L log L) замість квадратичної вартості стандартної само-уваги.
Читати метод повністю
Увійдіть із безкоштовним обліковим записом, щоб прочитати цей розділ.
Method map
The neighbourhood of related methods — select a node to explore.
Джерела
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Як цитувати цю сторінку
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/uk/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoformerГлибоке навчання↔ compare
- InformerГлибоке навчання↔ compare
- Reformer: Ефективний Transformer для довгих послідовностейГлибоке навчання↔ compare
Згадується в
Помітили помилку на цій сторінці? Повідомте про неї або запропонуйте виправлення →