Нестаціонарний Трансформер
Нестаціонарний Трансформер (Non-stationary Transformer) — це архітектура для прогнозування часових рядів на основі Трансформера, представлена Йонгом Лю, Хайсу Ву, Цзяньмінь Ван та Міншен Лонг на конференції NeurIPS 2022. Вона вирішує фундаментальне протиріччя при застосуванні Трансформерів до реальних часових рядів: надмірна стаціонаризація під час попередньої обробки видаляє нестаціонарні сигнали, що містять прогностичну інформацію, тоді як необроблені нестаціонарні вхідні дані призводять до колапсу механізму уваги. Модель вирішує цю проблему шляхом стаціонаризації послідовностей у поєднанні з новим механізмом дестаціонарної уваги, який відновлює вихідні часові розподіли у прогнозах.
Читати метод повністю
Увійдіть із безкоштовним обліковим записом, щоб прочитати цей розділ.
Method map
The neighbourhood of related methods — select a node to explore.
Джерела
- Liu, Y., Wu, H., Wang, J., & Long, M. (2022). Non-stationary transformers: Exploring the stationarity in time series forecasting. NeurIPS. link ↗
Як цитувати цю сторінку
ScholarGate. (2026, June 2). Non-stationary Transformers for Forecasting. ScholarGate. https://scholargate.app/uk/deep-learning/nonstationary-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Розширений тест Дікі-Фуллера (ADF) на одиничний коріньЕконометрика↔ compare
- AutoformerГлибоке навчання↔ compare
- InformerГлибоке навчання↔ compare
Згадується в
Помітили помилку на цій сторінці? Повідомте про неї або запропонуйте виправлення →