טרנספורמר לא-נייח (Non-stationary Transformer)
טרנספורמר לא-נייח הוא ארכיטקטורה לחיזוי סדרות עתיות מבוססת טרנספורמר, שהוצגה על ידי יונג ליו, האיקסו וו, ג'יאנמין וואנג ומינגשנג לונג ב-NeurIPS 2022. היא מתמודדת עם מתח יסודי ביישום טרנספורמרים לסדרות עתיות בעולם האמיתי: סטציונריזציה יתרה במהלך קדם-עיבוד מסירה אותות לא-נייחים הנושאים מידע חזוי, בעוד שקלט לא-נייח גולמי גורם לקריסת מנגנון הקשב. המודל פותר זאת באמצעות סטציונריזציה של הסדרה בשילוב עם מנגנון קשב חדשני לביטול סטציונריות (de-stationary attention) המשחזר את ההתפלגות הזמנית המקורית בתחזיות.
קראו את השיטה במלואה
התחברו עם חשבון חינמי כדי לקרוא חלק זה.
Method map
The neighbourhood of related methods — select a node to explore.
מקורות
- Liu, Y., Wu, H., Wang, J., & Long, M. (2022). Non-stationary transformers: Exploring the stationarity in time series forecasting. NeurIPS. link ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 2). Non-stationary Transformers for Forecasting. ScholarGate. https://scholargate.app/he/deep-learning/nonstationary-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- מבחן שורש יחידה מורחב של דיקי-פולר (ADF)אקונומטריקה↔ compare
- Autoformer: טרנספורמר מבוסס פירוק לחיזוי סדרות עתיות ארוכות טווחלמידה עמוקה↔ compare
- מְיַדֵּעַלמידה עמוקה↔ compare