Transformer ไม่คงที่
Non-stationary Transformer คือสถาปัตยกรรมพยากรณ์อนุกรมเวลาที่ใช้ Transformer ซึ่งนำเสนอโดย Yong Liu, Haixu Wu, Jianmin Wang, และ Mingsheng Long ในงาน NeurIPS 2022 สถาปัตยกรรมนี้แก้ไขความขัดแย้งพื้นฐานในการประยุกต์ใช้ Transformer กับอนุกรมเวลาในโลกแห่งความเป็นจริง: การทำให้เป็นสเตชันนารีมากเกินไปในระหว่างการประมวลผลล่วงหน้าจะกำจัดสัญญาณที่ไม่เป็นสเตชันนารีซึ่งมีข้อมูลเชิงพยากรณ์ออกไป ในขณะที่ข้อมูลนำเข้าที่ไม่เป็นสเตชันนารีแบบดิบทำให้กลไกความสนใจล้มเหลว โมเดลนี้แก้ไขปัญหานี้โดยการทำให้ข้อมูลอนุกรมเวลาเป็นสเตชันนารี ควบคู่ไปกับกลไกความสนใจแบบ de-stationary ที่เป็นนวัตกรรมใหม่ ซึ่งจะคืนค่าการกระจายตัวเชิงเวลาดั้งเดิมในการพยากรณ์
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
แหล่งอ้างอิง
- Liu, Y., Wu, H., Wang, J., & Long, M. (2022). Non-stationary transformers: Exploring the stationarity in time series forecasting. NeurIPS. link ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 2). Non-stationary Transformers for Forecasting. ScholarGate. https://scholargate.app/th/deep-learning/nonstationary-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- การทดสอบรากหน่วย Augmented Dickey-Fuller (ADF)เศรษฐมิติ↔ compare
- Autoformer: Decomposition Transformer สำหรับการพยากรณ์อนุกรมเวลาในระยะยาวการเรียนรู้เชิงลึก↔ compare
- Informerการเรียนรู้เชิงลึก↔ compare