Crossformer: 多変量時系列予測のためのクロスディメンション依存性トランスフォーマー

Crossformerは、多変量時系列予測のためのTransformerベースのアーキテクチャであり、Yunhao ZhangとJunchi YanによってICLR 2023で発表されました。各変量を独立して扱う初期のTransformer派生モデルとは異なり、Crossformerは時間パターンと並行してクロスディメンション依存性を明示的にモデル化します。これは、階層型エンコーダで編成されたセグメントレベルの埋め込みに対して適用される、クロス時間とクロスディメンションの2段階アテンション設計を通じて実現され、モデルが変量内ダイナミクスと変量間相関の両方を同時に捉えることを可能にします。