iTransformer: Inverted Transformer für multivariate Zeitreihenprognosen

iTransformer ist eine Deep-Learning-Architektur für multivariate Zeitreihenprognosen, die von Liu et al. auf der ICLR 2024 vorgestellt wurde. Die definierende Idee ist die Umkehrung der konventionellen Transformer-Tokenisierungsstrategie: Anstatt jeden Zeitschritt als Token zu behandeln, behandelt iTransformer jede Variate (Sensorkanal oder Merkmalsreihe) als ein einziges Token, dessen Einbettung das gesamte beobachtete Look-back-Fenster kodiert. Anschließend wird Self-Attention über die Variaten angewendet, um Abhängigkeiten zwischen den Reihen zu erfassen, während ein Feed-Forward-Netzwerk innerhalb jedes Tokens zeitliche Muster lernt.