iTransformer : Transformeur inversé pour la prévision de séries temporelles multivariées

iTransformer est une architecture d'apprentissage profond pour la prévision de séries temporelles multivariées introduite par Liu et al. à l'ICLR 2024. Son idée fondamentale est d'inverser la stratégie conventionnelle de tokenisation du Transformeur : au lieu de traiter chaque pas de temps comme un token, iTransformer traite chaque variate (canal de capteur ou série de caractéristiques) comme un token unique dont l'embedding encode la fenêtre d'observation complète. L'auto-attention est ensuite appliquée aux variates pour capturer les dépendances inter-séries, tandis qu'un réseau feed-forward au sein de chaque token apprend les motifs temporels.