iTransformer: Transformer Invertito per la Previsione di Serie Temporali Multivariate

iTransformer è un'architettura di deep learning per la previsione di serie temporali multivariate introdotta da Liu et al. all'ICLR 2024. La sua idea distintiva è invertire la strategia convenzionale di tokenizzazione del Transformer: invece di trattare ogni passo temporale come un token, iTransformer tratta ogni variata (canale sensore o serie di feature) come un singolo token il cui embedding codifica l'intera finestra di osservazione passata (look-back window). L'auto-attenzione viene quindi applicata tra le variate per catturare le dipendenze inter-serie, mentre una rete feed-forward all'interno di ciascun token apprende i pattern temporali.