iTransformer: Transformer Invertit per a la Predicció de Sèries Temporals Multivariants

iTransformer és una arquitectura d'aprenentatge profund per a la predicció de sèries temporals multivariants introduïda per Liu et al. a ICLR 2024. La seva idea definidora és invertir l'estratègia convencional de tokenització del Transformer: en lloc de tractar cada pas temporal com un token, iTransformer tracta cada variat (canal de sensor o sèrie de característiques) com un únic token la incrustació del qual codifica la finestra d'observació completa. L'autoatenció s'aplica aleshores entre variats per capturar dependències intersèries, mentre que una xarxa feed-forward dins de cada token aprèn patrons temporals.