Crossformer: Transformer a Dipendenza Cross-Dimensionale per Previsioni di Serie Storiche Multivariate

Crossformer è un'architettura basata su Transformer per la previsione di serie storiche multivariate, introdotta da Yunhao Zhang e Junchi Yan all'ICLR 2023. A differenza delle varianti Transformer precedenti che trattano ogni variata indipendentemente, Crossformer modella esplicitamente le dipendenze cross-dimensionali accanto ai pattern temporali. Ciò viene ottenuto tramite un design di attenzione a due stadi — cross-time e cross-dimension — applicato su embedding a livello di segmento organizzati in un encoder gerarchico, consentendo al modello di catturare sia le dinamiche intra-variata sia le correlazioni inter-variata simultaneamente.