Crossformer: Transformer de Dependência Cruzada de Dimensões para Previsão de Séries Temporais Multivariadas

Crossformer é uma arquitetura baseada em Transformer para previsão de séries temporais multivariadas, introduzida por Yunhao Zhang e Junchi Yan na ICLR 2023. Diferentemente de variantes anteriores de Transformer que tratam cada variável independentemente, Crossformer modela explicitamente dependências cruzadas de dimensões juntamente com padrões temporais. Ele alcança isso através de um design de atenção em dois estágios — tempo cruzado e dimensão cruzada — aplicado sobre embeddings de nível de segmento organizados em um codificador hierárquico, permitindo que o modelo capture simultaneamente dinâmicas intra-variáveis e correlações inter-variáveis.