Crossformer: Cross-Dimension Dependency Transformer för multivariat tidsserieprognostisering

Crossformer är en Transformer-baserad arkitektur för multivariat tidsserieprognostisering, introducerad av Yunhao Zhang och Junchi Yan vid ICLR 2023. Till skillnad från tidigare Transformer-varianter som behandlar varje variat oberoende, modellerar Crossformer explicit beroenden mellan dimensioner tillsammans med temporala mönster. Detta uppnås genom en tvåstegs uppmärksamhetsdesign – kors-tid och kors-dimension – applicerad över segmentbaserade inbäddningar organiserade i en hierarkisk kodare, vilket gör att modellen kan fånga både intra-variat dynamik och inter-variat korrelationer samtidigt.