Moirai: Transformer Universal para Previsão de Séries Temporais

Moirai é um modelo de fundação para previsão universal de séries temporais introduzido por Gerald Woo e colegas na Salesforce Research em 2024 e apresentado na ICML. A ideia central é pré-treinar um único Transformer grande em um corpus excepcionalmente diverso de dados de séries temporais (LOTSA) abrangendo muitos domínios e frequências, permitindo previsão zero-shot e few-shot em conjuntos de dados não vistos sem retreinamento específico para a tarefa. Moirai emprega tokenização baseada em patches, atenção any-variate e uma cabeça de saída mixture-of-distributions para lidar com frequências variáveis, múltiplas variates e previsão probabilística em uma arquitetura unificada.