Autoformer: Uzun Süreli Zaman Serisi Tahmini için Ayrıştırma Transformer'ı
Autoformer (Auto-Correlation Decomposition Transformer) · Ayrıca şöyle bilinir: Auto-Correlation Transformer, Decomposition Transformer, Series Decomposition Forecaster, Oto-Korelasyon Ayrışım Transformer
Autoformer, Wu ve arkadaşları tarafından Tsinghua Üniversitesi'nden NeurIPS 2021'de tanıtılan uzun süreli zaman serisi tahmini için bir derin öğrenme mimarisidir. Standart öz-dikkat mekanizmasını, frekans alanındaki periyodik bağımlılıkları kullanan bir Otomatik Korelasyon mekanizması ile değiştirir ve eğilim ile mevsimsel bileşenleri ayrı ayrı modellemek için kodlayıcı ve kod çözücü boyunca aşamalı bir seri ayrıştırma bloğu yerleştirir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Autoformer, hava durumu, elektrik talebi veya trafik akışı gibi belirgin periyodik yapıya sahip zaman serilerinde uzun ufuklu tahmin görevleri (örneğin, 336–720 adım) için uygundur. Serinin anlamlı bir şekilde eğilim ve mevsimsel kısımlara ayrılabileceğini varsayar. Kısa ufuklu görevlerde veya oldukça düzensiz serilerde performansı düşük olabilir. Alternatifler olarak aşırı uzun girdiler için Informer'ı, frekans alanı karışımı için FEDformer'ı veya 2-D zamansal desen modellemesi için TimesNet'i düşünün.
Güçlü yönler & sınırlılıklar
- Aşamalı seri ayrıştırma, modelin her katmanda eğilim ve mevsimsel bileşenleri ayrı ayrı iyileştirmesini sağlar
- Otomatik Korelasyon mekanizması, periyodik bağımlılıkları yakalarken karmaşıklığı O(L²)'den O(L log L)'ye düşürür
- En iyi K gecikme üzerindeki toplama, bireysel zaman adımları üzerindeki standart softmax dikkatinden daha yorumlanabilirdir
- Kodlayıcı-kod çözücü tasarımı, çapraz seri Otomatik Korelasyon ile çok adımlı tahmin için etkili bilgi aktarımını destekler
- Sabit veya sezgisel bir çekirdeğe sahip hareketli ortalama ayrıştırma, tüm serilerde eğilim ve mevsimselliği temiz bir şekilde ayırmayabilir
- Otomatik Korelasyon periyodik tekrarlamayı varsayar; düzensiz veya periyodik olmayan dinamiklere sahip seriler gecikme tabanlı toplamadan fayda görmeyebilir
- Model, o zamandan beri kıyaslama veri kümelerinde rekabetçi doğruluk gösteren basit doğrusal taban çizgilerinden daha hesaplama açısından ağırdır
- Gerçek dünya veri kümelerinde periyodiklik varsayımının yalnızca kısmen geçerli olduğu durumlarda uzun ufuk doğruluğu düşebilir
SSS
Otomatik Korelasyon standart öz-dikkatten nasıl farklıdır?
Standart öz-dikkat, her zaman adımı arasındaki çiftler arası benzerliği hesaplar ve O(L²) olarak ölçeklenir. Otomatik Korelasyon bunun yerine FFT kullanarak frekans alanında sorgu ve anahtar dizileri arasındaki çapraz korelasyonu hesaplar, hangi periyodik gecikmelerin en bilgilendirici olduğunu belirler ve bu gecikmelerdeki değerleri toplar. Bu, karmaşıklığı O(L log L)'ye düşürür ve keyfi çiftler arası ilişkiler yerine açıkça periyodikliği kullanır.
Seri ayrıştırmanın neden ağ boyunca yerleştirildiği, yalnızca girdide bir kez uygulanmak yerine?
Ayrıştırmanın yalnızca girdide uygulanması, temsil geliştikçe düzeltilemeyen tek seferlik bir ayrım üretir. Her alt katmana ayrıştırmanın yerleştirilmesi, ağın ayrımı aşamalı olarak iyileştirmesine olanak tanır: her katman daha zengin temsiller öğrendikçe, daha önce kaçırılan artık eğilim sinyalleri çıkarılabilir, bu da çıktıda daha temiz mevsimsel ve eğilim akışlarına yol açar.
Autoformer hala daha yeni modellerle rekabetçi mi?
Autoformer çıktığı zaman güçlü bir temeldi ancak sonraki çalışmalar (PatchTST, DLinear, TimesNet), daha basit mimarilerin standart kıyaslamalarda onu eşleştirebileceğini veya geçebileceğini gösterdi. Ayrıştırma tabanlı bir temel tahminci olarak yaygın şekilde alıntılanmaya devam ediyor ve genellikle karşılaştırmalı çalışmalarda yer alıyor, ancak uygulayıcılar dağıtımdan önce onu yeni hafif alternatiflerle birlikte değerlendirmelidir.
Kaynaklar
- Wu, H., Xu, J., Wang, J., & Long, M. (2021). Autoformer: Decomposition transformers with auto-correlation for long-term series forecasting. NeurIPS, 34. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 2). Autoformer (Auto-Correlation Decomposition Transformer). ScholarGate. https://scholargate.app/tr/deep-learning/autoformer
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- ARIMA (Autoregressive Integrated Moving Average) ModeliEkonometri↔ karşılaştır
- FEDformer: Frekans Geliştirilmiş Ayrıştırılmış TransformerDerin öğrenme↔ karşılaştır
- BilgilendiriciDerin öğrenme↔ karşılaştır
- TimesNet: Zamansal 2B-Varyasyon Modellemesi için Zaman SerileriDerin öğrenme↔ karşılaştır