Normalleştirici Akışlar
Normalizing Flows · Ayrıca şöyle bilinir: Flow-Based Generative Models, Invertible Neural Networks, Exact Likelihood Models, Akışa Dayalı Üretici Modeller
Normalizing akışlar, standart bir Gauss dağılımı gibi basit bir taban dağılımına bir dizi tersine çevrilebilir, türevlenebilir dönüşüm uygulayarak karmaşık bir olasılık dağılımını öğrenen bir üretken model sınıfıdır. Rezende ve Mohamed (2015) tarafından varyasyonel çıkarım bağlamında tanıtılan bu modeller, kesin olabilirlik hesaplamasına ve verimli örneklemeye olanak tanıyarak yoğunluk tahmini ve üretim görevleri için VAE'lere ve GAN'lara ilkeli bir alternatif sunar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Yoğunluk tahmini, anomali tespiti, açıklayıcı sonsallarla varyasyonel çıkarım veya olasılıksal tahmin gibi, verimli örneklemenin yanı sıra kesin ve izlenebilir olabilirlik değerlendirmesine ihtiyacınız olduğunda normalizing akışları kullanın. Orta sayıda boyuta sahip sürekli veriler için en uygunlardır. Tüm dönüşümlerin türevlenebilir olduğunu ve Jakobiyen determinantlarının verimli bir şekilde hesaplanabileceğini varsayın. Jakobiyen yapılandırılmamışsa (örn. üçgensel), normalizing akışlar çok yüksek boyutlarda hesaplama açısından maliyetli hale gelir. Çok yüksek boyutlu görüntü verilerine ölçeklenebilirlik birincil endişe kaynağı olduğunda difüzyon modellerini veya skor tabanlı modelleri düşünün.
Güçlü yönler & sınırlılıklar
- Kesin olabilirlik değerlendirmesi: GAN'lar veya difüzyon modellerinin aksine, akışlar herhangi bir girdi için izlenebilir bir log-olasılık verir.
- Verimli örnekleme: Örnekleme, tersine çevrilebilir ağ üzerinden tek bir ileri geçiş gerektirir, yinelemeli iyileştirme yoktur.
- Tersine çevrilebilirlik hem üretimi hem de çıkarımı mümkün kılar: aynı model, ayrı kodlayıcı/kod çözücü ağları olmadan yoğunluk tahmini ve gizli uzay kodlaması yapar.
- Esnek sonsal yaklaşım: varyasyonel çıkarıma gömüldüğünde, akışlar daha zengin, Gauss olmayan sonsallar üretir ve yaklaşım boşluğunu azaltır.
- Mimari kısıtlamalar: her katman tersine çevrilebilir olmalı ve izlenebilir bir Jakobiyen determinantına sahip olmalıdır, bu da kullanılabilir mimarilerin alanını kısıtlar.
- Boyutluluk koruma: gizli uzay, veri uzayı ile aynı boyuta sahip olmalıdır, bu da VAE'lerin yararlanabileceği doğal boyutluluk azaltmayı engeller.
- Yüksek boyutlara ölçekleme: özel yapılar (eşleme katmanları, otoregresif katmanlar) kullanılmadıkça, çok yüksek boyutlu veriler için Jakobiyen determinantlarını hesaplamak veya yaklaştırmak maliyetli hale gelir.
- Eğitim kararlılığı: birçok yığılmış dönüşüme sahip derin akış modelleri, sayısal kararsızlık ve kaybolan/patlayan Jakobiyenlerden muzdarip olabilir.
SSS
Normalizing akışlar varyasyonel otoenkoderlerden nasıl farklıdır?
VAE'ler, olabilirlik üzerinde bir alt sınırı optimize eden yaklaşık bir kodlayıcı ve kod çözücü kullanır; sonsal tipik olarak Gauss olarak varsayılır ve bir yaklaşım boşluğu oluşturur. Normalizing akışlar, tersine çevrilebilir dönüşümler aracılığıyla kesin olabilirlik hesaplar ve VAE sonsalını zenginleştirmek için kullanılabilir, Gauss varsayımını ortadan kaldırır ve ayrı bir kod çözücüye ihtiyaç duymadan sınırı sıkılaştırır.
Dönüşüm neden tersine çevrilebilir olmalıdır?
Tersine çevrilebilirlik, değişken değiştirme formülünün tam olarak uygulanmasını garanti eder, bu da modelin dönüştürülmüş örneklerin log-yoğunluğunu basit taban dağılımına geri izleyerek hesaplamasına olanak tanır. Tersine çevrilebilirlik olmadan, Jakobiyen determinantı tanımsız veya izlenemez hale gelir, bu da kesin olabilirlik hesaplamasını imkansız hale getirir ve hem eğitimi hem de yoğunluk değerlendirmesini bozar.
Normalizing akışlar metin gibi ayrık veriler için kullanılabilir mi?
Doğrudan kullanılamaz, çünkü değişken değiştirme formülü sürekli ve türevlenebilir eşlemeler gerektirir. Uygulayıcılar tipik olarak dekuantizasyon (ayrık değerlere sürekli gürültü ekleme) uygular veya sürekli bir gömme uzayında çalışır. Özel ayrık akış varyantları mevcuttur ancak ek yaklaşımlar içerir ve sürekli akışlardan daha az olgundur.
Kaynaklar
- Rezende, D. J., & Mohamed, S. (2015). Variational inference with normalizing flows. International Conference on Machine Learning (ICML), 1530–1538. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 2). Normalizing Flows. ScholarGate. https://scholargate.app/tr/deep-learning/normalizing-flows
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Difüzyon ModeliDerin öğrenme↔ karşılaştır
- Varyasyonel Otomatik KodlayıcıDerin öğrenme↔ karşılaştır