Düzenlileştirilmiş Gauss Karışım Modeli
Regularized Gaussian Mixture Model (Covariance-Regularized EM Clustering) · Ayrıca şöyle bilinir: Regularized GMM, GMM with covariance regularization, stabilized Gaussian mixture model, penalized GMM
Düzenlileştirilmiş Gauss Karışım Modeli (GMM), Beklenti-Maksimizasyon algoritması sırasında her bir bileşenin kovaryans matrisinin diyagonaline küçük bir pozitif sabit ekleyerek, verilerin seyrek, yüksek boyutlu olduğu veya neredeyse aynı gözlemleri içerdiği durumlarda sayısal hatalara neden olan tekil veya tekile yakın matrisleri önler.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Standart bir GMM ile sayısal kararsızlıkla karşılaştığınızda —örneğin, özellik sayısı en küçük küme boyutuna yaklaştığında veya aştığında, örneklemler çok küçük olduğunda (beklenen küme başına 50'den az) veya standart GMM'nin tekrarlanan çalıştırmaları NaN log-olabilirlikleri ürettiğinde— sürekli çok değişkenli veriler üzerinde yumuşak olasılıklı küme atamaları veya yoğunluk tahmini gerektiğinde Düzenlileştirilmiş bir GMM kullanın. Ayrıca, kararlı sonuçlar karşılığında kovaryans daralmasının küçük bir derecesi kabul edilebilirse uygundur. Tamamen kısıtlanmamış kovaryans şekilleri istediğinizde ve verileriniz büyük ve iyi ayrılmışsa kaçının; bu durumda standart bir GMM yeterlidir. Çok yüksek boyutlu veriler (resimler, metin) için, herhangi bir GMM varyantından önce boyut azaltmayı düşünün.
Güçlü yönler & sınırlılıklar
- Tekil kovaryans matrislerini önler, küçük veya yüksek boyutlu veri kümelerinde uydurmayı güvenilir hale getirir.
- GMM'nin tam olasılıklı çıktısını korur: yumuşak küme üyelikleri ve yoğunluk tahminleri.
- Uygulaması basittir — her kovaryans diyagonaline eklenen tek bir skaler hiperparametre (lambda veya reg_covar).
- Bileşen sayısını seçmek için model seçimi kriterleriyle (BIC, AIC) doğal olarak uyumludur.
- Birden fazla rastgele başlatma arasında güvenilir bir şekilde yakınsar, tekrarlanabilirliği artırır.
- Düzenlileştirme, kovaryans tahminlerini küresel şekle doğru yanlı hale getirir, bu da uzatılmış kümeleri yanlış temsil edebilir.
- Lambda ayarlanmalıdır; kötü bir seçim ya yetersiz düzenlileştirir (hala sayısal olarak kararsız) ya da aşırı düzenlileştirir (kümeler eşit kürelere doğru çöker).
- Standart GMM gibi, Gauss şeklinde bileşenler varsayar ve ağır kuyruklu veya çok modlu kümeler için kötü uyum sağlayabilir.
- Bileşen sayısı K hala BIC, AIC veya çapraz doğrulama yoluyla harici olarak seçilmelidir.
- Dış etkenlere karşı dayanıklı değildir — tek bir aşırı nokta bir bileşen ortalamasını çekebilir veya bir kovaryansı şişirebilir.
SSS
Düzenlileştirme sabiti lambda'yı nasıl seçerim?
Lambda değerleri üzerinde (örneğin, log ölçekte 1e-6 ila 1e-1) çapraz doğrulama ile tutulan log-olabilirlik değerini doğrulayın. Scikit-learn'de parametre reg_covar olarak adlandırılır ve varsayılan olarak 1e-6'dır, bu standartlaştırılmış veriler için uygundur ancak çok küçük veya yüksek boyutlu veri kümeleri için artırılması gerekebilir.
Bu, Bayesci bir GMM'den nasıl farklıdır?
Bir Bayesci GMM, bileşen parametreleri üzerinde tam bir öncelik (örneğin, Wishart veya Dirichlet süreci) koyar ve belirsizliği entegre eder. Düzenlileştirilmiş GMM, her kovaryansa yalnızca lambda*I ekleyen bir nokta-tahmin yöntemidir; daha basittir, daha hızlıdır ve genellikle kararlılık için yeterlidir, ancak bileşen şekilleri üzerinde arka belirsizlik sağlamaz.
Düzenlileştirme seçmem gereken küme sayısını değiştirir mi?
Düzenlileştirme, marjinal bileşenleri daha kararlı hale getirebilir, BIC veya AIC optimumlarını hafifçe şişirebilir. Lambda'yı ayarladıktan sonra her zaman model seçimini yeniden çalıştırın, standart GMM üzerinde K'yı seçip sonra düzenlileştirilmiş uydurmaya geçmek yerine.
Standart GMM'm yakınsıyor ancak kötü kümeler veriyor — düzenlileştirme kullanmalı mıyım?
Zorunlu değil. Standart GMM NaN olmadan yakınsıyorsa, kararsızlık sorun değildir. Kötü kümeler daha çok yanlış K, Gauss olmayan küme şekilleri veya ölçeklenmemiş özelliklerden kaynaklanır. Düzenlileştirme eklemeden önce bunları kontrol edin.
Anomali tespiti için Düzenlileştirilmiş bir GMM kullanabilir miyim?
Evet. Her gözlemin uydurulmuş model altındaki log-olabilirliğini hesaplayın; çok düşük olasılığa sahip noktalar anomalidir. Düzenlileştirme, yoğunluğun asla sonsuz olmamasını sağlar, küçük veri kümelerinde standart GMM'den daha güvenilir anomali puanları verir.
Kaynaklar
- Fraley, C. & Raftery, A. E. (2002). Model-based clustering, discriminant analysis, and density estimation. Journal of the American Statistical Association, 97(458), 611–631. DOI: 10.1198/016214502760047131 ↗
- Bishop, C. M. (2006). Pattern Recognition and Machine Learning (Ch. 9). Springer. ISBN: 978-0-387-31073-2
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Regularized Gaussian Mixture Model (Covariance-Regularized EM Clustering). ScholarGate. https://scholargate.app/tr/machine-learning/regularized-gaussian-mixture-model
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Bayesçi Gauss Karışım ModeliMakine öğrenmesi↔ karşılaştır
- K-ortalama KümelemeMakine öğrenmesi↔ karşılaştır
- Tek Sınıf SVMMakine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş K-Ortalamalar KümelemesiMakine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş k-En Yakın KomşuMakine öğrenmesi↔ karşılaştır