Bayes İstifleme Topluluğu
Bayesian Stacking Ensemble (Bayesian Stacking of Predictive Distributions) · Ayrıca şöyle bilinir: Bayesian stacking, Bayesian model stacking, stacking with Bayesian weights, predictive distribution stacking
Bayes istifleme, karışımın bırak-bir-dışarı-tahmini log skorunu maksimize eden negatif olmayan ağırlıklar bularak birkaç temel modelin tahmin edici dağılımlarını birleştirir. Yao, Vehtari, Simpson ve Gelman (2018) tarafından biçimlendirilen bu yöntem, çapraz doğrulama altında herhangi bir tekil bileşen modelden kanıtlanabilir şekilde en azından o kadar iyi olan tek bir kalibre edilmiş tahmin edici dağılım üretir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
İki veya daha fazla rakip olasılıklı modeliniz olduğunda ve yanlış belirtimlere karşı dayanıklı, prensipli, kalibre edilmiş bir kombinasyon istediğinizde Bayes istiflemeyi kullanın. Özellikle tek bir modelin bariz şekilde doğru olmadığı durumlarda, kalibre edilmiş belirsizliğin gerekli olduğu durumlarda (örn. klinik kararlar, risk tahmini) veya farklı önsel veya olabilirliklere sahip Bayes modellerinin karşılaştırıldığı durumlarda değerlidir. Modeller neredeyse aynı olduğunda (istifleme hiçbir fayda sağlamaz) veya çok büyük veri kümeleri için LOO'nun hesaplama maliyeti engelleyici olduğunda kullanmayın. Model eleştirisinin yerini tutmaz: kötü belirtilmiş temel modeller kötü bir karışım üretir.
Güçlü yönler & sınırlılıklar
- Nokta tahminleri yerine tam olarak kalibre edilmiş bir tahmin edici dağılım üretir, belirsizliği korur.
- Doğrudan tahmin edici doğruluk (LOO log skoru) için optimize eder, bu da onu teorik olarak sağlam yapar ve marjinal olabilirlik yaklaşımlarına bağlı değildir.
- Bayes model ortalamasından model yanlış belirtimine karşı daha dayanıklıdır.
- Dışbükey ağırlık optimizasyonu, yerel minimumlar olmadan küresel bir optimum garanti eder.
- Olasılıklı temel modellerin herhangi bir koleksiyonuyla, iç yapılarından bağımsız olarak uyumludur.
- Model yedekliliğini doğal olarak ele alır: iki model neredeyse aynıysa, biri sıfıra yakın ağırlık alır.
- Her temel modelin yalnızca nokta tahminleri değil, tam bir tahmin edici dağılım üretebilmesini gerektirir.
- LOO hesaplaması, önem örneklemesi ile yaklaştırılmadıkça büyük veri kümeleri için maliyetli olabilir.
- Çok az gözlemle, tahmin edici doğruluk için LOO tahminleri değişkendir, bu da ağırlık tahminlerini güvenilmez hale getirir.
- Kötü belirtilmiş temel modelleri iyileştirmez; çöp girerse çöp çıkar mantığı topluluk düzeyinde geçerlidir.
- Birleştirilmiş modelin yorumlanması, herhangi bir tekil temel modelin yorumlanmasından daha zordur.
SSS
Bayes istifleme, Bayes model ortalamasından nasıl farklıdır?
BMA, modelleri arka model olasılıkları (marjinal olabilirlikleri) ile ağırlıklandırır, bu da örneklem boyutu büyüdükçe ağırlığı tek bir modele odaklar. Bayes istifleme bunun yerine LOO tahmin edici doğruluğu optimize eder ve tamamlayıcı modeller arasında ağırlığı daha eşit dağıtır, bu da tüm modeller yanlış belirtildiğinde daha dayanıklı olmasını sağlar.
Kaç temel modele ihtiyacım var?
İki veya üç çeşitli model bile istiflemeden faydalanabilir. Önemli olan çeşitliliktir: verinin farklı bölgelerinde farklı hatalar yapan modeller. Neredeyse aynı modelleri eklemek, karışımı iyileştirmeden hesaplamayı boşa harcar.
Her zaman LOO mu gerekli, yoksa k-katlı çapraz doğrulama kullanabilir miyim?
LOO teorik olarak idealdir ve genellikle PSIS-LOO aracılığıyla verimli bir şekilde yaklaştırılır. Büyük veri kümeleri için, ağırlık optimizasyonu için gereken log tahmin edici skorları tahmin etmek üzere k-katlı çapraz doğrulama (örn. 10-katlı) kullanılabilir, ancak bazı yaklaşımlar pahasına.
Bayes istiflemeyi Bayes olmayan temel modellerle kullanabilir miyim?
Evet, Bayes olmayan modeller olasılıklı tahminler üretebiliyorsa (örn. rastgele orman veya Gauss süreci tarafından kalibre edilmiş olasılıklar). İstifleme optimizasyonu yalnızca tahmin edici yoğunlukları gerektirir, tam bir arka planı değil.
Hangi yazılım Bayes istiflemeyi destekliyor?
loo R paketi (Vehtari ve ark.) Bayes istiflemeyi uygulayan loo_model_weights() fonksiyonunu sağlar. Python'da ArviZ, LOO ve ağırlık hesaplamasını destekler; Stan ve PyMC modelleri temel modeller olarak doğal bir şekilde entegre olur.
Kaynaklar
- Yao, Y., Vehtari, A., Simpson, D., & Gelman, A. (2018). Using stacking to average Bayesian predictive distributions. Bayesian Analysis, 13(3), 917–1007. DOI: 10.1214/17-BA1091 ↗
- Wolpert, D. H. (1992). Stacked generalization. Neural Networks, 5(2), 241–259. DOI: 10.1016/S0893-6080(05)80023-1 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Bayesian Stacking Ensemble (Bayesian Stacking of Predictive Distributions). ScholarGate. https://scholargate.app/tr/machine-learning/bayesian-stacking-ensemble
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Bagging (Önyükleme Toplama)Makine öğrenmesi↔ karşılaştır
- YükseltmeMakine öğrenmesi↔ karşılaştır
- Gauss SüreciMakine öğrenmesi↔ karşılaştır
- Yığma (Stacking)Makine öğrenmesi↔ karşılaştır
- Oy Birliği TopluluğuMakine öğrenmesi↔ karşılaştır