Bayesian Lojistik Regresyon
Bayesian Logistic Regression · Ayrıca şöyle bilinir: bayesian binary logistic regression, bayesian classification model, Bayesian Lojistik Regresyon
Bayesian lojistik regresyon, ikili veya çok terimli sonuçlar için lojistik (sigmoid) bir olasılığa Bayesian çıkarım uygulayan bir sınıflandırma modelidir. Gelman, Jakulin, Pittau ve Su (2008) tarafından biçimselleştirilen zayıf bilgilendirici önsel dağılım çerçevesi içinde geliştirilen bu model, katsayılar üzerine bir önsel dağılım yerleştirir ve bu önseli veri olasılığı ile birleştirerek her parametre için tam bir sonsal dağılım elde eder — küçük örneklemlerde, nadir olay durumlarında veya sıkı olasılıklı maksimum olabilirlik tahmininin çöktüğü tam ayrım vakalarında bile kalibre edilmiş sınıf olasılıkları ve dürüst belirsizlik sunar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
+2 tane daha
Ne zaman kullanılır
Bayesian lojistik regresyon, sonuç ikili (veya çok terimli) olduğunda ve aşağıdaki durumlardan herhangi biri geçerli olduğunda tercih edilen seçenektir: örneklem küçüktür (minimum yaklaşık n = 20), bazı sonuç hücreleri ince olduğundan olaylar nadirdir veya tam veya yarı-tam ayrım, MLE tahminlerini sonsuz yapar. Ayrıca, gerçek önsel bilginin resmi olarak dahil edilmesi gereken veya katsayılar ve tahmin edilen olasılıklar üzerindeki tam sonsal belirsizliğin gerekli olduğu durumlar için de uygundur — örneğin, aşağı akış kararları olasılık tahmininin ne kadar belirsiz olduğuna bağlı olduğunda. Örneklem büyük ve ayrım yoksa, sıkı olasılıklı lojistik regresyon daha düşük hesaplama maliyetiyle neredeyse aynı nokta tahminlerini verir.
Güçlü yönler & sınırlılıklar
- Tam veya yarı-tam ayrım altında kararlılığını korur — önsel, olasılığı düzenler ve MLE'nin saptığı yerde katsayı tahminlerini sonlu tutar.
- Her bir katsayı ve tahmin edilen olasılık için tam sonsal dağılımlar üretir, asimptotik yaklaşımlar yerine dürüst güven aralıkları sunar.
- Önsel bilgi resmi olarak dahil edilebilir, nadir olay veya küçük örneklem bağlamlarında tahminleri iyileştirir.
- Sonsal öngörücü kontrolleri, tek bir iyi uyum istatistiğinin ötesinde model yeterliliğini değerlendirmek için ilkeli bir yol sağlar.
- n çok küçük olduğunda (20 minimumuna yaklaştığında), sonsal önsel tarafından domine edilir; veri az katkıda bulunur ve sonuçlar önsel seçimine duyarlıdır.
- Önsel duyarlılık analizi, makul alternatif önsellerle sonsalın önemli ölçüde kaydığını gösterirse, MLE'ye karşı Bayesian avantajı azalır.
- MCMC örneklemesi, tek bir MLE optimizasyonundan daha hesaplama yoğundur ve sonuçların güvenilir olabilmesi için yakınsama doğrulanmalıdır.
- Büyük, iyi ayrılmış örneklemler ve özel gereksinimler olmadığında, sıkı olasılıklı lojistik regresyon genellikle yeterlidir ve önemli ölçüde daha hızlıdır.
SSS
Tam ayrım nedir ve neden önemlidir?
Tam ayrım, bir öngörücünün (veya öngörücülerin birleşiminin) örneklemdeki sonucu mükemmel bir şekilde tahmin ettiği durumda ortaya çıkar — belirli bir eşiğin üzerindeki x değerine sahip her vaka y = 1, altındaki her vaka ise y = 0'dır. Sıkı olasılıklı MLE, katsayıyı sonsuza doğru iterek yanıt verir (olasılık sonsuz eğimde maksimize edilir). Bir Bayesian önseli, tahmini sonlu ve yorumlanabilir tutar; bu, Bayesian lojistik regresyonu seçmek için en zorlayıcı pratik nedenlerden biridir.
Katsayılar için önseli nasıl seçerim?
Gelman vd. (2008), tüm öngörücüleri standartlaştırmayı ve katsayılar üzerine bir Cauchy(0, 2.5) veya Normal(0, 2.5) önseli yerleştirmeyi önerir. Bu zayıf bilgilendiricidir: çok büyük katsayılara (pratikte nadiren ortaya çıkan) ihmal edilebilir önsel olasılık atar, ancak n yeterli olduğunda verinin baskın olmasına yetecek kadar yaygındır. Gerçek önsel bilginiz varsa, bunu doğrudan kodlayın. Hangi önseli kullanırsanız kullanın, bir duyarlılık analizi yapın — makul bir alternatifle değiştirdiğinizde sonsal önemli ölçüde kayarsa, belirsizliği işaretleyin.
MCMC zincirlerimin yakınsadığını nasıl anlarım?
Her parametre için R-hat değerini inceleyin: kabaca 1.01'in altındaki değerler zincirlerin karıştığını gösterir. Etkili örneklem boyutunu (ESS) de inceleyin — parametre başına en az birkaç yüz etkili çizim, kararlı sonsal özetler için tipiktir — ve izleme grafiklerini durağanlık ve iyi karışım için görsel olarak inceleyin. Bu tanıların herhangi biri başarısız olursa, sonuçları yorumlamadan önce daha uzun zincirler çalıştırın, ısınmayı artırın veya modeli yeniden parametrelendirin.
Bayesian lojistik regresyon, düzenlileştirilmiş lojistik regresyondan (örn. Lasso veya Ridge) nasıl farklıdır?
Düzenlileştirilmiş (cezalı) sıkı olasılıklı lojistik regresyon, log-olasılığa bir ceza ekler ve tek bir cezalı nokta tahmini döndürür; ceza örtük olarak bir önsele karşılık gelir, ancak sonuç bir nokta, bir dağılım değil. Bayesian lojistik regresyon, her katsayı üzerindeki tam sonsal dağılımı döndürür, böylece sadece tahminin nerede olduğunu değil, aynı zamanda ne kadar belirsiz olduğunu da bilirsiniz. Bayesian güven aralıkları, sonsal öngörücü kontrolleri ve tekli çapraz doğrulama yoluyla model karşılaştırması doğal çıktılardır; bunlardan hiçbiri düzenlileştirilmiş MLE'den otomatik olarak ortaya çıkmaz.
Kaynaklar
- Gelman, A., Jakulin, A., Pittau, M. G. & Su, Y.-S. (2008). A Weakly Informative Default Prior Distribution for Logistic and Other Regression Models. Annals of Applied Statistics, 2(4), 1360–1383. DOI: 10.1214/08-AOAS191 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 1). Bayesian Logistic Regression. ScholarGate. https://scholargate.app/tr/bayesian/bayesian-logistic-regression
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Bayes RegresyonuBayesçi↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Markov Chain Monte Carlo (MCMC)Bayesçi↔ karşılaştır