Bayes LASSO Regresyonu
Bayesian Least Absolute Shrinkage and Selection Operator Regression · Ayrıca şöyle bilinir: Bayesian LASSO, Bayesian L1 regression, double-exponential prior regression, Laplace prior regression
Bayes LASSO regresyonu, regresyon katsayılarına çift üstel (Laplace) önsel dağılımlar yerleştirir; bu, klasik LASSO cezasının Bayesçi karşılığıdır. Küçük katsayıları eş zamanlı olarak sıfıra doğru küçültür ve yumuşak değişken seçimi yapar; tüm bunlar, güven aralıkları aracılığıyla parametre belirsizliğini doğal olarak ölçen tutarlı bir sonsal çıkarım çerçevesinde gerçekleşir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Sürekli bir sonuç değişkeniniz olduğunda, örneklem boyutuna göre potansiyel olarak çok sayıda öngörücünüz olduğunda ve otomatik küçülme ve yumuşak değişken seçimi ile birlikte sonsal güven aralıkları aracılığıyla dürüst belirsizlik ölçümü istediğinizde Bayes LASSO'yu kullanın. Özellikle küçülme gücü hakkında önsel bilgiyi dahil etmek istediğinizde veya klasik LASSO'nun güven aralığı eksiklikleri uygulamanız için önemli olduğunda değerlidir. Kesin seyrek çözümler gerektirdiğinizde (küçük katsayılar için sonsal mod tam olarak sıfır olmayabilir), çok sayıda öngörücünüz olduğunda ve hesaplama hızı kritik olduğunda (MCMC kötü ölçeklenir) veya basit, hızlı ve şeffaf bir şekilde yorumlanabilir bir nokta tahmini yeterli olduğunda kaçının.
Güçlü yönler & sınırlılıklar
- Küçülmeden sonra tahmin belirsizliğini doğru bir şekilde yansıtan güven aralıkları sağlayan tüm katsayılar için tam sonsal dağılımlar sağlar.
- Ayrı bir model seçimi adımı olmaksızın otomatik küçülme ve yumuşak değişken seçimini eş zamanlı olarak gerçekleştirir.
- λ üst parametresi, çapraz doğrulama ihtiyacını ortadan kaldırarak verilerden bir üst-önsel aracılığıyla tahmin edilebilir.
- OLS'ye göre orta düzeyde çoklu doğrusallığa daha dayanıklıdır: Laplace önseli, doğrusal yönlerde güçlü düzenlileştirme sağlar.
- Sadece β üzerindeki önseli değiştirerek hiyerarşik ve genelleştirilmiş lineer ayarlara doğal olarak genişler.
- Sonsal ortalama veya medyanlarda tam sıfırlar üretmez; sıfıra yakın kütle doğrudan okunmak yerine yorumlanmalıdır.
- MCMC hesaplaması, klasik LASSO için koordinat iniş algoritmalarından önemli ölçüde daha yavaştır, bu da çok yüksek boyutlu problemlere ölçeklenmeyi sınırlar.
- Sonuçlar, λ için üst-önsel seçimine bağlıdır; kötü belirtilmiş bir üst-önsel, yetersiz veya aşırı küçülmeye neden olabilir.
- Birçok öngörücü korelasyonlu olduğunda sonsal karışım yavaş olabilir, dikkatli MCMC yakınsama tanıları gerektirir.
SSS
Bayes LASSO katsayıları tam olarak sıfıra ayarlar mı?
Hayır. Klasik LASSO'nun aksine, sonsal dağılım her yerde pozitif kütle atar, bu nedenle sonsal ortalama ve medyan asla tam olarak sıfır olmaz. Küçük katsayılar sıfıra doğru güçlü bir şekilde küçültülür ancak kalan belirsizliği korur. Kesin değişken seçimi için, sonsal güven aralıklarını inceleyin veya bunun yerine spike-and-slab önsel dağılımlarını kullanın.
Bayes LASSO, Bayes Ridge regresyonundan nasıl farklıdır?
Bayes Ridge regresyonu, katsayılara Gauss (normal) önsel dağılımlar yerleştirir, L2-cezalı sonsal modlar ve nazik, düzgün küçülme üretir. Bayes LASSO, sıfırda daha sivri ve daha ağır kuyruklu olan Laplace (çift üstel) önsel dağılımlarını kullanır; bu, küçük katsayılar için daha güçlü küçülme sağlarken büyük katsayıların nispeten küçülmeden kalmasına izin verir — L1'e karşı L2 cezaların Bayesçi karşılığıdır.
Küçülme parametresi λ nasıl seçilir?
λ, bir gama üst-önsel alabilir ve MCMC'nin bir parçası olarak verilerden tahmin edilebilir — Park ve Casella (2008) tarafından savunulan tam Bayesçi yaklaşım. Alternatif olarak, λ, klasik LASSO'nun cezasını ayarlama şeklini yansıtarak ampirik Bayes (marjinal olabilirlik maksimizasyonu) veya çapraz doğrulama ile sabitlenebilir.
Ne zaman klasik LASSO veya Elastic Net yerine Bayes LASSO'yu tercih etmeliyim?
Kesin sıfır katsayılara sahip hızlı, seyrek bir çözüm istiyorsanız ve sonsal güven aralıklarına ihtiyacınız yoksa, koordinat inişi ile hesaplanan klasik LASSO veya Elastic Net çok daha hızlıdır ve çok yüksek boyutlara ölçeklenir. Belirsizlik ölçümü, hiyerarşik modelleme veya önsel belirleme önemli olduğunda Bayes LASSO'yu tercih edin.
Bayes LASSO genelleştirilmiş lineer modellere uygulanabilir mi?
Evet. Laplace önseli, herhangi bir GLM'nin (lojistik, Poisson vb.) katsayılarına yerleştirilebilir ve çıkarım Metropolis-within-Gibbs veya varyasyonel yaklaşımlar aracılığıyla ilerler. Stan, PyMC ve monomvn gibi R paketleri bu genişlemeleri destekler.
Kaynaklar
- Park, T., & Casella, G. (2008). The Bayesian Lasso. Journal of the American Statistical Association, 103(482), 681–686. DOI: 10.1198/016214508000000337 ↗
- Tibshirani, R. (1996). Regression Shrinkage and Selection via the Lasso. Journal of the Royal Statistical Society: Series B, 58(1), 267–288. DOI: 10.1111/j.2517-6161.1996.tb02080.x ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Bayesian Least Absolute Shrinkage and Selection Operator Regression. ScholarGate. https://scholargate.app/tr/statistics/bayesian-lasso-regression
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Bayesçi Çoklu Doğrusal Regresyonİstatistik↔ karşılaştır
- Bayesian Ridge Regression (Bayesçi Ridge Regresyonu)Makine öğrenmesi↔ karşılaştır
- Elastic Net Regresyonuİstatistik↔ karşılaştır
- Lasso RegresyonuMakine öğrenmesi↔ karşılaştır
- Ridge Regression (Sırt Regresyonu)Makine öğrenmesi↔ karşılaştır