Sağlam Ridge Regresyonu
Robust Ridge Regression · Ayrıca şöyle bilinir: ridge M-estimation, robust regularized regression, M-estimator ridge, outlier-resistant ridge regression
Sağlam Ridge regresyonu, M-tahminini L2 (ridge) düzenlileştirmesiyle birleştirerek, hem aykırı değerlere karşı dirençli hem de çoklu doğrusallık altında kararlı katsayı tahminleri üretir. Bu, karesel normuyla cezalandırılmış sağlam bir kayıp fonksiyonunu (Huber gibi) minimize eder, etkili gözlemleri azaltırken ilişkili öngörücüleri sıfıra doğru küçültür.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Veriler aynı anda iki sorunla karşı karşıya kaldığında Sağlam Ridge regresyonunu kullanın: öngörücüler arasında çoklu doğrusallık ve aykırı değerlerin veya ağır kuyruklu hataların varlığı. Özellikle yüksek riskli uygulamalı çalışmalarda — tıbbi, çevresel veya ekonomik veriler — bir avuç anormal gözlemin aksi takdirde standart bir ridge çözümünü bozabileceği durumlarda değerlidir. Ayrıca, düz ridge regresyonundaki kalıntı tanıları etkili noktalar ortaya koyduğunda ancak silme haklı görülmediğinde de uygundur. Veriler temiz ve Gauss olduğunda, sağlam kayıp OLS veya standart ridge'e göre küçük bir verimlilik maliyeti getirdiği için kullanmayın. Ayrıca sürekli olmayan sonuçlar için uygun değildir; sayım veya ikili veriler için sağlam GLM varyantlarını kullanın.
Güçlü yönler & sınırlılıklar
- Standart ridge ve düz sağlam regresyonun yalnızca ayrı ayrı ele aldığı çoklu doğrusallığı ve aykırı değer bulaşmasını aynı anda ele alır.
- Manuel silme gerektirmeden etkili gözlemleri otomatik olarak azaltır, örneklem boyutunu korur.
- L2 cezası, öngörücüler güçlü bir şekilde ilişkili olduğunda (yüksek VIF) tahmini kararlı tutar.
- Iteratif olarak yeniden ağırlıklandırılmış en küçük kareler (IRLS) uygulaması hesaplama açısından basittir ve standart istatistiksel yazılımlarda mevcuttur.
- Sağlam ölçek tahmini, birden fazla aykırı değerin birbirini gizlediği maskeleme durumlarına karşı koruma sağlar.
- Verilerin gerçekten Gauss ve aykırı değer içermediği durumlarda, sağlam kayıp fonksiyonu nedeniyle standart ridge'den biraz daha az verimlidir.
- İki ayarlama parametresinin seçilmesini gerektirir: sağlamlık eşiği (örneğin, Huber'in k'si) ve ridge cezası λ, model seçimini karmaşıklaştırır.
- IRLS yakınsaması tüm uygulamalarda garanti edilmez; başlangıç değerleri ve yakınsama kriterleri önemlidir.
- Değişken seçimi yapmaz; tüm öngörücüler modelde kalır (seyreklik için sağlam LASSO kullanın).
- Teori ve yazılım desteği sıradan ridge'e göre daha az standartlaştırılmıştır, bu nedenle sonuçlar paketler arasında değişebilir.
SSS
Sağlam Ridge, sıradan ridge regresyonundan nasıl farklıdır?
Standart ridge, aykırı değerler de dahil olmak üzere her gözleme eşit ağırlık verir. Sağlam ridge, karesel kaybı sınırlı bir sağlam kayıpla (örneğin, Huber) değiştirir, ardından her gözleme kalıntısının ne kadar aşırı olduğuna ters orantılı bir ağırlık atar. Her iki yöntem de bir L2 cezası uygular, ancak sağlam sürüm aykırı değerlere duyarsızdır.
Sağlam Ridge'de ridge cezası λ nasıl seçilir?
Sağlam bir kritere (örneğin, kalıntıların medyan mutlak sapması) dayalı çapraz doğrulama, sıradan MSE tabanlı CV'ye tercih edilir, çünkü MSE'nin kendisi aykırı değerlere duyarlıdır. Bazı uygulamalar, M-tahmin edicileri için uyarlanmış genelleştirilmiş çapraz doğrulamayı (GCV) kullanır.
Sağlam Ridge ne kadar kırılma noktası elde eder?
Kırılma noktası, seçilen ψ fonksiyonuna bağlıdır. Huber M-tahmin edicileri, konumda %50'ye kadar ancak regresyonda daha düşük kırılma noktalarına sahiptir. Yüksek kırılma noktasına sahip başlangıç tahmin edicileri (örneğin, LTS), maskelemeyi önlemek için başlangıç değerleri olarak önerilir.
Değişken seçimi için Sağlam Ridge kullanılabilir mi?
Hayır. L2 cezası tüm katsayıları küçültür ancak hiçbirini tam olarak sıfıra ayarlamaz. Eşzamanlı aykırı değer direnci ve değişken seçimi için Sağlam LASSO (sağlam kayıplı L1 cezası) veya Sağlam Elastik Ağ kullanın.
Hangi yazılım paketleri Sağlam Ridge regresyonunu uygular?
R'de, 'rrridge' ve 'robustbase' paketleri ilgili işlevsellik sunar; özel IRLS döngüleri de basittir. Python'da, scikit-learn'in HuberRegressor'u bir L2 cezası ile genişletilebilir. Stata kullanıcıları tipik olarak IRLS'yi manuel olarak uygular veya kullanıcı tarafından yazılmış komutları kullanır.
Kaynaklar
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Robust Ridge Regression. ScholarGate. https://scholargate.app/tr/statistics/robust-ridge-regression
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Elastic Net Regresyonuİstatistik↔ karşılaştır
- Lasso RegresyonuMakine öğrenmesi↔ karşılaştır
- Ridge Regression (Sırt Regresyonu)Makine öğrenmesi↔ karşılaştır
- Sağlam Çoklu Doğrusal Regresyonİstatistik↔ karşılaştır
- Sağlam Regresyonİstatistik↔ karşılaştır