Ridge Regression (Sırt Regresyonu)
Ridge Regression (L2-Regularized Linear Regression) · Ayrıca şöyle bilinir: Ridge Regresyonu, ridge regresyonu, L2-regularized regression, Tikhonov regularization
Ridge Regression (Sırt Regresyonu), Arthur Hoerl ve Robert Kennard tarafından 1970'te tanıtılan, katsayıların büyüklüğüne bir ceza ekleyerek çoklu doğrusallığı azaltan L2-düzenlileştirilmiş bir doğrusal regresyon yöntemidir. Katsayıları tam olarak sıfıra indirmeden sıfıra doğru daraltır, bu da öngörücüler yüksek oranda ilişkiliyken daha kararlı tahminler üretir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
+22 tane daha
Ne zaman kullanılır
Çoklu doğrusallığın mevcut olduğu ve değişkenler arasında seçim yapmak yerine tüm değişkenleri tutmak istediğiniz durumlarda, sürekli, ikili veya sayım öngörücüleriyle tahmin için Ridge Regression (Sırt Regresyonu) kullanın. Kabaca doğrusal bir ilişki ve en az yaklaşık 30 gözlem varsayar. Özellikler önce standartlaştırılmalıdır. Örnekler küçük ve doğrusallık hafif olduğunda, düz doğrusal regresyon daha yorumlanabilirdir; değişken seçimi amaçlandığında, LASSO veya Elastic Net tercih edilir.
Güçlü yönler & sınırlılıklar
- L2 cezası ekleyerek çoklu doğrusallığı azaltır ve katsayı tahminlerini stabilize eder.
- Her öngörücüyü modelde tutar — katsayılar daralır ancak hiçbiri sıfıra indirilmez.
- Küçük bir yanlılık artışı pahasına varyansı düşürür, genellikle tahmini iyileştirir.
- Tek, kolayca ayarlanabilen bir hiperparametresi (alfa) vardır, çapraz doğrulama ile seçilir.
- Normal dağılmış veri gerektirmeyen sürekli, ikili ve sayım öngörücüleriyle çalışır.
- LASSO'nun yapabildiği gibi ilgisiz öngörücüleri sıfırlayamadığı için değişken seçimi yapmaz.
- Cezanın büyük ölçekli değişkenleri haksız yere kayırmaması için özelliklerin standartlaştırılmasını gerektirir.
- Öngörücüler ve sonuç arasındaki doğrusal bir ilişkiyi varsayar.
- Küçük örneklemlerde (yaklaşık 30'un altındaki n) çapraz doğrulama ile alfa ayarlamak güvenilmezdir ve düz OLS yeterli olabilir.
- Doğrusallık aslında bir sorun olmadığında, daralma gereksizdir ve yorumlanabilirliği azaltır.
SSS
Ridge, LASSO'dan nasıl farklıdır?
Her ikisi de katsayıları daraltmak için bir ceza ekler, ancak Ridge, katsayıları asla sıfıra ulaşmadan sıfıra doğru daraltan bir L2 cezası kullanır, bu nedenle tüm öngörücüler modelde kalır. LASSO, katsayıları tam olarak sıfıra ayarlayabilen ve değişken seçimi yapan bir L1 cezası kullanır. İlişkili öngörücüleri stabilize etmek için Ridge'i ve seyrek bir model istediğinizde LASSO'yu seçin.
Özelliklerimi standartlaştırmam gerekiyor mu?
Evet. Özelliklerin standartlaştırılması gerekir, çünkü L2 cezası katsayıların büyüklüğüne etki eder; standartlaştırma olmadan ceza, daha büyük ölçeklerde ölçülen değişkenleri haksız yere daraltır.
Ceza gücü alfayı nasıl seçerim?
Alfayı çapraz doğrulama ile seçin: bir dizi değeri tarayın ve çapraz doğrulanan ortalama karesel hatayı en aza indiren değeri seçin. CV MSE eğrisini alfa'ya karşı çizmek, optimumun nerede yattığını gösterir.
Ne zaman Ridge kullanmamalıyım?
Gerçek çoklu doğrusallık yoksa, Ridge gereksiz daralma ekler ve düz bir doğrusal regresyon daha yorumlanabilirdir. Çok küçük örneklemlerde (yaklaşık 30'un altındaki n), alfa ayarlamak güvenilmezdir ve ilgisiz değişkenleri düşürmeniz gerekiyorsa bunun yerine LASSO veya Elastic Net kullanmalısınız.
Kaynaklar
- Hoerl, A.E. & Kennard, R.W. (1970). Ridge Regression: Biased Estimation for Nonorthogonal Problems. Technometrics, 12(1), 55–67. DOI: 10.1080/00401706.1970.10488634 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 1). Ridge Regression (L2-Regularized Linear Regression). ScholarGate. https://scholargate.app/tr/machine-learning/ridge-regression
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Elastic NetMakine öğrenmesi↔ karşılaştır
- Lasso RegresyonuMakine öğrenmesi↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Temel Bileşen AnaliziMakine öğrenmesi↔ karşılaştır