Sağlam Regresyon
Robust Regression · Ayrıca şöyle bilinir: M-estimation regression, robust linear regression, outlier-resistant regression, MM-estimation
Sağlam regresyon, aykırı değerlerin ve kaldıraç noktalarının etkisini keskin bir şekilde azaltırken, sürekli bir sonuç ile öngörücüler arasındaki doğrusal ilişkiyi tahmin eder. Aşırı gözlemlere oldukça duyarlı olan En Küçük Kareler (OLS) yönteminin aksine, sağlam yöntemler tipik olmayan veri noktalarına daha az ağırlık atayarak, verilerin bir kısmının bozuk veya normal dağılmamış olması durumunda bile katsayı tahminlerinin kararlı kalmasını sağlar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
+17 tane daha
Ne zaman kullanılır
OLS hatalarının ağır kuyruklu olduğu veya veri giriş hatası olmayan ancak etik olarak silinemeyen belirgin aykırı değerler içerdiği durumlarda sağlam regresyon kullanın. Özellikle aykırı değerlerin teorik temellere dayanarak beklendiği (örn. finansal getiriler, anket gelirleri, biyolojik deneyler) veya ön tanılama (Cook'un D'si, kaldıraç grafikleri) etkili gözlemleri ortaya çıkardığı durumlarda uygundur. Sağlam regresyon, verilerin çoğunluğunun varsayılan doğrusal modeli izlediğini varsayar — fonksiyonel formun büyük ölçüde yanlış belirtilmesini ele almaz veya uygun veri temizliğini gerektirmez. Tüm gözlemlerin güvenilir olduğu ve normal dağılımlı hataların makul olduğu durumlarda kullanmayın; OLS o zaman daha yüksek verimliliğe sahiptir. İkili, sayım veya sıralı sonuçlar için, sağlam doğrusal regresyon yerine uygun Genelleştirilmiş Doğrusal Modeli (GLM) kullanın.
Güçlü yönler & sınırlılıklar
- Aykırı değerler ve kaldıraç noktalarından kaynaklanan katsayı tahminlerinin ve standart hataların bozulmasına direnç gösterir.
- Hatalar gerçekten Gauss olsa bile, ayarlama sabitine bağlı olarak makul verimliliği (OLS'nin %95'ine kadar) korur.
- MM-tahmini, yüksek asimptotik verimliliği korurken yüksek bir kırılma noktası (yüzde 50'ye kadar) elde eder — sağlam yöntemler arasında altın standarttır.
- Doğal bir tanı sağlar: son gözlem ağırlıkları potansiyel aykırı değerleri otomatik olarak işaretler.
- OLS ile aynı genişlikteki doğrusal model yapılarına (çoklu öngörücüler, etkileşimler, polinomlar) uygulanabilir.
- OLS'den hesaplama açısından daha yoğundur; yakınsama iyi başlangıç değerlerine (genellikle en az kırpılmış kareler yoluyla elde edilen) bağlıdır.
- Çıkarım asimptotik olarak geçerlidir ancak çok küçük örneklemlerde (n < 30) güvenilmez olabilir.
- Doğrusallığı veya modelin yanlış belirtilmesini ele almaz — yalnızca aksi takdirde doğrusal ilişkilerin aykırı değerlerle kirlenmesini ele alır.
- Kayıp fonksiyonunun (Huber, bisquare, Hampel) ve ayarlama sabitlerinin seçimi sonuçları etkiler; evrensel olarak en iyi tek bir seçenek yoktur.
- OLS'den daha az yaygın olarak standart yazılımlarda uygulanır ve çıktı formatları paketler arasında değişiklik gösterir.
SSS
Sağlam regresyon OLS'den nasıl farklıdır?
OLS, aykırı değerlere oldukça duyarlı hale getiren kareleştirilmiş hataların toplamını minimize eder. Sağlam regresyon, sınırlı veya daha yavaş büyüyen bir kayıp fonksiyonunu minimize eder, bu nedenle aşırı gözlemler daha düşük ağırlık alır ve uydurulan doğru üzerinde çok daha az etkiye sahip olur.
Kırılma noktası nedir?
Kırılma noktası, tahmin edicinin tahminlerinin sınırsız hale gelmeden önce tolere edebileceği maksimum kontamine veri oranıdır. OLS'nin kırılma noktası 0'dır (tek bir aykırı değer onu bozabilir); MM-tahmin edicileri %50'ye kadar ulaşabilir.
Huber veya bisquare (Tukey) ağırlıklarını kullanmalı mıyım?
Huber ağırlıkları eşiğin ötesinde doğrusal kalır, bu nedenle aykırı değerler hala bir miktar etki gösterir. Bisquare (Tukey) ağırlıkları ayarlama sabitinin ötesinde sıfıra düşer, bu da daha güçlü direnç sağlar. Aykırı değerlerin gerçekten anormal olduğu şüphelenildiğinde genellikle bisquare tercih edilir; Huber daha hafiftir ve tipik olmayan noktaların gerçek bilgi taşıyabileceği durumlarda tercih edilebilir.
Sürekli olmayan sonuçlar için sağlam regresyon kullanabilir miyim?
Standart sağlam regresyon sürekli bir sonucu hedefler. İkili, sayım veya sıralı sonuçlar için, o sonuç türü için tasarlanmış sağlam bir GLM veya quasi-olabilirlik tahmin edicisi kullanın.
Sağlam regresyon artık tanı gereksinimini ortadan kaldırır mı?
Hayır. Son yinelemenin gözlem ağırlıkları bir aykırı değer tanısı olarak hizmet eder, ancak yine de hata grafiklerini incelemeli, model uyumunu değerlendirmeli ve konu alanı ile ilgili anlamlarını anlamak için ağır şekilde ağırlığı azaltılmış gözlemleri araştırmalısınız.
Kaynaklar
- Huber, P. J. (1964). Robust estimation of a location parameter. The Annals of Mathematical Statistics, 35(1), 73–101. DOI: 10.1214/aoms/1177703732 ↗
- Hampel, F. R., Ronchetti, E. M., Rousseeuw, P. J., & Stahel, W. A. (1986). Robust Statistics: The Approach Based on Influence Functions. Wiley. ISBN: 978-0471735779
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Robust Regression. ScholarGate. https://scholargate.app/tr/statistics/robust-regression
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Lasso RegresyonuMakine öğrenmesi↔ karşılaştır
- En Az Kırpılmış Kareler (EAK) Regresyonuİstatistik↔ karşılaştır
- En Küçük Kareler (EK) RegresyonuEkonometri↔ karşılaştır
- Kuantil RegresyonuEkonometri↔ karşılaştır
- Ridge Regression (Sırt Regresyonu)Makine öğrenmesi↔ karşılaştır
- Ağırlıklı En Küçük Kareler (AEKK)İstatistik↔ karşılaştır