Çoklu Doğrusal Regresyon
Multiple Linear Regression (Ordinary Least Squares) · Ayrıca şöyle bilinir: MLR, OLS regression, multiple regression, linear regression with multiple predictors, multivariate linear regression
Çoklu doğrusal regresyon (ÇDR), sürekli bir sonucu, iki veya daha fazla öngörücü değişkenin ağırlıklı doğrusal birleşiminin yanı sıra rastgele bir hata terimi olarak ifade eden parametrik bir regresyon modelidir. Bilinmeyen ağırlıklar (regresyon katsayıları), artıkların kareleri toplamını en aza indiren en küçük kareler (EKK) yöntemiyle tahmin edilir. Yöntem, Francis Galton'ın 1886'daki kalıtsal boy üzerine çalışmalarına dayanır ve Karl Pearson tarafından sağlam matematiksel temellere oturtulmuştur; Draper ve Smith'in 1966 tarihli ders kitabı, bunu uygulamalı regresyon için standart çerçeve olarak kabul ettirmiştir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
+11 tane daha
Ne zaman kullanılır
Sonuç değişkeni sürekli olduğunda, öngörücüler ve sonuç arasındaki ilişkinin yaklaşık olarak doğrusal olduğunda, gözlemler bağımsız olduğunda ve etkilerini eş zamanlı olarak ölçmek istediğiniz iki veya daha fazla öngörücünüz olduğunda çoklu doğrusal regresyon kullanın. Beş klasik varsayım geçerli olmalıdır: (1) doğrusallık — kısmi regresyon grafikleriyle kontrol edin; (2) hataların bağımsızlığı — veriler zaman sıralıysa Durbin–Watson ile kontrol edin; (3) homoskedastisite — artık-değerlere-karşı-uydurulan grafikler ve Breusch–Pagan testi ile kontrol edin; (4) artıkların yaklaşık normalliği — bir Q-Q grafiği veya Shapiro–Wilk testi ile kontrol edin; (5) mükemmel çoklu doğrusal bağlantının yokluğu — varyans şişirme faktörleri (yaygın bir kural olarak VIF < 10) ile kontrol edin. ÇDR, ikili veya sayım sonuçları için (lojistik veya Poisson regresyonu kullanın), dönüşüm olmadan güçlü doğrusal olmayan ilişkiler için veya öngörücü sayısı örneklem boyutuna yaklaştığında veya aştığında uygun değildir.
Güçlü yönler & sınırlılıklar
- Doğrudan yorumlanabilir katsayılar üretir: her β̂_j, diğer tüm öngörücüleri sabit tutarak, öngörücü j'deki birim artış başına sonucun beklenen değişimini ölçer.
- Tek bir model içinde tam bir çıkarımsal çerçeve sağlar — katsayı t-testleri, genel F-testi, güven aralıkları.
- EKK tahmin edicisi, büyük veri kümelerinde bile analitik olarak kesin ve hesaplama açısından verimlidir.
- Son derece esnektir: kategorik öngörücüler kukla değişkenler olarak dahil edilebilir ve etkileşimler veya polinom terimleri, temel doğrusal cebiri değiştirmeden eklenebilir.
- Son derece iyi belgelenmiştir: bir asırlık istatistiksel teori, özelliklerini, teşhislerini ve uzantılarını destekler.
- Model parametrelerde kesinlikle doğrusaldır; gerçek doğrusal olmayanlığı yakalamak açık dönüşümler veya etkileşim terimleri gerektirir.
- Öngörücüler yüksek oranda ilişkili olduğunda (çoklu doğrusal bağlantı) performans düşer, standart hataları şişirir ve katsayı tahminlerini kararsız hale getirir.
- Aykırı değerler ve etkili gözlemler, karesel kayıp fonksiyonu büyük artıkları ağır şekilde cezalandırdığı için EKK tahminlerini önemli ölçüde bozabilir.
- Örneklem boyutuna kıyasla çok sayıda öngörücü aşırı uyuma yol açar; bu rejimde cezalandırılmış alternatifler (ridge, lasso) tercih edilir.
- Homoskedastisite veya artıkların normalliğinin ihlalleri, küçük örneklemlerde standart çıkarımı geçersiz kılar.
SSS
Öngörücü sayısına göre kaç gözleme ihtiyacım var?
Yaygın olarak atıfta bulunulan bir kural, güvenilir katsayı tahminleri ve geçerli çıkarım için öngörücü başına en az 10-20 gözlemdir. Öngörücülerden daha az gözlemle, tasarım matrisi rank eksikliği gösterir ve EKK'nin benzersiz bir çözümü yoktur; bunun yerine cezalandırılmış regresyon (ridge, lasso) gereklidir.
R² ve ayarlanmış R² arasındaki fark nedir?
R², model tarafından açıklanan sonuç varyansının oranını ölçer ve herhangi bir öngörücü eklendiğinde, ilgisiz bir öngörücü bile olsa her zaman artar. Ayarlanmış R², her ek öngörücüyü serbestlik derecelerini hesaba katarak cezalandırır, bu nedenle yeni bir öngörücü anlamlı bir katkı sağlamazsa azalabilir. Farklı sayıda öngörücüye sahip modelleri karşılaştırırken ayarlanmış R² kullanın.
VIF değerlerim 5'in üzerinde — çoklu doğrusal bağlantıdan endişe etmeli miyim?
5'in (veya alanın sözleşmesine bağlı olarak 10'un) üzerindeki bir VIF, öngörücünün varyansının diğer öngörücülerle olan korelasyon nedeniyle şişirildiğini gösterir. Bu, katsayıları yanlı hale getirmez ancak standart hatalarını şişirir, bu da bireysel etkileri tespit etmeyi zorlaştırır. Çözümler arasında değişkenleri merkezlemek, gereksiz öngörücüleri kaldırmak, ilişkili öngörücüleri birleştirmek (örneğin, PCA aracılığıyla) veya ridge regresyonuna geçmek yer alır.
Kategorik öngörücülerle çoklu doğrusal regresyon kullanabilir miyim?
Evet. k seviyeli kategorik bir değişken, bir seviye referans kategori olarak hizmet etmek üzere k − 1 kukla değişken (ikili 0/1 göstergeleri) olarak kodlanır. Her kukla değişkenin regresyon katsayısı, diğer tüm öngörücüleri sabit tutarak, o seviye ile referans arasındaki ortalama farkı temsil eder. Bu, ANCOVA ve genelleştirilmiş doğrusal modellerde kullanılan parametrelendirmedir.
Kaynaklar
- Galton, F. (1886). Regression towards mediocrity in hereditary stature. Journal of the Anthropological Institute of Great Britain and Ireland, 15, 246–263. DOI: 10.2307/2841583 ↗
- Pearson, K., & Lee, A. (1908). On the generalised probable error in multiple normal correlation. Biometrika, 6(1), 59–68. DOI: 10.1093/biomet/6.1.59 ↗
- Draper, N. R., & Smith, H. (1966). Applied Regression Analysis (1st ed.). John Wiley & Sons. ISBN: 9780471221708
- Montgomery, D. C., Peck, E. A., & Vining, G. G. (2012). Introduction to Linear Regression Analysis (5th ed.). John Wiley & Sons. ISBN: 9780470542811
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Multiple Linear Regression (Ordinary Least Squares). ScholarGate. https://scholargate.app/tr/statistics/multiple-linear-regression
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Kovaryans Analizi (ANCOVA)İstatistik↔ karşılaştır
- Lasso RegresyonuMakine öğrenmesi↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Tek yönlü Varyans Analiziİstatistik↔ karşılaştır
- Polinom Regresyonuİstatistik↔ karşılaştır
- Ridge Regression (Sırt Regresyonu)Makine öğrenmesi↔ karşılaştır
- Basit Doğrusal Regresyonİstatistik↔ karşılaştır
- Stepwise Regressionİstatistik↔ karşılaştır