En Küçük Kareler Yöntemi (OLS)
Ordinary Least Squares Regression · Ayrıca şöyle bilinir: OLS, OLS regression, linear least squares, classical linear regression, least squares estimation
En Küçük Kareler Yöntemi (OLS), gözlemlenen ve tahmin edilen değerler arasındaki farkların kareleri toplamını minimize ederek bir doğrusal regresyon modelinin parametrelerini tahmin etmek için kullanılan temel yöntemdir. İlk olarak 1805'te Adrien-Marie Legendre tarafından yayımlanan ve bağımsız olarak Carl Friedrich Gauss (1795'ten beri öncelik iddia eden) tarafından geliştirilen OLS, Gauss-Markov teoremi uyarınca kanıtlanabilir şekilde optimaldir: varsayımları altında, regresyon katsayılarının En İyi Doğrusal Yansız Tahmin Edicisi'ni (BLUE) verir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Sonuç değişkeni sürekli olduğunda ve onunla bir veya daha fazla öngörücü arasında doğrusal bir ilişki olduğunu varsaydığınızda OLS kullanın. Yöntem, klasik doğrusal regresyon varsayımları altında uygundur: (1) gerçek model parametrelerde doğrusaldır; (2) öngörücü matrisi X tam sütun rankına sahiptir (mükemmel çoklu doğrusallık yoktur); (3) hataların ortalama koşullu değeri sıfırdır E(ε | X) = 0 (dışsallık); (4) hatalar sabit varyans σ² ile değişen varyanslıdır (homoskedastik); ve (5) hatalar gözlemler arasında ilişkisizdir. Bu beş koşul altında, Gauss-Markov teoremi OLS'nin BLUE olduğunu garanti eder. Hatalar ayrıca normal dağılımlı ise, sonlu örneklemlerde kesin t- ve F-çıkarımı yapılır. Değişen varyans ihlalleri, değişen varyansa dayanıklı standart hatalar veya Ağırlıklı En Küçük Kareler gerektirir; seri korelasyon, uygulanabilir GLS gerektirir; dışsallık, Ara Değişkenler veya İki Aşamalı En Küçük Kareler gerektirir.
Güçlü yönler & sınırlılıklar
- Kapalı form analitik çözüm — herhangi bir iteratif optimizasyon gerektirmez, bu da hesaplamayı hızlı ve sayısal olarak kararlı hale getirir.
- Gauss-Markov koşulları altında optimal: tüm doğrusal yansız tahmin ediciler arasında BLUE.
- Katsayı tahminleri, diğer öngörücüleri sabit tutarak marjinal etkiler olarak doğrudan nedensel/ilişkisel bir yoruma sahiptir.
- Zengin çıkarımsal araç seti: t-testleri, F-testleri, güven aralıkları ve R² hepsi OLS çerçevesinden doğal olarak çıkar.
- Her istatistiksel yazılım paketinde evrensel kullanılabilirlik ve küçük sistemler için elle denetlenebilecek kadar şeffaf.
- Doğru şekilde belirtilmiş doğrusal fonksiyonel formu varsayar; doğrusal olmayan ilişkiler dönüşümler veya doğrusal olmayan modeller gerektirir.
- Karesi alınmış hatalar aşırı noktaların etkisini büyüttüğü için, aykırı değerlere ve yüksek kaldıraçlı gözlemlere duyarlıdır.
- Değişen varyans veya otokorelasyon altında, düzeltmeler uygulanmadıkça verimsizdir ve standart hatalar yanlıştır.
- Öngörücüler dışsal olduğunda (hata terimiyle ilişkili olduğunda) yanlı ve tutarsız tahminler üretir.
- Öngörücüler yüksek derecede koliner olduğunda katsayı tahminleri kararsız ve yorumlanması zordur.
SSS
Gauss-Markov teoremi aslında neyi garanti eder?
Beş klasik varsayım altında — doğrusallık, tam rank X, sıfır koşullu ortalama hatalar, homoskedastisite ve ilişkisiz hatalar — Gauss-Markov teoremi, OLS tahmin edicisinin y'ye göre doğrusal ve yansız olan tüm tahmin ediciler arasında en küçük varyansa sahip olduğunu kanıtlar. Bu 'BLUE' özelliğidir. Hataların normal dağılımlı olmasını gerektirmez; bu ek varsayım yalnızca sonlu örneklemlerde kesin dağılımsal sonuçlar için gereklidir.
Ne zaman geleneksel OLS standart hataları yerine sağlam standart hataları kullanmalıyım?
Homoskedastisite varsayımı şüpheli olduğunda — yani, hataların varyansı gözlemler arasında farklılık gösterebileceğinde — katsayı tahminleri β̂ tutarlı kalsa bile geleneksel OLS standart hataları yanlıştır. Değişen varyansa dayanıklı (White) standart hatalar, varyans için belirli bir model gerektirmeden tahmin edilen kovaryans matrisini düzeltir. Değişen varyansın güçlü bir şekilde şüphelenilmediği durumlarda bile önlem olarak uygulamalı iktisatta rutin olarak kullanılırlar.
OLS, doğrusal bir model için Maksimum Olabilirlik Tahmini'nden (MLE) nasıl farklıdır?
Hataların Bağımsız ve Özdeş Dağılımlı Normal(0, σ²) olarak varsayıldığı durumlarda, β'nın OLS tahmin edicisi MLE ile aynıdır. OLS, nokta tahminlerini elde etmek için normallik varsayımını gerektirmez; yalnızca küçük örneklemlerde kesin dağılımsal sonuçlar için gerektirir. Normal olmayan hata dağılımları (örn. lojistik, Poisson) için MLE, farklı tahmin denklemleri verir ve OLS kapalı formu yerine iteratif optimizasyon gerektirir.
OLS ile Ağırlıklı En Küçük Kareler (WLS) arasındaki fark nedir?
OLS tüm gözlemleri eşit kabul eder. WLS, her gözleme bir wᵢ ağırlığı atayarak Σwᵢ(yᵢ − xᵢᵀβ)²'yi minimize ederek bunu genelleştirir. WLS, hata varyanslarının gözlemler arasında orantılı olarak farklı olduğu bilindiğinde (bilinen bir yapıya sahip değişen varyans) veya gözlemler farklı güvenilirliklere sahip toplu verileri temsil ettiğinde uygun tahmin edicidir. Gauss-Markov çerçevesi altında, değişen varyans varlığında WLS, OLS'den daha verimlidir.
Kaynaklar
- Legendre, A.-M. (1805). Nouvelles méthodes pour la détermination des orbites des comètes. Firmin Didot, Paris. [Appendix: Sur la Méthode des moindres quarrés, pp. 72–80.] link ↗
- Gauss, C. F. (1809). Theoria Motus Corporum Coelestium in Sectionibus Conicis Solem Ambientium. Perthes & Besser, Hamburg. link ↗
- Wooldridge, J. M. (2019). Introductory Econometrics: A Modern Approach (7th ed.). Cengage Learning. ISBN: 978-1337558860
- Greene, W. H. (2018). Econometric Analysis (8th ed.). Pearson. ISBN: 978-0134461366
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Ordinary Least Squares Regression. ScholarGate. https://scholargate.app/tr/statistics/ordinary-least-squares
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Genelleştirilmiş En Küçük Kareler (GLS)İstatistik↔ karşılaştır
- Nedensel Çıkarım için Enstrümantal Değişkenler (IV) YöntemiSağlık ekonomisi↔ karşılaştır
- Lasso RegresyonuMakine öğrenmesi↔ karşılaştır
- Çoklu Doğrusal Regresyonİstatistik↔ karşılaştır
- Ridge Regression (Sırt Regresyonu)Makine öğrenmesi↔ karşılaştır
- Sağlam Regresyonİstatistik↔ karşılaştır
- Basit Doğrusal Regresyonİstatistik↔ karşılaştır
- Ağırlıklı En Küçük Kareler (AEKK)İstatistik↔ karşılaştır