En Büyük Olabilirlik Tahmini
Maximum Likelihood Estimation · Ayrıca şöyle bilinir: MLE, maximum-likelihood estimator, ML estimation, Fisher's method of maximum likelihood
En Büyük Olabilirlik Tahmini (MLE), gözlemlenen veriyi en olası kılan parametre değerlerini bularak bir istatistiksel modelin bilinmeyen parametrelerini tahmin etmek için kullanılan genel amaçlı parametrik bir yöntemdir. MLE, 1922 tarihli önemli makalesinde R. A. Fisher tarafından resmen tanımlanmış olup, modern istatistikte baskın parametre tahmin paradigması haline gelmiş ve lojistik regresyon, genelleştirilmiş doğrusal modeller, yapısal eşitlik modellemesi ve neredeyse tüm parametrik çıkarım prosedürlerinin temelini oluşturan motordur.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
MLE, veriyi üreten sürecin açık bir parametrik yoğunluk veya kütle fonksiyonu yazabildiğiniz ve gözlemler bağımsız olduğunda (veya yönetilebilir bir bağımlılık yapısına sahip olduğunda) uygulanabilir. Doğrusal ve genelleştirilmiş doğrusal modeller, sağkalım modelleri, karma etkili modeller, faktör analizi, SEM ve ayrık seçimli ekonometrik modeller için standart tahmin yöntemidir. Temel varsayımlar şunları içerir: (1) model ailesi doğru şekilde belirtilmiştir; (2) gözlemler bağımsızdır; (3) parametre tanımlanabilirdir; (4) gerçek parametre parametre uzayının iç kısmında yer alır. Küçük örneklemlerde MLE yansız olabilir; kısıtlı MLE (REML) veya yansızlık düzeltilmiş MLE gibi alternatifler bunu ele alır. Parametreler üzerinde bir önsel dağılım mevcutsa, Bayesci en büyük a posteriori (MAP) tahmini MLE'yi doğal olarak genişletir.
Güçlü yönler & sınırlılıklar
- Asimptotik olarak optimal: Cramér–Rao alt sınırına ulaşır, bu da onu büyük örneklemlerde en verimli tutarlı tahmin edici yapar.
- Değişmezlik özelliği: θ̂, θ'nın MLE'si ise, herhangi bir g fonksiyonu için g(θ̂), g(θ)'nın MLE'sidir — bu da tahminlerin dönüşümlerini kolaylaştırır.
- Evrensel çerçeve: tek bir ilke, doğrusal modellerde, GLM'lerde, sağkalım analizinde, SEM'de, zaman serisi modellerinde ve daha fazlasında tahmin işlemine yön verir.
- Otomatik standart hatalar: gözlemlenen veya beklenen Fisher bilgi matrisi doğrudan asimptotik varyans tahminlerini, güven aralıklarını ve Wald testi istatistiklerini verir.
- Yazılım desteği: her büyük istatistiksel pakette (R, Python/statsmodels, SAS, Stata, SPSS) genellikle varsayılan tahmin motoru olarak uygulanmıştır.
- Doğru model belirtimi gerektirir: varsayılan yoğunluk ailesi yanlışsa, MLE'ler tutarsızdır ve çıkarımlar geçersizdir.
- Küçük örneklemlerde yansız olabilir: MLE asimptotik olarak yansızdır ancak ihmal edilemez sonlu örneklem yansızlığı taşıyabilir (örneğin, normal modelde σ²'nin MLE'si aşağı doğru yansızdır).
- Karmaşık modellerde sayısal olarak hassas: yüksek boyutlu veya çok modlu olabilirlik yüzeyleri yakınsama başarısızlıklarına veya yerel maksimumlara yakınsamaya neden olabilir.
- Önsel bilgiyi dahil etmez: Bayesci tahminin aksine, MLE parametreleri sabit bilinmeyenler olarak ele alır ve özlü önsel bilgiyi dahil etmek için bir mekanizma sağlamaz.
SSS
MLE, en küçük kareler tahmininden nasıl farklıdır?
Sıradan en küçük kareler (OLS), artıkların kareleri toplamını en aza indirir ve ilişkisiz hatalar ve sabit varyans dışında hiçbir dağılım varsayımı gerektirmez. MLE, açık bir dağılım varsayımı altında olabilirlik fonksiyonunu maksimize eder. Önemli olarak, hatalar normal dağıldığında, OLS ve MLE, doğrusal regresyon için özdeş katsayı tahminleri verir — ancak MLE ek olarak hata varyansını tahmin eder ve OLS'nin uygun olmadığı normal olmayan sonuçlara (örneğin, lojistik veya Poisson regresyonu) doğal olarak genelleşir.
Fisher bilgisi nedir ve neden önemlidir?
Fisher bilgisi I(θ), skor fonksiyonunun karesinin beklenen değeridir, eşdeğer olarak log-olabilirliğin negatif beklenen ikinci türevidir. Verilerin θ hakkında ne kadar bilgi taşıdığını ölçer: yüksek bilgi, olabilirlik fonksiyonunun keskin bir şekilde tepeli olduğu ve MLE'nin kesin olacağı anlamına gelir. Cramér–Rao eşitsizliği, hiçbir yansız tahmin edicinin I(θ)'dan daha küçük bir varyansa sahip olamayacağını belirtir ve MLE bu sınırı asimptotik olarak başarır. Pratikte, gözlemlenen bilgi matrisinin tersi, MLE'nin asimptotik kovaryans matrisini sağlar ve karekökleri bildirilen standart hatalardır.
MLE, MAP (en büyük a posteriori) tahmini ile aynı mıdır?
MAP tahmini, MLE'nin Bayesci analoğudur. MLE, L(θ | x) olabilirlik fonksiyonunu maksimize ederken, MAP, p(θ) parametreler üzerindeki bir önsel dağılım olmak üzere, p(θ | x) ∝ L(θ | x) · p(θ) sonrasal dağılımını maksimize eder. Önsel düz (uniform) olduğunda, MAP ve MLE çakışır. MAP, MLE'nin düzenlileştirilmiş bir formu olarak yorumlanabilir: örneğin, regresyon katsayıları üzerindeki bir Gauss önseli, sırt (L2) düzenlileştirmesine karşılık gelir.
MLE yerine Bayesci tahmini ne zaman tercih etmeliyim?
Bayesci tahmin, çıkarımı kısıtlaması gereken gerçek önsel bilgilere sahip olduğunuzda, örneklem boyutları önselin anlamlı bir etkiye sahip olacağı kadar küçük olduğunda veya nokta tahminleri ve asimptotik aralıklar yerine tam sonrasal dağılımlara ihtiyaç duyduğunuzda tercih edilir. MLE genellikle önseziler mevcut olmadığında veya haklı çıkarılması zor olduğunda, hesaplama basitliği önemli olduğunda veya asimptotik örneklem boyutlarına ulaşıldığında tercih edilir — çünkü büyük örneklemlerde Bayesci sonrasal dağılımlar zaten MLE'de yoğunlaşır.
Kaynaklar
- Fisher, R. A. (1922). On the mathematical foundations of theoretical statistics. Philosophical Transactions of the Royal Society of London, Series A, 222, 309–368. DOI: 10.1098/rsta.1922.0009 ↗
- Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury Press / Cengage Learning. ISBN: 978-0534243128
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Maximum Likelihood Estimation. ScholarGate. https://scholargate.app/tr/statistics/maximum-likelihood-estimation
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Beklenti-Maksimizasyon (EM) Algoritmasıİstatistik↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Momentler Yöntemi (MY)Elektrik mühendisliği↔ karşılaştır
- Yapısal Eşitlik ModellemesiAraştırma istatistiği↔ karşılaştır