Beklenti-Maksimizasyon (EM) Algoritması
Expectation-Maximization Algorithm · Ayrıca şöyle bilinir: EM, Expectation-Maximization, Maximum Likelihood via Incomplete Data, BM Algoritması
Beklenti-Maksimizasyon (EM) algoritması, gizli değişkenler veya eksik veriler içeren istatistiksel modellerde parametrelerin maksimum olabilirlik veya maksimum a posteriori tahminlerini bulmak için kullanılan iteratif bir optimizasyon prosedürüdür. Dempster, Laird ve Rubin tarafından 1977 tarihli önemli makalelerinde tanıtılan EM, tamamlanmış veri log-olabilirlik beklentisini hesaplama (E-adımı) ve bunu parametrelere göre maksimize etme (M-adımı) arasında gidip gelerek her iterasyonda monoton artan bir olabilirlik sağlar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Veriler eksik değerler, gizli durumlar veya gizli değişkenler içerdiğinde ve maksimum olabilirlik tahminlerine ihtiyaç duyduğunuzda EM algoritmasını kullanın. Gauss karışım modelleri, gizli Markov modelleri, faktör analizi ve eksik veri ataması için uygundur. Temel varsayımlar, eksik verilerin rastgele eksik (MAR) olduğu ve tamamlanmış veri modelinin çözülebilir olduğudur. Sınırlamalar, başlatmaya duyarlılığı, yerel maksimumlara olası yakınsamayı ve eyer noktalarına yakın yavaş yakınsamayı içerir. Alternatifler arasında sayısal entegrasyonlu gradyan tabanlı optimizasyon, varyasyonel çıkarım veya MCMC yöntemleri bulunur.
Güçlü yönler & sınırlılıklar
- Her iterasyonda gözlemlenen veri olabilirliklerinde garantili monoton artış, kararlı yakınsamayı sağlar
- Zor bir eksik veri problemini çözülebilir tamamlanmış veri optimizasyon dizisine dönüştürür
- Üstel aile modelleri, karışım modelleri ve gizli değişken çerçeveleri boyunca geniş çapta uygulanabilir
- Birçok standart model için kapalı form M-adımı güncellemeleri mevcuttur, bu da uygulamayı verimli hale getirir
- Olabilirlik yüzeyi çok modlu olduğunda küresel maksimum yerine yerel maksimuma yakınsama
- Eksik bilgi oranı büyük olduğunda çok yavaş (doğrusal) yakınsama sergileyebilir
- Analistin tamamlanmış veri modelini ve gizli değişkenlerin dağılımını belirtmesini gerektirir
- Standart EM, tahminlerin gözlemlenen veri kovaryans matrisini doğrudan sağlamaz; standart hatalar için ek bir adım (örneğin, Louis yöntemi veya SEM algoritması) gereklidir
SSS
EM algoritması her zaman küresel maksimuma yakınsar mı?
Hayır. EM, yalnızca gözlemlenen veri olabilirliklerinin yerel bir maksimumuna (veya eyer noktasına) yakınsayacağı garanti edilir. Olabilirlik yüzeyinin birden fazla modu olduğunda, nihai çözüm başlatmaya bağlıdır. Algoritmayı birkaç farklı başlangıç noktasından çalıştırmak ve en yüksek log-olabilirliğe sahip çözümü saklamak standart pratik çözümdür.
EM, doğrudan maksimum olabilirlik optimizasyonundan nasıl farklıdır?
Doğrudan MLE, gizli değişkenler üzerinden çözülemeyen integralleri içerebilen gözlemlenen veri log-olabilirliğini maksimize eder. EM, genellikle analitik olarak çözülebilen tamamlanmış veri log-olabilirlik beklentisini iteratif olarak maksimize ederek bunu atlar. Karşılığında EM yavaş yakınsayabilirken, gradyan tabanlı yöntemler marjinal olabilirlik gradyanları mevcut olduğunda daha hızlı olabilir.
MICE atamasını EM algoritmasına ne zaman tercih etmeliyim?
MICE (Zincir Denklemlerle Çoklu Atama), verilerde karışık türde değişkenler, doğrusal olmayan ilişkiler veya tek bir parametrik tamamlanmış veri modelinde kodlanması zor karmaşık etkileşim yapıları bulunduğunda tercih edilir. EM, tüm değişkenler için iyi tanımlanmış bir ortak modelin bulunduğu ve çıkarımın model parametrelerini hedeflediği, atanan veri kümelerini değil, durumlarda daha doğaldır.
Kaynaklar
- Dempster, A. P., Laird, N. M., & Rubin, D. B. (1977). Maximum likelihood from incomplete data via the EM algorithm. Journal of the Royal Statistical Society: Series B, 39(1), 1–38. DOI: 10.1111/j.2517-6161.1977.tb01600.x ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 2). Expectation-Maximization Algorithm. ScholarGate. https://scholargate.app/tr/statistics/em-algorithm
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- En Büyük Olabilirlik Tahminiİstatistik↔ karşılaştır
- MICEİstatistik↔ karşılaştır