Metropolis-Hastings Algoritması
Metropolis-Hastings Markov Chain Monte Carlo Algorithm · Ayrıca şöyle bilinir: MH algorithm, M-H algorithm, Metropolis algorithm, Metropolis-Hastings sampler, acceptance-rejection MCMC, general-purpose MCMC sampler
Metropolis-Hastings (MH) algoritması, normalleştirme sabiti üzerinden değerlendirilebilen herhangi bir olasılık dağılımından örneklem çekmek için kullanılan genel amaçlı bir Markov zinciri Monte Carlo (MCMC) yöntemidir. Hesaplamalı fizikte Metropolis, Rosenbluth, Rosenbluth, Teller ve Teller (1953) tarafından tanıtılmış ve asimetrik öneri dağılımları için Hastings (1970) tarafından genelleştirilmiştir. Neredeyse tüm sonraki MCMC örnekleyicilerinin — Gibbs örneklemesi, Hamiltoniyen Monte Carlo, dilim örneklemesi — türetildiği veya özel durumlar olarak görülebileceği temel algoritmadır.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
+2 tane daha
Ne zaman kullanılır
Hedef sonsal dağılımdan doğrudan örnekleme yapılamadığında ve eşlenik veya kapalı formlu bir çözüm mevcut olmadığında Metropolis-Hastings algoritmasını kullanın. Normalleştirilmemiş sonsal yoğunluk noktası bazında değerlendirilebildiği sürece, hemen hemen her Bayes modeline — regresyon, hiyerarşik modeller, gizli değişken modelleri, karışım modelleri — uygulanabilir. Anahtar varsayımlar, hedef dağılımın öneriyle aynı desteğe sahip olması (indirgenemezlik), zincirin periyodik olmaması ve yakınsama için yeterli sayıda iterasyon çalıştırılmasıdır. Genellikle Hamiltoniyen Monte Carlo'nun tercih edildiği çok yüksek boyutlu parametre uzaylarında verimsiz hale gelir.
Güçlü yönler & sınırlılıklar
- Tamamen genel: sabit bir değere kadar değerlendirilebilen herhangi bir hedef dağılıma, eşleniklik veya kapalı form gereksinimleri olmaksızın uygulanır.
- Sonsalın normalleştirme sabiti (marjinal olabilirlik) asla gerekmez — kabul oranında sadeleşir.
- Asimptotik olarak doğru: zincirin durağan dağılımı, detaylı denge ile garanti edilen tam olarak hedeftir.
- Düşük ila orta boyutlu problemler için kavramsal olarak şeffaf ve uygulaması kolaydır.
- Daha gelişmiş örnekleyiciler (Gibbs, HMC, NUTS, ters-atlama MCMC) için omurga görevi görür; bunların hepsi özel veya genişletilmiş durumlardır.
- Boyutla verimlilik keskin bir şekilde düşer: optimal kabul oranını (yüksek boyutlarda bir rastgele yürüyüş Gauss önerisi için yaklaşık %23) elde etmek için öneri ölçeğini ayarlamak giderek zorlaşır.
- Korelasyonlu örnekler — herhangi bir Markov zincirinin doğasında vardır — Monte Carlo standart hatalarını bağımsız örneklere kıyasla şişirir; etkin örneklem boyutu her zaman ham zincir uzunluğundan azdır.
- Yakınsama asimptotiktir ve ampirik olarak teşhis edilmelidir (R-hat, etkin örneklem boyutu, iz grafikleri); hedefe yakınlık için sonlu zaman garantisi yoktur.
- Sonsal çok modlu, muz şeklinde veya güçlü parametre korelasyonlarına sahip olduğunda karışım son derece yavaş olabilir.
SSS
Öneri dağılımını nasıl seçerim?
Bir rastgele yürüyüş önerisi için, standart öneri, öneri standart sapmasını kabul oranının yaklaşık %20 ila %50 arasına düşecek şekilde ayarlamaktır; d-boyutlu bir Gauss hedefi için teorik olarak optimal oran yaklaşık %23.4'tür. Uygulamada, kısa pilot zincirler çalıştırın, ölçeği ayarlayın ve iz grafiklerinin sağlıklı bir karışım gösterdiğini doğrulayın. Adaptif MH yöntemleri, yanma sırasında öneri kovaryansını çevrimiçi güncelleyerek bu ayarlamayı otomatikleştirir.
Metropolis ve Metropolis-Hastings algoritmaları arasındaki fark nedir?
Orijinal 1953 Metropolis algoritması simetrik bir öneri dağılımı gerektirir, bu nedenle öneri oranı q(θ^(t)|θ*)/q(θ*|θ^(t)) 1'e eşittir ve kabul oranından düşer. Hastings'in 1970 genelleştirmesi, bu düzeltme faktörünü koruyarak, doğru durağan dağılımı korurken herhangi bir öneri dağılımına — yönlendirilmiş, bağımsız veya veri odaklı öneriler dahil — olanak tanır.
Zincirin ne zaman yakınsadığını nasıl bilirim?
Dağıtılmış başlangıç noktalarından en az dört zincir çalıştırın. Her parametre için Gelman-Rubin potansiyel ölçek azaltma faktörü R-hat'ı hesaplayın; 1.01'in altındaki değerler kabul edilebilir yakınsamayı gösterir. Ayrıca durağanlık için iz grafiklerini inceleyin ve etkin örneklem boyutunu (ESS) hesaplayın; yaklaşık 400 parametre başına minimum ESS yaygın bir pratik eşiktir. ArviZ ve Stan gibi modern yazılımlar tarafından bir toplu ESS ve kuyruk ESS raporlanır.
Metropolis-Hastings yerine ne zaman Hamiltoniyen Monte Carlo'yu tercih etmeliyim?
Hamiltoniyen Monte Carlo (HMC), yüksek kabul oranlarıyla büyük, bilgilendirilmiş hamleler yapmak için sonsalın gradyan bilgisinden yararlanır. Orta ila yüksek boyutlarda (kabaca 10 veya daha fazla parametre) pürüzsüz, sürekli sonsal dağılımlar için HMC ve adaptif varyantı NUTS, saniye başına etkin örnekler açısından rastgele yürüyüş MH örnekleyicisinden önemli ölçüde daha iyi performans gösterir. Sade MH, düşük boyutlu problemler, ayrık parametre uzayları (gradyanların mevcut olmadığı yerler) ve pedagojik ve teorik bir referans noktası olarak kullanışlıdır.
Kaynaklar
- Metropolis, N., Rosenbluth, A. W., Rosenbluth, M. N., Teller, A. H., & Teller, E. (1953). Equation of state calculations by fast computing machines. The Journal of Chemical Physics, 21(6), 1087–1092. DOI: 10.1063/1.1699114 ↗
- Hastings, W. K. (1970). Monte Carlo sampling methods using Markov chains and their applications. Biometrika, 57(1), 97–109. DOI: 10.1093/biomet/57.1.97 ↗
- Robert, C. P., & Casella, G. (2004). Monte Carlo Statistical Methods (2nd ed.). Springer. ISBN: 978-0-387-21239-5
- Gelman, A., Carlin, J. B., Stern, H. S., Dunson, D. B., Vehtari, A., & Rubin, D. B. (2013). Bayesian Data Analysis (3rd ed.). CRC Press. ISBN: 978-1-439-84095-5
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Metropolis-Hastings Markov Chain Monte Carlo Algorithm. ScholarGate. https://scholargate.app/tr/bayesian/metropolis-hastings-algorithm
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Bayes RegresyonuBayesçi↔ karşılaştır
- Gibbs ÖrneklemesiBayesçi↔ karşılaştır
- Hamiltonian Monte CarloBayesçi↔ karşılaştır
- Sıralı Monte CarloBayesçi↔ karşılaştır
- Dilim ÖrneklemeBayesçi↔ karşılaştır