Markov Zinciri Monte Carlo (MCMC) — Metropolis-Hastings ve Gibbs Örneklemesi
Markov Chain Monte Carlo (MCMC — Metropolis-Hastings, Gibbs Sampling) · Ayrıca şöyle bilinir: MCMC, Metropolis-Hastings, Gibbs sampling, Markov Zinciri Monte Carlo (MCMC — Metropolis-Hastings, Gibbs)
Markov Zinciri Monte Carlo (MCMC), durağan dağılımı hedef sonsal dağılım olan bir Markov zinciri oluşturan simülasyon algoritmaları ailesidir. Bu sayede, analitik olarak çözülmesi imkansız olan Bayesci çıkarım ve yüksek boyutlu integral hesaplamaları mümkün hale gelir. İlk olarak 1953'te Metropolis ve arkadaşları tarafından geliştirilen ve 1970'te Hastings tarafından genişletilen MCMC, modern Bayesci istatistiğin temelini oluşturur. En yaygın kullanılan iki varyantı, genel bir öneri dağılımından hareketler öneren Metropolis-Hastings ve her parametreyi sırasıyla tam koşullu dağılımından çeken Gibbs örneklemesidir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
+8 tane daha
Ne zaman kullanılır
MCMC, Bayesci bir modelin belirtildiği ve sonsal dağılımın analitik olarak hesaplanamadığı durumlarda uygun bir araçtır — bu durum, birkaçdan fazla parametreye sahip modeller veya eşlenik olmayan önsel dağılımlar için yaygın bir durumdur. Ayrıca, gizli değişkenli modeller, hiyerarşik modeller ve belirsizliğin karmaşık bir süreç boyunca tam olarak yayılması gereken her türlü durum için standart bir yaklaşımdır. Olabilirlik spesifikasyonu dışında veriler hakkında hiçbir dağılımsal varsayıma ihtiyaç duyulmaz. Temel pratik gereksinim, zincirin yakınsaması için yeterli sayıda iterasyondur: yaklaşık 1.000'den az ısınma sonrası örnek, sonsal dağılımın güvenilir bir karakterizasyonunu genellikle sağlamaz ve yüksek boyutlu durumlarda çok daha fazlasına ihtiyaç duyulur. Parametre uzayı çok yüksek boyutlu olduğunda, Hamilton Monte Carlo (HMC) veya No-U-Turn Sampler (NUTS) — MCMC fikrinin otomatik uzantıları — temel Metropolis-Hastings'ten önemli ölçüde daha verimlidir.
Güçlü yönler & sınırlılıklar
- Sonsal dağılımın kapalı formu olmayan modeller için (asemptotik olarak) tam Bayesci çıkarım sağlar; hiyerarşik modelleri, eksik veri problemlerini ve karmaşık olabilirlikleri kapsar.
- Tam bir ortak sonsal örneklem üretir, böylece herhangi bir türetilmiş nicelik, tahmin veya karar, doğru şekilde yayılan belirsizlikle hesaplanabilir.
- Sürekli, ikili ve sayım sonuçlarına uygulanır ve modelleyici tarafından belirtilen olabilirlik dışında veriler üzerinde hiçbir dağılımsal varsayım dayatmaz.
- Birden fazla paralel zincir çalıştırmak, Gelman-Rubin R̂ tanılaması aracılığıyla yakınsama doğrulamasını sistematik hale getirir.
- Yakınsama sonlu zamanda garanti edilmez; yakınsamış gibi görünen bir zincir, sonsal dağılımın yerel bir bölgesinde sıkışmış olabilir.
- Ardışık örnekler arasındaki otokorelasyon, etkin örneklem büyüklüğünün ham iterasyon sayısından daha küçük olduğu anlamına gelir, bu da eşdeğer bağımsız bir örneklemden daha uzun çalışmalar gerektirir.
- Yüksek boyutlu parametre uzaylarında, rastgele yürüyüş Metropolis-Hastings zayıf karışır; verimli keşif için Hamilton Monte Carlo veya NUTS gereklidir.
- Model spesifikasyonu, analistin önsel dağılımları dikkatlice seçmesini gerektirir ve kötü seçilmiş önsel dağılımlar veya yanlış belirtilmiş olabilirlikler, sonsal dağılımı tespit edilmesi zor şekillerde yanlı hale getirebilir.
SSS
MCMC zincirimin yakınsadığını nasıl anlarım?
Birincil tanılayıcı, farklı başlangıç noktalarından en az dört bağımsız zincir çalıştırılarak ve zincir içi varyansın zincirler arası varyansla karşılaştırılmasıyla hesaplanan Gelman-Rubin R̂ istatistiğidir. Tüm parametreler için 1.05'in altındaki R̂ değerleri geleneksel eşiktir. İzleme grafikleri, örtüşen ve aynı bölgeyi keşfeden zincirleri göstermelidir; huni şeklinde veya sürüklenen izler zayıf karışımı gösterir. Etkin örneklem büyüklüğü de kontrol edilmelidir — ham sayıya göre çok küçük bir etkin örneklem büyüklüğü, yüksek otokorelasyonu ve daha fazla iterasyona veya daha iyi bir örnekleyiciye olan ihtiyacı işaret eder.
Metropolis-Hastings ve Gibbs örneklemesi arasındaki fark nedir?
Metropolis-Hastings, kullanıcı tanımlı bir öneri dağılımından tüm parametreler için eşzamanlı olarak (veya bloklar halinde) bir hareket önerir ve hedef sonsal dağılımı durağan dağılım olarak koruyan bir olasılıkla öneriyi kabul eder veya reddeder. Gibbs örneklemesi ise her parametreyi, diğer tüm parametreler ve veriler verildiğinde o parametrenin dağılımı olan tam koşullu dağılımından doğrudan çekerek tek tek günceller. Gibbs örneklemesi, bu tam koşullu dağılımların kapalı formda mevcut olmasını gerektirir, ki bu birçok eşlenik model için geçerlidir; mevcut olduklarında, Gibbs her öneri kabul edildiği için oldukça verimlidir. Metropolis-Hastings daha geniş bir uygulama alanına sahiptir ancak kabul edilebilir kabul oranları elde etmek için önerinin ayarlanmasını gerektirir.
Metropolis-Hastings yerine Hamilton Monte Carlo'yu ne zaman kullanmalıyım?
Hamilton Monte Carlo (HMC) ve otomatik varyantı NUTS, log-sonsal dağılımdan gradyan bilgisini kullanarak büyük, bilgilendirilmiş hareketler önerir ve bunlar yine de yüksek olasılıkla kabul edilir. Bu, rastgele önerilerin neredeyse her zaman reddedildiği yüksek boyutlu parametre uzaylarında onları rastgele yürüyüş Metropolis-Hastings'ten çok daha verimli hale getirir. Pratik bir kural olarak, modeliniz ondan fazla parametreye sahipse veya Metropolis-Hastings zincirleri zayıf karışım ve çok düşük etkin örneklem büyüklükleri gösteriyorsa, HMC veya NUTS'a geçmek tavsiye edilir.
Kaç iterasyona ihtiyacım var?
Evrensel bir cevap yoktur, ancak yaygın bir başlangıç noktası, dört zincirde, zincir başına 1.000 ısınma (burn-in) iterasyonu artı 2.000 örnekleme iterasyonudur, bu da 8.000 ısınma sonrası çekim sağlar. Bunun yeterliliği, zincirin otokorelasyonuna ve sonsal dağılımın karmaşıklığına bağlıdır. Zincir, tüm parametreler için R̂ < 1.05 olduğunda ve etkin örneklem büyüklüğü, ilgilenilen sonsal özelliklerini karakterize etmek için yeterince büyük olduğunda yeterlidir — genellikle ortalamalar için en az birkaç yüz, kuyruk nicelikleri için birkaç bin etkin örnek.
Kaynaklar
- Gelman, A., Carlin, J.B., Stern, H.S., Dunson, D.B., Vehtari, A. & Rubin, D.B. (2013). Bayesian Data Analysis (3rd ed.). Chapman & Hall/CRC. DOI: 10.1201/b16018 ↗
- Brooks, S., Gelman, A., Jones, G.L. & Meng, X.-L. (Eds.) (2011). Handbook of Markov Chain Monte Carlo. Chapman & Hall/CRC. DOI: 10.1201/b10905 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 1). Markov Chain Monte Carlo (MCMC — Metropolis-Hastings, Gibbs Sampling). ScholarGate. https://scholargate.app/tr/simulation/markov-chain-monte-carlo
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Yaklaşık Bayesci HesaplamaSimülasyon↔ karşılaştır
- Bayes RegresyonuBayesçi↔ karşılaştır
- Bootstrap SimülasyonuSimülasyon↔ karşılaştır
- Latin Hypercube SamplingSimülasyon↔ karşılaştır
- Monte Carlo SimülasyonuKarar verme↔ karşılaştır