Markov Zinciri Monte Carlo
Markov zinciri Monte Carlo, karmaşık bir hedef dağılımdan örneklem almak için, bu dağılımı durağan yasası olarak kabul edecek şekilde tasarlanmış bir Markov zincirini simüle eder; böylece zincirin yolu, yakınsadıktan sonra, hedeften bağımlı bir örneklem gibi davranır.
Tanım
Markov zinciri Monte Carlo, değişmez dağılımı hedef olan ergodik bir Markov zinciri oluşturarak ve zincirin gerçekleşen durumları üzerinden bir fonksiyonun ortalamasını alarak, hedef dağılım altındaki beklentileri tahmin eden bir algoritma sınıfıdır.
Kapsam
Bu konu, detaylı denge (detailed balance) aracılığıyla belirli bir durağan dağılıma sahip zincirlerin oluşturulmasını, Metropolis-Hastings algoritmasını ve öneri mekanizmalarını, yakınsama ve karışım (mixing) tanılarını, başlangıç atımı (burn-in) ve otokorelasyonu ile bağımlı çekimlerden Monte Carlo standart hatalarının tahminini kapsamaktadır. Gibbs örnekleyicisi (Gibbs sampler) ayrı bir kardeş konu olarak ele alınmakta, Hamiltoniyen (Hamiltonian) ve adaptif varyantlar ise uzantılar olarak belirtilmektedir.
Temel sorular
- Bir Markov zinciri, durağan dağılımı belirli bir hedef olacak şekilde nasıl inşa edilir?
- Metropolis-Hastings kabul-red adımı, rastgele bir öneri için detaylı dengeyi nasıl sağlar?
- Durağanlığa yakınsama nasıl değerlendirilir ve karışım hızı nasıl teşhis edilir?
- Otokorelasyonlu çekimlerden Monte Carlo standart hataları nasıl hesaplanır?
Anahtar kavramlar
- Durağan dağılım
- Detaylı denge
- Kabul oranı
- Başlangıç atımı (Burn-in)
- Otokorelasyon ve karışım
- Yakınsama tanıları
Temel kuramlar
- Detaylı denge ve durağanlık
- Eğer bir geçiş çekirdeği (transition kernel), bir hedef dağılıma göre detaylı dengeyi sağlıyorsa, o dağılım durağandır; ortaya çıkan zincirin ergodik ortalamaları daha sonra hedef altındaki beklentilere yakınsar.
- Metropolis-Hastings algoritması
- Bir hareket önermek ve bunu hedef ile öneri yoğunluklarından oluşturulan bir olasılıkla kabul etmek, hedefe göre tersine çevrilebilir bir zincir üretir ve hedefi yalnızca bir normalleştirme sabitine kadar gerektirir.
Klinik önem
Markov zinciri Monte Carlo, hiyerarşik ve yüksek boyutlu modeller için tam Bayesçi çıkarımı pratik hale getirmiştir ve istatistiksel genetik, ekoloji, epidemiyoloji, ekonometri ve fizik bilimleri gibi alanlarda, artalan (posterior) veya Boltzmann dağılımlarının doğrudan örneklenemediği ancak keşfedilmesi gerektiği her yerde uygulanmaktadır.
Tarihçe
Metropolis algoritması 1953 yılında istatistiksel fizikte ortaya çıkmış, Hastings 1970 yılında bunu genelleştirmiş ve 1990'ların başlarında istatistikçiler Markov zinciri Monte Carlo'yu Bayesçi hesaplamanın standart motoru olarak benimsemiştir; bu yöntem daha sonra Hamiltoniyen Monte Carlo ve adaptif örnekleyiciler (adaptive samplers) ile genişletilmiştir.
Tartışmalar
- Yakınsamanın değerlendirilmesi
- Sonlu hiçbir çalıştırma, bir zincirin durağan dağılımına ulaştığını kanıtlayamayacağından, uygulayıcılar tanılara ve birden fazla zincire güvenmektedir; hangi tanıların güvenilir olduğu ve başlangıç atımının (burn-in) ve çalıştırma uzunluğunun ne kadar muhafazakar olması gerektiği konusunda devam eden bir tartışma bulunmaktadır.
Öne çıkan isimler
- Nicholas Metropolis
- W. Keith Hastings
- Christian P. Robert
- Andrew Gelman
İlgili konular
Temel eserler
- metropolis1953
- hastings1970
Sıkça sorulan sorular
- Markov zinciri Monte Carlo örneklemleri neden korelasyonludur?
- Her durum bir önceki durumdan üretildiği için ardışık çekimler bağımlıdır. Bu otokorelasyon, bilginin etkin miktarını azaltır; bu nedenle doğruluk tahmin edilirken karışım hızı ve etkin örneklem büyüklüğü önem taşımaktadır.
- Başlangıç atımı (burn-in) nedir?
- Başlangıç atımı (burn-in), zincirin hedef dağılım yerine hala rastgele başlangıç noktasını yansıttığı için atılan ilk kısmıdır. Bu kısmın atılması, kalan çekimlerin ortalaması alınmadan önce başlatmadan kaynaklanan yanlılığı azaltır.