Markov Zinciri Monte Carlo
Markov Zinciri Monte Carlo, karmaşık bir hedef dağılımdan örneklem almak için, bu dağılımı benzersiz durağan yasası olarak tasarlanmış bir Markov zincirini simüle ederek çalışır.
Tanım
Markov Zinciri Monte Carlo, durağan dağılımı hedef olan ergodik bir Markov zincirini çalıştırarak ve zincirin yolu boyunca bir fonksiyonun ortalamasını alarak, hedef olasılık dağılımı altındaki beklentileri tahmin eden bir algoritma ailesidir.
Kapsam
Bu konu, belirli bir durağan dağılıma sahip geçiş çekirdeklerinin (transition kernels) tasarımını, Metropolis-Hastings algoritmasını ve kabul kuralını, koşullu güncellemeler için Gibbs örnekleyicisini, yakınsama teşhislerini ve başlangıç periyodunu (burn-in), otokorelasyonun tahminci varyansı üzerindeki etkisini ve karışım süreleri (mixing times) ile örnekleme maliyeti arasındaki bağlantıyı kapsamaktadır.
Temel sorular
- İstenen bir durağan dağılıma sahip olacak şekilde bir Markov zinciri nasıl inşa edilir?
- Metropolis-Hastings kabul kuralı neden doğru durağan yasayı üretir?
- Gibbs örnekleyicisi koşullu dağılımları nasıl kullanır?
- Bir zincir, örnekleri kullanılabilir hale gelmeden önce ne kadar süre çalışmalıdır ve bu nasıl değerlendirilir?
Temel kuramlar
- Metropolis-Hastings yapısı
- Keyfi bir çekirdekten (kernel) hareketler önermek ve bunları hedef yoğunluk oranından (target density ratio) oluşturulmuş bir olasılıkla kabul etmek, durağan dağılımı tam olarak hedef olan tersinir bir zincir üretir; bu, yalnızca normalleştirme sabitine kadar olan hedefi gerektirir.
- Ergodik ortalamalar ve Monte Carlo tahmini
- Zincir, durağan yasası olarak hedefle ergodik olduğundan, zincir boyunca bir fonksiyonun zaman ortalamaları neredeyse kesin olarak hedef beklentiye yakınsar; bu da simüle edilmiş yolların örnek olarak kullanılmasını haklı çıkarır.
Klinik önem
Markov Zinciri Monte Carlo, modern Bayes istatistiği, istatistiksel fizik ve makine öğreniminin temel aracıdır (workhorse), analitik olarak entegre edilemeyen yüksek boyutlu sonsal dağılımlar, bölüm fonksiyonları ve enerji yüzeyleri üzerinde çıkarım yapmayı mümkün kılmaktadır; güvenilirliği, temel zincirin yeterince hızlı karışmasına (mixing) bağlıdır.
Tarihçe
Kabul-red (acceptance-rejection) zinciri, istatistiksel fizik için 1953 Metropolis algoritmasında ortaya çıkmış, 1970'te Hastings tarafından genelleştirilmiş ve 1984'te Geman ve Geman'ın Gibbs örnekleyicisi ile 1990 civarında Gelfand ve Smith'in etkili Bayes uygulamaları aracılığıyla istatistik için yeniden şekillendirilmiştir; bu uygulamalar hesaplamalı Bayes devrimini başlatmıştır.
Öne çıkan isimler
- Nicholas Metropolis
- W. Keith Hastings
- Stuart Geman
- Donald Geman
İlgili konular
Temel eserler
- robertCasella2004
- hastings1970
Sıkça sorulan sorular
- Neden örneklem çekmek için bir Markov zinciri kullanılır?
- Yüksek boyutlu veya normalleştirilmemiş hedef dağılımlar için doğrudan örnekleme pratik değildir; hedefe yakınsayan bir Markov zinciri, dengeye ulaştıktan sonra bağımlı ancak doğru dağılmış örnekler üretmenizi sağlar.
- Başlangıç periyodu (burn-in) nedir?
- Zincirin durağan dağılımına henüz yakınsamamış olması nedeniyle atılan zincirin başlangıç kısmıdır; bu erken durumlar tahminleri yanlı hale getirebilir.