Metropolis-Hastings Algoritması
Metropolis-Hastings algoritması, herhangi bir sonsal dağılımı hedefleyen bir Markov zinciri oluşturmaktadır. Bu, önerilen hareketleri, ayrıntılı dengeyi sağlayan bir olasılıkla kabul ederek gerçekleştirilmektedir.
Tanım
Metropolis-Hastings algoritması, bir öneri dağılımından bir aday çekerek ve bunu, bir ile hedef yoğunlukların oranı çarpı öneri yoğunluklarının oranının minimumuna eşit bir olasılıkla kabul ederek bir Markov zinciri üretmektedir. Bu süreç, sonsal dağılımın durağan dağılım olmasını garanti etmektedir.
Kapsam
Bu konu, öneri ve kabul mekanizmasını, öneri asimetrisini düzelten kabul oranını, rastgele yürüyüş ve bağımsız örnekleyiciler gibi özel durumları ve verimli karışım (mixing) elde etmek için öneri ölçeğinin ayarlanmasını kapsamaktadır.
Temel sorular
- Kabul olasılığı, hedefe göre ayrıntılı dengeyi nasıl sağlamaktadır?
- Rastgele yürüyüş ve bağımsızlık önerileri davranışsal olarak nasıl farklılık göstermektedir?
- Öneri ölçeği nasıl ayarlanır ve hangi kabul oranı verimlidir?
- Algoritma neden sadece normalize edilmemiş sonsal yoğunluğa ihtiyaç duymaktadır?
Anahtar kavramlar
- öneri dağılımı
- kabul olasılığı
- Hastings oranı
- rastgele yürüyüş Metropolis
- bağımsız örnekleyici
- ayrıntılı denge
- öneri ayarlaması
Temel kuramlar
- Metropolis-Hastings kabul kuralı
- Önerileri Hastings oranı ile kabul etmek, zinciri hedefe göre tersine çevrilebilir kılmaktadır; bu sayede, zincirin indirgenemez ve periyodik olmaması koşuluyla, öneriden bağımsız olarak sonsal dağılıma yakınsamaktadır.
- Optimal ölçekleme
- Yüksek boyutlu rastgele yürüyüş önerileri için, adım boyutunu dörtte bire yakın bir kabul oranına doğru ayarlamak, keşif ile reddetme arasındaki dengeyi sağlamaktadır; bu, örnekleyicinin difüzyon-limit analizinden elde edilen bir sonuçtur.
Klinik önem
Metropolis-Hastings, eşlenik yapıya sahip olmayan modellerde sonsal dağılımları örneklemek için kullanılan genel amaçlı bir motor olup, istatistiksel genetik, görüntü analizi ve fizik bilimleri gibi çeşitli alanlarda kullanılmaktadır.
Tarihçe
Algoritma, 1953 yılında Metropolis ile Rosenbluthlar ve Tellerlar tarafından istatistiksel fizik simülasyonları için tanıtılmıştır; Hastings, 1970 yılında bunu keyfi önerilere ve istatistiksel hedeflere genelleştirmiş ve bu tarihten sonra MCMC'nin temel taşı haline gelmiştir.
Öne çıkan isimler
- Nicholas Metropolis
- Marshall Rosenbluth
- Arianna Rosenbluth
- W. Keith Hastings
İlgili konular
Temel eserler
- metropolis1953
- hastings1970
Sıkça sorulan sorular
- Hangi kabul oranını hedeflemeliyim?
- Yüksek boyutlu rastgele yürüyüş önerileri için %20-25 civarında bir kabul oranı genellikle optimuma yakın kabul edilmektedir; tek boyutlu veya bağımsızlık önerileri için ise daha yüksek oranlar uygun olabilmektedir. Amaç, belirli bir oran değil, verimli keşiftir.