Durağan Dağılımlar ve Ergodiklik
Durağan bir dağılım, bir Markov zincirinin durumlar üzerindeki olasılık dağılımını değiştirmeden bıraktığı bir dağılımdır ve belirli koşullar altında zincir başlangıç noktasını unutarak bu dengeye yakınsamaktadır; bu durumda zaman ortalamaları uzay ortalamalarıyla eşleşmektedir.
Tanım
Bir Markov zincirinin durağan dağılımı, zincirin tek bir adımında değişmez kalan durumlar üzerindeki bir olasılık dağılımıdır; bir zincir ise, herhangi bir başlangıç durumundan itibaren dağılımı bu durağan dağılıma yakınsadığında ve zaman ortalamaları durağan beklentilere yakınsadığında ergodik olarak tanımlanır.
Kapsam
Bu konu, indirgenemez pozitif-tekrarlayan zincirler için durağan ve değişmez dağılımları ile bunların varlığı ve tekliğini, yakınsamada periyodik olmama (aperiyodiklik) rolünü, ayrıntılı denge ve tersinirliği, uzun vadeli zaman ortalamalarını durağan beklentilerle eşitleyen Markov zinciri ergodik teoremini, dengeye yakınsama hızını ve karışma sürelerini, ayrıca bu fikirlerin Markov zinciri Monte Carlo'da kullanımını kapsamaktadır.
Temel sorular
- Bir Markov zinciri ne zaman tek bir durağan dağılıma sahip olur?
- Zincirin dağılımı hangi koşullar altında bu durağan dağılıma yakınsar?
- Ayrıntılı denge nedir ve tersinirlik durağan dağılımı bulmayı nasıl basitleştirir?
- Uzun vadeli zaman ortalamaları, durağan dağılım altındaki ortalamalarla nasıl bir ilişki içindedir?
Anahtar kavramlar
- durağan dağılım
- indirgenemezlik ve periyodik olmama (aperiyodiklik)
- ayrıntılı denge
- ergodik teorem
- karışma süresi
Temel kuramlar
- Varlık, teklik ve durağanlığa yakınsama
- İndirgenemez pozitif-tekrarlayan bir Markov zinciri, ortalama geri dönüş sürelerinin tersleri ile verilen tek bir durağan dağılıma sahiptir ve eğer aynı zamanda periyodik değilse (aperiyodik ise), durumun dağılımı her başlangıç noktasından bu dağılıma yakınsar.
- Markov zinciri ergodik teoremi
- İndirgenemez pozitif-tekrarlayan bir zincir için, durumun bir fonksiyonunun uzun vadeli ortalaması, durağan dağılım altındaki beklentisine neredeyse kesin olarak yakınsar; bu durum, bağımlı Markov verileri için büyük sayılar yasasının bir benzeridir.
- Ayrıntılı denge ve tersinirlik
- Eğer bir dağılım, geçiş olasılıkları ile ayrıntılı dengeyi sağlıyorsa (yani herhangi iki durum arasındaki akış her iki yönde de dengeleniyorsa), o zaman bu dağılım durağandır ve zincir tersinirdir; bu koşul, Markov zinciri Monte Carlo örnekleyicilerini tasarlamak için kullanılmaktadır.
Klinik önem
Bu sonuçlar, Markov zinciri Monte Carlo'nun teorik temelini oluşturmaktadır; burada bir zincir, örneklerinin hedef dağılımı yaklaşık olarak temsil etmesi için hedef dağılımı durağan yasası olarak alacak şekilde tasarlanmaktadır. Karışma süresi sınırları, uygulayıcılara bu tür simülasyonları ne kadar süreyle çalıştırmaları gerektiğini bildirmekte, aynı kuram ise denge kuyruk uzunluklarını ve kararlı durum güvenilirliğini yönetmektedir.
Tarihçe
Markov zincirlerinin denge kuramı, Markov'un orijinal çalışmalarından doğmuş ve Doob, Feller ve diğerleri tarafından modern biçimine kavuşturulmuştur. Uygulamalı önemi, 1953 tarihli Metropolis algoritması ve 1970 tarihli Hastings'in genellemesiyle artmış, bu gelişmeler durağan bir dağılıma yakınsamayı pratik bir hesaplama yöntemine dönüştürmüştür.
Öne çıkan isimler
- Andrey Markov
- Nicholas Metropolis
- Wilfred Keith Hastings
- Sean Meyn
İlgili konular
Temel eserler
- norris1997
Sıkça sorulan sorular
- Her Markov zinciri durağan bir dağılıma yakınsar mı?
- Hayır; yakınsama, indirgenemezlik, pozitif tekrarlama ve periyodik olmama (aperiyodiklik) gibi koşullar gerektirmektedir. Periyodik bir zincir, yerleşmeden döngüye girebilir ve geçici veya sıfır-tekrarlayan bir zincirin hiç durağan dağılımı olmayabilir.
- Tersinirlik pratikte neden faydalıdır?
- Ayrıntılı denge yoluyla tersinirlik, aday bir durağan dağılımın sağlaması gereken basit bir denklem sunar; bu durum hem durağan dağılımın doğrulanmasını kolaylaştırır hem de Metropolis-Hastings ve diğer birçok Markov zinciri Monte Carlo algoritmasının tasarım ilkesini sağlamaktadır.