Monte Carlo Yöntemleri
Monte Carlo yöntemleri, simüle edilmiş rastgele çekilişler üzerinden ortalama alarak integralleri, beklentileri ve olasılıkları tahmin eder; bu sayede çözümlenmesi zor analitik hesaplamayı, bir örnek akışına uygulanan büyük sayılar yasası ile değiştirir.
Tanım
Monte Carlo yöntemleri, uygun bir olasılık dağılımından çekilen örneklerde değerlendirilen bir fonksiyonun ortalaması olarak, genellikle bir integral veya beklenti olan deterministik bir niceliği tahmin eden hesaplamalı tekniklerdir.
Kapsam
Bu alan, integrallerin ve beklentilerin basit Monte Carlo tahminini, yeniden ağırlıklandırma stratejisi olarak önem örneklemesini (importance sampling) ve Gibbs örnekleyicisi (Gibbs sampler) dahil olmak üzere karmaşık yüksek boyutlu dağılımlardan örnekleme için Markov zinciri Monte Carlo'yu kapsar. Fizik odaklı simülasyon modellerinden ziyade, bu tahmin edicilerin istatistiksel teorisini (tutarlılık, hata oranları, etkin örneklem büyüklüğü) ele almaktadır.
Alt konular
Temel sorular
- Rastgele örnekler üzerinden ortalama almak bir integrali nasıl tahmin eder ve hata hangi oranda azalır?
- Bir dağılımdan örnekleme yapmak, başka bir dağılım altındaki beklentileri nasıl tahmin edebilir?
- Bir Markov zinciri, durağan dağılımı (stationary distribution) ilgi odağı olan hedef olacak şekilde nasıl inşa edilebilir?
- Çekilişler bağımlı olduğunda bir Monte Carlo tahmininin doğruluğu nasıl nicelleştirilir?
Temel kuramlar
- Monte Carlo tahmini
- Büyük sayılar yasasına göre, bağımsız çekilişlerde değerlendirilen bir fonksiyonun örneklem ortalaması, beklentisine yakınsar ve merkezi limit teoremi, boyuttan bağımsız olarak kök-n hata oranı verir.
- Markov zinciri Monte Carlo
- Durağan dağılımı (invariant distribution) hedef olan bir Markov zinciri inşa etmek, sadece bir sabite kadar bilinen dağılımlardan örnekleme yapmaya olanak tanır ve zincirin ergodik ortalamaları beklentileri tahmin eder.
- Önem örneklemesi (importance sampling) yoluyla ölçü değişimi
- İşlenebilir bir öneri dağılımından (proposal distribution) örnekleme yapmak ve hedef ile öneri yoğunluğu oranına göre yeniden ağırlıklandırmak, hedef altındaki beklentilerin yansız tahminlerini verir; verimlilik ağırlık varyansı tarafından belirlenir.
Klinik önem
Monte Carlo yöntemleri, modern istatistiğin hesaplamalı motorudur: Bayesci posteriyorları değerlendirir, gizli değişkenleri entegre eder, karmaşık modeller aracılığıyla belirsizliği yayar ve kapalı formda çözümlerin bulunmadığı durumlarda p-değerlerini ve riski tahmin ederler. Uygulama alanları fizik, genetik, finans ve epidemiyolojiyi kapsar.
Tarihçe
Monte Carlo yöntemleri, 1940'larda Los Alamos'taki nükleer fizik hesaplamalarında ortaya çıkmış ve adını kumarhaneden almıştır. Metropolis algoritması 1953'te geliştirilmiş, Hastings 1970'te bunu genelleştirmiş ve istatistikçiler tarafından Gibbs örneklemesinin (Gibbs sampling) 1990'larda yeniden keşfedilmesi, Markov zinciri Monte Carlo'yu hesaplamalı Bayesci istatistiğin baskın aracı haline getirmiştir.
Öne çıkan isimler
- Nicholas Metropolis
- Stanislaw Ulam
- Christian P. Robert
- Andrew Gelman
İlgili konular
Temel eserler
- robert2004
- metropolis1949
Sıkça sorulan sorular
- Monte Carlo hatası neden boyutla birlikte artmaz?
- Basit bir Monte Carlo ortalamasının standart hatası, integral boyutundan bağımsız olarak çekiliş sayısının karekökünün tersi oranında küçülür. Bu boyut bağımsızlığı, Monte Carlo'nun yüksek boyutlu problemler için genellikle ızgara tabanlı kuadratürü (grid-based quadrature) geride bırakmasının nedenidir.
- Basit Monte Carlo ile Markov zinciri Monte Carlo arasındaki fark nedir?
- Basit Monte Carlo, hedef dağılımdan bağımsız çekilişler kullanır. Markov zinciri Monte Carlo ise, uzun vadeli dağılımı hedef olan bağımlı bir dizi simüle eder; bu da doğrudan örnekleme yapılamayan dağılımlardan örnekleme yapmasına olanak tanır.