Markov Chain Monte Carlo (MCMC) — Metropolis-Hastings a Gibbsovo vzorkování

Markov Chain Monte Carlo (MCMC) je rodina simulačních algoritmů, která konstruuje Markovův řetězec, jehož stacionární distribuce je cílovou aposteriorní distribucí, což umožňuje bayesovskou inferenci a výpočet vícerozměrných integrálů, které by jinak byly analyticky neřešitelné. MCMC, jehož průkopníky byli Metropolis a kolegové v roce 1953 a který byl rozšířen Hastingsem v roce 1970, je základem moderní bayesovské statistiky. Dvě nejpoužívanější varianty jsou Metropolis-Hastings, který navrhuje přesuny z obecné návrhové distribuce, a Gibbsovo vzorkování, které postupně vybírá každý parametr z jeho plné podmíněné distribuce.