Catena di Markov Monte Carlo (MCMC) — Metropolis-Hastings e Gibbs Sampling

La Catena di Markov Monte Carlo (MCMC) è una famiglia di algoritmi di simulazione che costruisce una catena di Markov la cui distribuzione stazionaria è la posteriore target, consentendo inferenza bayesiana e calcolo di integrali ad alta dimensionalità che altrimenti sarebbero analiticamente intrattabili. Inaugurata da Metropolis e colleghi nel 1953 ed estesa da Hastings nel 1970, l'MCMC è alla base della statistica bayesiana moderna. Le due varianti più utilizzate sono Metropolis-Hastings, che propone spostamenti da una distribuzione di proposta generale, e il Gibbs sampling, che estrae ciascun parametro a turno dalla sua distribuzione condizionale completa.