Algoritmo de Metropolis-Hastings

El algoritmo de Metropolis-Hastings construye una cadena de Markov que se dirige a cualquier posterior proponiendo movimientos y aceptándolos con una probabilidad que impone un balance detallado.

Definition

El algoritmo de Metropolis-Hastings genera una cadena de Markov extrayendo un candidato de una distribución propuesta y aceptándolo con una probabilidad igual al mínimo de uno y la razón de las densidades objetivo multiplicada por la razón de las densidades propuestas, lo que garantiza la posterior como la distribución estacionaria.

Scope

Este tema cubre el mecanismo de propuesta y aceptación, la razón de aceptación que corrige la asimetría de la propuesta, casos especiales como los muestreadores de paseo aleatorio e independencia, y el ajuste de la escala de la propuesta para lograr una mezcla eficiente.

Core questions

• ¿Cómo impone la probabilidad de aceptación un balance detallado con respecto al objetivo?
• ¿Cómo difieren en comportamiento las propuestas de paseo aleatorio y de independencia?
• ¿Cómo se ajusta la escala de la propuesta y qué tasa de aceptación es eficiente?
• ¿Por qué el algoritmo solo necesita la densidad posterior no normalizada?

Key concepts

• distribución propuesta
• probabilidad de aceptación
• razón de Hastings
• Metropolis de paseo aleatorio
• muestreador de independencia
• balance detallado
• ajuste de la propuesta

Key theories

Regla de aceptación de Metropolis-Hastings

Aceptar propuestas con la razón de Hastings hace que la cadena sea reversible con respecto al objetivo, por lo que converge a la posterior independientemente de la propuesta, siempre que la cadena sea irreducible y aperiódica.

Escalado óptimo

Para propuestas de paseo aleatorio en alta dimensión, ajustar el tamaño del paso hacia una tasa de aceptación cercana a un cuarto equilibra la exploración con el rechazo, un resultado del análisis de límite de difusión del muestreador.

Clinical relevance

Metropolis-Hastings es el motor de propósito general para el muestreo de posteriores en modelos sin estructura conjugada, utilizado en genética estadística, análisis de imágenes y ciencias físicas.

History

El algoritmo fue introducido para simulaciones de física estadística por Metropolis y los Rosenbluth y Tellers en 1953; Hastings lo generalizó a propuestas arbitrarias y objetivos estadísticos en 1970, después de lo cual se convirtió en la piedra angular de MCMC.

Key figures

• Nicholas Metropolis
• Marshall Rosenbluth
• Arianna Rosenbluth
• W. Keith Hastings

Seminal works

• metropolis1953
• hastings1970

Frequently asked questions

¿Qué tasa de aceptación debería buscar?

Para propuestas de paseo aleatorio de alta dimensión, una tasa de aceptación de alrededor del 20-25% suele ser casi óptima, mientras que para propuestas unidimensionales o de independencia, tasas más altas pueden ser apropiadas; el objetivo es una exploración eficiente, no una tasa particular per se.