Monte Carlo Hamiltoniano

O Monte Carlo Hamiltoniano utiliza gradientes da log-posterior e dinâmica física simulada para propor movimentos distantes e de alta aceitação, permitindo uma amostragem eficiente em altas dimensões.

Definition

O Monte Carlo Hamiltoniano é um método MCMC que introduz variáveis de momento auxiliares, simula a dinâmica hamiltoniana usando o gradiente da log-posterior para propor um novo estado e o aceita com um passo de Metropolis que corrige o erro de integração numérica.

Scope

Este tópico abrange o aumento da posterior com variáveis de momento, a integração leapfrog da dinâmica hamiltoniana, a correção de Metropolis para erro de discretização e o No-U-Turn Sampler que automatiza o ajuste do comprimento do caminho e do tamanho do passo.

Core questions

• Como as variáveis de momento e a dinâmica hamiltoniana produzem propostas eficientes?
• O que é o integrador leapfrog e por que a correção de Metropolis é necessária?
• Como o No-U-Turn Sampler elimina a necessidade de ajustar manualmente o comprimento da trajetória?
• Por que o HMC escala melhor do que os métodos de caminhada aleatória em altas dimensões?

Key concepts

• variáveis de momento
• integrador leapfrog
• dinâmica hamiltoniana
• tamanho do passo
• comprimento da trajetória
• No-U-Turn Sampler
• gradiente da log-posterior

Key theories

Dinâmica hamiltoniana para amostragem

Aumentar o alvo com momento gaussiano e seguir dinâmicas que preservam o volume e conservam a energia permite que o amostrador percorra a posterior com alta aceitação e baixa correlação entre estados sucessivos.

No-U-Turn Sampler

O NUTS escolhe automaticamente os comprimentos da trajetória estendendo o caminho até que ele comece a retroceder, e combina isso com a adaptação do tamanho do passo para eliminar a maior parte do ajuste manual.

Clinical relevance

O Monte Carlo Hamiltoniano, especialmente via NUTS, é o amostrador padrão em sistemas de programação probabilística como Stan e PyMC, tornando modelos hierárquicos complexos ajustáveis em farmacometria, ecologia e ciências físicas.

History

O Monte Carlo Híbrido foi introduzido para cromodinâmica quântica de rede por Duane e colegas em 1987; Neal o adaptou e popularizou para estatística, e o No-U-Turn Sampler de Hoffman e Gelman de 2014 o tornou prático para usuários em geral, ancorando a programação probabilística moderna.

Debates

Sensibilidade à geometria e ajuste

O HMC pode ter dificuldades com posteriores fortemente curvas ou multimodais e requer informações de gradiente, o que impulsiona o trabalho em variantes adaptativas e de variedades riemannianas.

Key figures

• Radford Neal
• Simon Duane
• Matthew Hoffman
• Andrew Gelman
• Michael Betancourt

Seminal works

• neal2011
• hoffman2014

Frequently asked questions

Por que o HMC é mais rápido que o Metropolis de caminhada aleatória?

Ao usar informações de gradiente para propor longas trajetórias que seguem os contornos da posterior, o HMC produz amostras quase independentes com alta aceitação, evitando a exploração difusiva lenta dos métodos de caminhada aleatória em altas dimensões.

O que o HMC exige que amostradores mais simples não exigem?

Ele requer o gradiente da log-posterior em relação a parâmetros contínuos, razão pela qual é tipicamente emparelhado com diferenciação automática e não pode lidar diretamente com parâmetros discretos.