Monte Carlo Hamiltonien

Le Monte Carlo Hamiltonien utilise les gradients du log-postérieur et la dynamique physique simulée pour proposer des déplacements distants et à forte acceptation, permettant un échantillonnage efficace en grande dimension.

Definition

Le Monte Carlo Hamiltonien est une méthode MCMC qui introduit des variables d'impulsion auxiliaires, simule la dynamique Hamiltonienne en utilisant le gradient du log-postérieur pour proposer un nouvel état, et l'accepte avec une étape de Metropolis qui corrige l'erreur d'intégration numérique.

Scope

Ce sujet aborde l'augmentation de la distribution postérieure avec des variables d'impulsion, l'intégration leapfrog de la dynamique Hamiltonienne, la correction de Metropolis pour l'erreur de discrétisation, et le No-U-Turn Sampler qui automatise l'ajustement de la longueur de trajectoire et de la taille de pas.

Core questions

• Comment les variables d'impulsion et la dynamique Hamiltonienne produisent-elles des propositions efficaces ?
• Qu'est-ce que l'intégrateur leapfrog et pourquoi la correction de Metropolis est-elle nécessaire ?
• Comment le No-U-Turn Sampler élimine-t-il le besoin d'ajuster manuellement la longueur de trajectoire ?
• Pourquoi le HMC s'adapte-t-il mieux que les méthodes de marche aléatoire en grande dimension ?

Key concepts

• variables d'impulsion
• intégrateur leapfrog
• dynamique Hamiltonienne
• taille de pas
• longueur de trajectoire
• No-U-Turn Sampler
• gradient du log-postérieur

Key theories

Dynamique Hamiltonienne pour l'échantillonnage

L'augmentation de la cible avec une impulsion Gaussienne et le suivi d'une dynamique conservant le volume et l'énergie permettent à l'échantillonneur de parcourir la distribution postérieure avec une acceptation élevée et une faible corrélation entre les états successifs.

No-U-Turn Sampler

NUTS choisit automatiquement les longueurs de trajectoire en prolongeant le chemin jusqu'à ce qu'il commence à rebrousser chemin, et combine cela avec une adaptation de la taille de pas pour éliminer la majeure partie de l'ajustement manuel.

Clinical relevance

Le Monte Carlo Hamiltonien, en particulier via NUTS, est l'échantillonneur par défaut dans les systèmes de programmation probabiliste tels que Stan et PyMC, rendant les modèles hiérarchiques complexes ajustables en pharmacométrie, en écologie et dans les sciences physiques.

History

Le Monte Carlo hybride a été introduit pour la chromodynamique quantique sur réseau par Duane et ses collègues en 1987 ; Neal l'a adapté et popularisé pour les statistiques, et le No-U-Turn Sampler de Hoffman et Gelman en 2014 l'a rendu pratique pour les utilisateurs généraux, ancrant la programmation probabiliste moderne.

Debates

Sensibilité à la géométrie et à l'ajustement

Le HMC peut rencontrer des difficultés avec des distributions postérieures fortement courbées ou multimodales et nécessite des informations de gradient, ce qui a incité à développer des variantes adaptatives et basées sur des variétés Riemanniennes.

Key figures

• Radford Neal
• Simon Duane
• Matthew Hoffman
• Andrew Gelman
• Michael Betancourt

Seminal works

• neal2011
• hoffman2014

Frequently asked questions

Pourquoi le HMC est-il plus rapide que la méthode de Metropolis à marche aléatoire ?

En utilisant les informations de gradient pour proposer de longues trajectoires qui suivent les contours de la distribution postérieure, le HMC produit des échantillons presque indépendants avec une acceptation élevée, évitant l'exploration diffusive lente des méthodes de marche aléatoire en grande dimension.

Qu'est-ce que le HMC exige que les échantillonneurs plus simples n'exigent pas ?

Il exige le gradient du log-postérieur par rapport aux paramètres continus, c'est pourquoi il est généralement associé à la différenciation automatique et ne peut pas gérer directement les paramètres discrets.