Hamiltonian-Monte-Carlo-Verfahren

Das Hamiltonian-Monte-Carlo-Verfahren nutzt Gradienten der Log-Posteriori und simulierte physikalische Dynamiken, um weit entfernte Vorschläge mit hoher Akzeptanz zu generieren, was eine effiziente Stichprobenziehung in hohen Dimensionen ermöglicht.

Definition

Das Hamiltonian-Monte-Carlo-Verfahren ist eine MCMC-Methode, die Hilfsimpulsvariablen einführt, die Hamiltonsche Dynamik unter Verwendung des Gradienten der Log-Posteriori simuliert, um einen neuen Zustand vorzuschlagen, und diesen mit einem Metropolis-Schritt akzeptiert, der den numerischen Integrationsfehler korrigiert.

Scope

Dieses Thema behandelt die Erweiterung der Posteriori um Impulsvariablen, die Leapfrog-Integration der Hamiltonschen Dynamik, die Metropolis-Korrektur für Diskretisierungsfehler und den No-U-Turn-Sampler, der die Abstimmung von Pfadlänge und Schrittweite automatisiert.

Core questions

• Wie erzeugen Impulsvariablen und Hamiltonsche Dynamik effiziente Vorschläge?
• Was ist der Leapfrog-Integrator und warum ist die Metropolis-Korrektur notwendig?
• Wie eliminiert der No-U-Turn-Sampler die Notwendigkeit, die Trajektorienlänge manuell anzupassen?
• Warum skaliert HMC in hohen Dimensionen besser als Random-Walk-Methoden?

Key concepts

• Impulsvariablen
• Leapfrog-Integrator
• Hamiltonsche Dynamik
• Schrittweite
• Trajektorienlänge
• No-U-Turn-Sampler
• Gradient der Log-Posteriori

Key theories

Hamiltonsche Dynamik für die Stichprobenziehung

Die Erweiterung des Ziels mit Gaußschem Impuls und das Verfolgen volumenkonservierender, energieerhaltender Dynamiken ermöglicht es dem Sampler, die Posteriori mit hoher Akzeptanz und geringer Korrelation zwischen aufeinanderfolgenden Zuständen zu durchqueren.

No-U-Turn-Sampler

NUTS wählt Trajektorienlängen automatisch, indem es den Pfad verlängert, bis er beginnt, sich zurückzubiegen, und kombiniert dies mit einer Schrittweitenanpassung, um die meisten manuellen Abstimmungen zu eliminieren.

Clinical relevance

Das Hamiltonian-Monte-Carlo-Verfahren, insbesondere über NUTS, ist der Standard-Sampler in probabilistischen Programmiersystemen wie Stan und PyMC, wodurch komplexe hierarchische Modelle in der Pharmakometrie, Ökologie und den physikalischen Wissenschaften anpassbar werden.

History

Hybrid Monte Carlo wurde 1987 von Duane und Kollegen für die Gitter-Quantenchromodynamik eingeführt; Neal adaptierte und popularisierte es für die Statistik, und Hoffman und Gelmans No-U-Turn-Sampler aus dem Jahr 2014 machte es für allgemeine Benutzer praktikabel und bildete die Grundlage der modernen probabilistischen Programmierung.

Debates

Empfindlichkeit gegenüber Geometrie und Abstimmung

HMC kann bei stark gekrümmten oder multimodalen Posteriori-Verteilungen Schwierigkeiten haben und erfordert Gradienteninformationen, was zu Arbeiten an Riemannschen Mannigfaltigkeits- und adaptiven Varianten führte.

Key figures

• Radford Neal
• Simon Duane
• Matthew Hoffman
• Andrew Gelman
• Michael Betancourt

Seminal works

• neal2011
• hoffman2014

Frequently asked questions

Warum ist HMC schneller als Random-Walk-Metropolis?

Durch die Nutzung von Gradienteninformationen zur Erzeugung langer Trajektorien, die den Konturen der Posteriori folgen, erzeugt HMC nahezu unabhängige Stichproben mit hoher Akzeptanz, wodurch die langsame diffusive Exploration von Random-Walk-Methoden in hohen Dimensionen vermieden wird.

Was erfordert HMC, was einfachere Sampler nicht benötigen?

Es erfordert den Gradienten der Log-Posteriori in Bezug auf kontinuierliche Parameter, weshalb es typischerweise mit automatischer Differenzierung gekoppelt ist und diskrete Parameter nicht direkt verarbeiten kann.