Markov-Ketten-Monte-Carlo

Markov-Ketten-Monte-Carlo-Verfahren (MCMC) entnehmen Stichproben aus einer komplexen Zielverteilung, indem sie eine Markov-Kette simulieren, die so konstruiert ist, dass sie diese Verteilung als stationäres Gesetz hat. Der Pfad der Kette verhält sich, sobald er konvergiert ist, wie eine abhängige Stichprobe aus der Zielverteilung.

Definition

Markov-Ketten-Monte-Carlo ist eine Klasse von Algorithmen, die Erwartungswerte unter einer Zielverteilung schätzen, indem sie eine ergodische Markov-Kette konstruieren, deren invariante Verteilung die Zielverteilung ist, und eine Funktion über die realisierten Zustände der Kette mitteln.

Scope

Dieses Thema behandelt die Konstruktion von Ketten mit einer vorgegebenen stationären Verteilung durch detaillierte Balance, den Metropolis-Hastings-Algorithmus und seine Vorschlagsmechanismen, Konvergenz- und Mischungsdiagnostika, Burn-in und Autokorrelation sowie die Schätzung von Monte-Carlo-Standardfehlern aus abhängigen Ziehungen. Der Gibbs-Sampler wird als eigenständiges verwandtes Thema behandelt, und Hamiltonsche sowie adaptive Varianten werden als Erweiterungen erwähnt.

Core questions

• Wie wird eine Markov-Kette konstruiert, sodass ihre stationäre Verteilung eine vorgegebene Zielverteilung ist?
• Wie erzwingt der Metropolis-Hastings-Akzeptanz-Ablehnungs-Schritt eine detaillierte Balance für einen beliebigen Vorschlag?
• Wie wird die Konvergenz zur Stationarität beurteilt und wie wird die Mischungsgeschwindigkeit diagnostiziert?
• Wie werden Monte-Carlo-Standardfehler aus autokorrelierten Ziehungen berechnet?

Key concepts

• Stationäre Verteilung
• Detaillierte Balance
• Akzeptanzverhältnis
• Burn-in
• Autokorrelation und Mischung
• Konvergenzdiagnostika

Key theories

Detaillierte Balance und Stationarität

Wenn ein Übergangskern die detaillierte Balance in Bezug auf eine Zielverteilung erfüllt, ist diese Verteilung stationär; ergodische Mittelwerte der resultierenden Kette konvergieren dann zu Erwartungswerten unter der Zielverteilung.

Metropolis-Hastings-Algorithmus

Das Vorschlagen eines Übergangs und dessen Akzeptanz mit einer Wahrscheinlichkeit, die aus der Ziel- und Vorschlagsdichte gebildet wird, ergibt eine Kette, die bezüglich des Ziels reversibel ist, wobei das Ziel nur bis auf eine Normierungskonstante benötigt wird.

Clinical relevance

Markov-Ketten-Monte-Carlo hat die vollständig Bayes'sche Inferenz für hierarchische und hochdimensionale Modelle praktikabel gemacht und wird in der statistischen Genetik, Ökologie, Epidemiologie, Ökonometrie und den physikalischen Wissenschaften angewendet, überall dort, wo posteriore oder Boltzmann-Verteilungen untersucht werden müssen, aber nicht direkt beprobt werden können.

History

Der Metropolis-Algorithmus erschien 1953 in der statistischen Physik, Hastings verallgemeinerte ihn 1970, und in den frühen 1990er Jahren übernahmen Statistiker Markov-Ketten-Monte-Carlo als Standardwerkzeug der Bayes'schen Berechnung, später erweitert durch Hamiltonsche Monte-Carlo- und adaptive Sampler.

Debates

Beurteilung der Konvergenz

Da kein endlicher Lauf beweisen kann, dass eine Kette ihre stationäre Verteilung erreicht hat, verlassen sich Praktiker auf Diagnostika und multiple Ketten; es gibt eine fortlaufende Diskussion darüber, welche Diagnostika vertrauenswürdig sind und wie konservativ Burn-in und Lauflänge sein sollten.

Key figures

• Nicholas Metropolis
• W. Keith Hastings
• Christian P. Robert
• Andrew Gelman

Seminal works

• metropolis1953
• hastings1970

Frequently asked questions

Warum sind Markov-Ketten-Monte-Carlo-Stichproben korreliert?

Jeder Zustand wird aus dem vorherigen generiert, daher sind aufeinanderfolgende Ziehungen voneinander abhängig. Diese Autokorrelation reduziert die effektive Informationsmenge, weshalb Mischungsgeschwindigkeit und effektive Stichprobengröße bei der Schätzung der Genauigkeit von Bedeutung sind.

Was ist Burn-in?

Burn-in ist der anfängliche Teil der Kette, der verworfen wird, weil er noch den willkürlichen Startpunkt und nicht die Zielverteilung widerspiegelt. Das Verwerfen reduziert die Verzerrung durch die Initialisierung, bevor die verbleibenden Ziehungen gemittelt werden.