マルコフ連鎖モンテカルロ法

マルコフ連鎖モンテカルロ法は、複雑な目標分布からサンプリングするために、その分布を一意の定常法則として持つように設計されたマルコフ連鎖をシミュレートします。

Definition

マルコフ連鎖モンテカルロ法は、定常分布が目標分布であるエルゴード的なマルコフ連鎖を実行し、その連鎖の経路に沿って関数を平均化することによって、目標確率分布の下での期待値を推定するアルゴリズムのファミリーです。

Scope

このトピックでは、所定の定常分布を持つ遷移核の設計、メトロポリス・ヘイスティングスアルゴリズムとその受容規則、条件付き更新のためのギブスサンプラー、収束診断とバーンイン、自己相関が推定量分散に与える影響、および混合時間とサンプリングの計算コストとの関連について説明します。

Core questions

• 所望の定常分布を持つマルコフ連鎖はどのように構築されますか？
• メトロポリス・ヘイスティングスの受容規則が正しい定常法則を生成するのはなぜですか？
• ギブスサンプラーは条件付き分布をどのように利用しますか？
• 連鎖のサンプルが使用可能になるまでにどのくらいの期間実行する必要があり、これはどのように評価されますか？

Key theories

メトロポリス・ヘイスティングス構成

任意のカーネルから移動を提案し、目標密度比から構築された確率でそれらを受け入れることにより、定常分布が正確に目標である可逆連鎖が得られます。これには、正規化定数までの目標のみが必要です。

エルゴード平均とモンテカルロ推定

連鎖は目標を定常法則とするエルゴード的であるため、連鎖に沿った関数の時間平均は、目標期待値にほとんど確実に収束し、シミュレートされた経路をサンプルとして使用することを正当化します。

Clinical relevance

マルコフ連鎖モンテカルロ法は、現代のベイズ統計学、統計物理学、機械学習の主力であり、解析的に積分できない高次元の事後分布、分配関数、エネルギーランドスケープに対する推論を可能にします。その信頼性は、基礎となる連鎖が十分に迅速に混合することに依存します。

History

受容-棄却連鎖は、1953年の統計物理学のためのメトロポリスアルゴリズムに端を発し、1970年にヘイスティングスによって一般化され、1984年のGemanとGemanによるギブスサンプラー、および1990年頃のGelfandとSmithによる影響力のあるベイズ応用を通じて統計学のために再構築され、計算ベイズ革命を開始しました。

Key figures

• Nicholas Metropolis
• W. Keith Hastings
• Stuart Geman
• Donald Geman

Seminal works

• robertCasella2004
• hastings1970

Frequently asked questions

なぜマルコフ連鎖を使用してサンプルを抽出するのですか？

高次元または正規化されていない目標分布の場合、直接サンプリングは実行不可能です。目標に収束するマルコフ連鎖を使用すると、平衡に達した後、依存的ではあるが正しく分布したサンプルを生成できます。

バーンインとは何ですか？

これは、連鎖がまだ定常分布に収束していないため破棄される連鎖の初期部分であり、これらの初期状態は推定値を偏らせる可能性があります。