メトロポリス・ヘイスティングス法

メトロポリス・ヘイスティングス法は、提案された移動を詳細なバランスを強制する確率で受け入れることにより、任意の事後分布を目標とするマルコフ連鎖を構築する。

Definition

メトロポリス・ヘイスティングス法は、提案分布から候補を抽出し、1と目標密度比に提案密度比を乗じたものの最小値に等しい確率でそれを受け入れることにより、マルコフ連鎖を生成する。これにより、事後分布が定常分布として保証される。

Scope

このトピックでは、提案と受容のメカニズム、提案の非対称性を補正する受容比、ランダムウォークサンプラーや独立サンプラーなどの特殊なケース、および効率的な混合を達成するための提案スケールの調整について説明する。

Core questions

• 受容確率は、目標に関して詳細なバランスをどのように強制するのか？
• ランダムウォーク提案と独立提案は、挙動においてどのように異なるのか？
• 提案スケールはどのように調整され、どのような受容率が効率的か？
• なぜこのアルゴリズムは正規化されていない事後密度のみを必要とするのか？

Key concepts

• 提案分布
• 受容確率
• ヘイスティングス比
• ランダムウォーク・メトロポリス
• 独立サンプラー
• 詳細バランス
• 提案調整

Key theories

メトロポリス・ヘイスティングス受容規則

ヘイスティングス比を用いて提案を受け入れることで、連鎖は目標に対して可逆的になり、連鎖が既約かつ非周期的である限り、提案に関わらず事後分布に収束する。

最適スケーリング

高次元におけるランダムウォーク提案の場合、ステップサイズを約4分の1の受容率に調整することで、探索と棄却のバランスが取れる。これはサンプラーの拡散限界解析から得られた結果である。

Clinical relevance

メトロポリス・ヘイスティングス法は、共役構造を持たないモデルにおける事後分布サンプリングのための汎用エンジンであり、統計遺伝学、画像解析、物理科学など幅広い分野で利用されている。

History

このアルゴリズムは、1953年にメトロポリス、ローゼンブルース夫妻、テラーズによって統計物理学シミュレーションのために導入された。ヘイスティングスは1970年にこれを任意の提案と統計的目標に一般化し、それ以来MCMCの基礎となった。

Key figures

• Nicholas Metropolis
• Marshall Rosenbluth
• Arianna Rosenbluth
• W. Keith Hastings

Seminal works

• metropolis1953
• hastings1970

Frequently asked questions

どの程度の受容率を目指すべきか？

高次元のランダムウォーク提案の場合、20〜25%程度の受容率がしばしば最適に近いとされるが、1次元または独立提案の場合にはより高い率が適切である可能性がある。目標は特定の率そのものではなく、効率的な探索である。