モンテカルロ法

モンテカルロ法は、シミュレートされたランダムな抽出の平均をとることで、積分、期待値、確率を近似する手法であり、扱いにくい解析的計算を、標本の流れに適用される大数の法則に置き換えるものです。

Definition

モンテカルロ法は、適切な確率分布から抽出された標本で評価された関数の平均として、決定論的な量、典型的には積分または期待値を推定する計算手法です。

Scope

この分野では、積分と期待値の単純なモンテカルロ推定、リウェイト戦略としての重点サンプリング、およびギブスサンプラーを含む複雑な高次元分布からのサンプリングのためのマルコフ連鎖モンテカルロを扱います。物理学に特化したシミュレーションモデルではなく、これらの推定量（一貫性、誤差率、有効標本サイズ）の統計理論を扱います。

Sub-topics

• Gibbs Sampling (Statistical Computing)
• Importance Sampling
• Markov Chain Monte Carlo
• Monte Carlo Integration

Core questions

• ランダム標本の平均化はどのように積分を推定し、誤差はどの程度の速さで減少しますか？
• ある分布からのサンプリングは、別の分布の下での期待値をどのように推定できますか？
• 定常分布が目的のターゲットとなるように、マルコフ連鎖はどのように構築できますか？
• 抽出が依存している場合、モンテカルロ推定の精度はどのように定量化されますか？

Key theories

モンテカルロ推定

大数の法則により、独立した抽出で評価された関数の標本平均はその期待値に収束し、中心極限定理は次元に依存しないルートnの誤差率を与えます。

マルコフ連鎖モンテカルロ

不変分布がターゲットであるマルコフ連鎖を構築することで、定数倍までしか知られていない分布からサンプリングすることができ、連鎖のエルゴード平均が期待値を推定します。

重点サンプリングによる測度変換

扱いやすい提案分布から抽出し、ターゲット密度と提案密度との比率で重み付けすることで、ターゲットの下での期待値の不偏推定値が得られ、その効率は重みの分散によって決まります。

Clinical relevance

モンテカルロ法は、現代統計学の計算エンジンであり、ベイズ事後分布の評価、潜在変数の積分、複雑なモデルを通じた不確実性の伝播、閉形式の解が存在しない状況でのp値とリスクの推定を行います。その応用は、物理学、遺伝学、金融、疫学にわたります。

History

モンテカルロ法は、1940年代にロスアラモスでの核物理計算に端を発し、カジノにちなんで名付けられました。メトロポリスアルゴリズムは1953年に続き、ヘイスティングスは1970年にそれを一般化し、1990年代に統計学者によるギブスサンプリングの再発見により、マルコフ連鎖モンテカルロは計算ベイズ統計学の主要なツールとなりました。

Key figures

• Nicholas Metropolis
• Stanislaw Ulam
• Christian P. Robert
• Andrew Gelman

Seminal works

• robert2004
• metropolis1949

Frequently asked questions

モンテカルロ誤差が次元とともに増加しないのはなぜですか？

単純なモンテカルロ平均の標準誤差は、積分の次元に関係なく、抽出回数の平方根に反比例して減少します。この次元独立性こそが、モンテカルロが高次元問題においてグリッドベースの求積法をしばしば凌駕する理由です。

単純なモンテカルロとマルコフ連鎖モンテカルロの違いは何ですか？

単純なモンテカルロは、ターゲット分布からの独立した抽出を使用します。一方、マルコフ連鎖モンテカルロは、その長期分布がターゲットである依存するシーケンスをシミュレートするため、直接サンプリングできない分布からサンプリングすることができます。