事前分布

事前分布は、データが観察される前にパラメーターについて知られていることを符号化するものであり、その指定はベイズ分析の独特なモデリングステップである。

Definition

事前分布とは、現在のデータを観察する前に利用可能な情報または仮定を表す、モデルの未知のパラメーターに関する確率分布であり、これは尤度と組み合わされて事後分布を形成する。

Scope

この分野では、事前分布を構築するために使用される族と原理を扱う。これには、分析の便宜のために選択される共役族、影響を最小限に抑えるように設計された無情報事前分布および参照事前分布、正則化のために使用される弱情報事前分布、そして責任ある事前分布の選択を決定する引き出しと感度分析が含まれる。

Sub-topics

• Conjugate Priors
• Noninformative and Reference Priors
• Prior Elicitation and Sensitivity Analysis
• Weakly Informative and Regularizing Priors

Core questions

• 事前分布が共役であるとはどういうことか、また共役が有用なのはなぜか？
• 無情報事前分布または参照事前分布はどのように構築され、正当化されるのか？
• フラットな事前分布よりも弱情報事前分布が好ましいのはどのような場合か？
• 事前情報はどのように引き出され、事前分布に対する感度はどのように評価されるのか？

Key concepts

• 事前分布
• 共役事前分布
• 無情報事前分布
• 参照事前分布
• ジェフリーズ事前分布
• 弱情報事前分布
• 不適切事前分布
• 事前分布感度

Key theories

共役性

事後分布が同じ族に留まる場合、事前分布は尤度に対して共役であるとされ、閉形式の更新が可能になる。共役事前分布は、指数型分布族の尤度に対して自然に生じる。

ジェフリーズの不変事前分布

ジェフリーズの規則は、フィッシャー情報行列式の平方根に比例する事前分布を設定し、再パラメーター化の下で不変であり、標準的な客観的デフォルトを提供する。

弱情報事前分布

意図的に広範であるが適切な事前分布は、強い実質的な信念を課すことなく正則化と計算の安定性を提供し、これは現代の応用ベイズ研究で強調されているアプローチである。

Clinical relevance

事前分布の選択は、分析にどれだけの外部証拠が導入されるかを決定する。これは、初期段階の試験、希少疾患の遺伝学、リスク評価など、サンプルサイズの小さい設定において重要であり、適切に選択された事前分布は推定値を安定させる。

History

ラプラスの不十分な理由の原理は、最初のデフォルト事前分布を提供した。ジェフリーズは1940年代に不変な客観的事前分布を形式化し、ベルナルドは1979年に参照事前分布を導入した。現代の応用分野では、正則化と計算の信頼性の両方のために、弱情報事前分布が好まれている。

Debates

フラットな事前分布と弱情報事前分布

「無情報」なフラットな事前分布が本当に中立であるかどうかは議論の余地がある。なぜなら、それらは不適切である可能性があり、変換された尺度では強い信念を意味する可能性があるため、弱情報な代替案が動機付けられている。

Key figures

• Harold Jeffreys
• Jose-Miguel Bernardo
• Edwin T. Jaynes
• Andrew Gelman

Seminal works

• gelman2013
• jeffreys1946

Frequently asked questions

客観的であるために、フラットな事前分布を使用してもよいか？

フラットな事前分布は自動的に中立であるとは限らない。それは不適切である可能性があり、適切な事後分布を生成しない可能性があり、変数の変更後には非常に情報量が多くなる可能性があるため、弱情報な適切な事前分布がしばしば好まれる。

十分なデータがあれば、事前分布は重要でなくなるか？

正則条件の下では、サンプルサイズが増加するにつれて尤度が支配的になり、事後分布は合理的な事前分布に対して非感受性になるが、サンプルサイズが小さい場合やパラメーターが多い場合、事前分布は依然として影響力を持つ可能性がある。