ベイズ因子と周辺尤度

周辺尤度とは、モデルのパラメータを積分消去した後の、そのモデルにおけるデータの確率であり、2つの周辺尤度の比であるベイズ因子は、モデル間のエビデンスを測定します。

Definition

モデルの周辺尤度とは、事前分布上で尤度を積分したものであり、2つのモデル間のベイズ因子は、それらの周辺尤度の比であり、事前オッズを乗じることで、一方のモデルを支持する事後オッズが得られます。

Scope

このトピックでは、周辺尤度の定義と解釈、ベイズ因子とそのエビデンスカテゴリへの較正、その複雑性に対する自動的なペナルティ、拡散事前分布に対する感度を示すジェフリーズ・リンドレーのパラドックス、およびブリッジサンプリングなどの計算方法について扱います。

Core questions

• 周辺尤度とは何であり、どのようにして自動的なオッカムの剃刀を具現化するのでしょうか？
• ベイズ因子はエビデンスの強さとしてどのように解釈されるのでしょうか？
• ジェフリーズ・リンドレーのパラドックスが示すように、ベイズ因子は事前分布の選択に敏感であるのはなぜでしょうか？
• 周辺尤度は実際にどのように計算されるのでしょうか？

Key concepts

• 周辺尤度
• ベイズ因子
• 事後オッズ
• オッカムの剃刀
• ジェフリーズ・リンドレーのパラドックス
• ブリッジサンプリング
• 事前分布感度

Key theories

エビデンスとしてのベイズ因子

ベイズ因子は事前オッズを事後オッズに変換し、較正された尺度上で、データがあるモデルを別のモデルよりも支持するエビデンスの重みとして読み取られます。

ジェフリーズ・リンドレーのパラドックス

周辺尤度は事前分布の広がり（spread）に依存するため、任意に拡散した事前分布は、データに関わらずベイズ因子をより単純なモデルを支持するように強制する可能性があります。したがって、モデル比較には不適切な事前分布を使用すべきではありません。

Clinical relevance

ベイズ因子は、仮説を比較するために遺伝学、心理学、物理学で用いられる原理に基づいたエビデンスの尺度を提供しますが、事前分布への依存性があるため、それらを生み出した事前分布とともに報告される必要があります。

History

ジェフリーズは1930年代に仮説検定のためにベイズ因子を開発しました。1957年のリンドレーのパラドックスは、拡散事前分布に対するベイズ因子の感度を明らかにしました。1995年のカースとラフタリーのレビューは、その解釈を標準化し、計算アプローチを調査しました。

Debates

不適切な事前分布または曖昧な事前分布の使用

周辺尤度は不適切な事前分布に対しては未定義であり、非常に拡散した事前分布に対しては不安定であるため、モデル比較のためのデフォルトの事前分布や、そのような状況でベイズ因子が適切であるか否かについて議論があります。

Key figures

• Harold Jeffreys
• Dennis Lindley
• Robert Kass
• Adrian Raftery

Seminal works

• kass1995
• lindley1957

Frequently asked questions

ベイズ因子を計算するために無情報事前分布を使用できますか？

一般的にはできません。不適切な事前分布は周辺尤度を未定義にし、非常に拡散した適切な事前分布はベイズ因子をより単純なモデルに偏らせる傾向があり、これがジェフリーズ・リンドレーのパラドックスの本質です。したがって、ベイズ因子には慎重に選択された適切な事前分布が必要です。