共役事前分布

共役事前分布は、事後分布を事前分布と同じ分布族に保ち、ベイズ更新を分布族のパラメータの単純な更新へと変えます。

Definition

事前分布の族が与えられた尤度に対して共役であるとは、いかなるデータに対しても、結果として得られる事後分布が同じ族に属する場合を指します。事後分布は、その族の超パラメータを閉形式で更新することによって得られます。

Scope

このトピックでは、共役性の定義、標準的な共役ペア（ベータ-二項分布、ガンマ-ポアソン分布、正規-正規分布、正規-逆ガンマ分布、ディリクレ-多項分布）、指数型分布族との関連、および事前分布パラメータを擬似カウントまたは事前サンプルサイズとして解釈することについて説明します。

Core questions

• 事前分布が尤度に対して共役であるとはどういう意味ですか？
• 一般的な指数型分布族モデルに対して、どのような共役ペアが生じますか？
• 共役超パラメータはどのようにして事前擬似データとして機能しますか？
• 共役性が指数型分布族の構造から導かれるのはなぜですか？

Key concepts

• 共役事前分布
• ベータ-二項分布
• ガンマ-ポアソン分布
• 正規-正規分布
• ディリクレ-多項分布
• 指数型分布族
• 超パラメータ
• 事前擬似カウント

Key theories

指数型分布族の共役性

ディアコニスとイルビサカーは、指数型分布族の尤度に対する共役事前分布を特徴付け、それらが十分統計量に対して線形な事後期待値を意味することを示しました。

擬似データとしての事前分布

共役超パラメータは、架空の事前データセットのカウントと合計として解釈でき、事後分布は実際の観測と事前の擬似観測を相加的に結合します。

Clinical relevance

共役モデルは、高速で透明性の高い更新を提供し、比率および割合の推定、適応的無作為化、およびより大規模なサンプリングベースの分析における構成要素として広く使用されています。

History

ライファとシュライファーは1961年に意思決定問題に対する共役分析を体系化しました。ディアコニスとイルビサカーは1979年に指数型分布族に対する一般的な特徴付けを与えました。共役性は、ギブスサンプリングのような現代の計算スキームにおける中心的な要素として依然として重要です。

Key figures

• Howard Raiffa
• Robert Schlaifer
• Persi Diaconis

Seminal works

• diaconis1979
• gelman2013

Frequently asked questions

コンピュータがあらゆる事前分布を扱えるのに、なぜ共役事前分布を使用するのですか？

共役事前分布は、高速で解釈可能な厳密な閉形式の事後分布を提供し、全体的なモデルが共役でない場合でも、ギブスサンプラー内の完全条件付き更新として機能することがよくあります。