ベイジアンネットワーク

ベイジアンネットワークは、ノードが確率変数であり、エッジが条件付き依存性を符号化する有向非巡回グラフであり、結合確率分布をコンパクトに表現します。

Definition

ベイジアンネットワークは、確率変数上の有向非巡回グラフと、各変数の親が与えられた場合の条件付き確率分布からなる確率的グラフィカルモデルであり、これらが共同で全ての変数に対する完全な分布を定義します。

Scope

このトピックでは、ベイジアン（信念）ネットワークの構造と意味論について扱います。具体的には、有向非巡回グラフ、局所的な条件付き確率分布、結合分布の連鎖律による因数分解、およびそれらが符号化する独立性関係（マルコフ条件とd分離）です。ネットワークが条件付き独立性のモデルとしてどのように読み取られるか、また指数関数的に大きな分布をいかにコンパクトに格納するかについて説明します。これらのネットワーク上の推論アルゴリズムは関連する確率的推論のトピックで扱われ、データからの構造やパラメータの学習は機械学習のサブフィールドに属します。

Core questions

• 有向非巡回グラフと局所的な条件付き分布は、どのようにして完全な結合分布を特定するのでしょうか？
• ネットワークの構造はどのような条件付き独立性関係を符号化していますか？
• d分離は、観測された証拠が与えられた場合に2つの変数が独立であるかどうかをどのように決定しますか？
• 因数分解された表現が、完全な結合分布よりもはるかに少ない数を必要とするのはなぜですか？

Key concepts

• 有向非巡回グラフ
• 条件付き確率表
• 連鎖律による因数分解
• マルコフ条件
• d分離
• 親と子孫
• コンパクトな結合分布
• グラフィカルモデル

Key theories

マルコフ条件による因数分解

ベイジアンネットワークは、各変数がその親が与えられた場合にその非子孫に対して条件付き独立であると主張します。したがって、結合分布は各変数の親が与えられた場合の条件付き分布の積に因数分解され、パラメータを大幅に節約できます。

d分離と独立性

d分離のグラフィカルな基準は、数値パラメータに関係なく、グラフによって暗示される独立性ステートメントを正確に特徴付け、ネットワーク構造から条件付き独立性を直接読み取ります。

もっともらしい推論としての信念ネットワーク

Pearlの信念ネットワークフレームワークは、局所的な条件付き確率とメッセージパッシングがどのようにして首尾一貫したもっともらしい推論を捉えるかを示し、有向グラフィカルモデルを不確実な知識を表現するための堅牢で実用的なツールとして確立しました。

Clinical relevance

ベイジアンネットワークは、複雑な確率的依存関係を明示し、観測されていない変数に関する信念を更新するために証拠を伝播させることができるため、医療診断、故障およびリスク分析、センサーフュージョン、遺伝子制御およびその他の生物学的ネットワークモデリング、意思決定支援に利用されています。

History

ベイジアンネットワークは、1980年代にJudea Pearlによって、もっともらしい推論のためのグラフィカルな形式主義として開発され、彼の1988年の著書で完全に発表されました。これらは以前の確率論的およびグラフィカルなアイデアを統合し、規範的な有向グラフィカルモデルとなり、後に確率的グラフィカルモデルの文献で拡張され体系化されました。

Key figures

• Judea Pearl
• Daphne Koller
• Nir Friedman
• David Heckerman

Seminal works

• pearl1986
• pearl1988

Frequently asked questions

ベイジアンネットワークが完全な結合分布よりもコンパクトなのはなぜですか？

n個の二値変数に対する完全な結合分布は約2^n個の数を必要とします。ベイジアンネットワークは、各変数についてその親が与えられた場合の確率のみを格納するため、各変数が少数の親を持つ場合、パラメータの総数は変数の数に対して指数関数的ではなく、ほぼ線形に増加します。

d分離は何を示していますか？

d分離は、ネットワーク構造のみから、2つの変数の集合が、観測された3番目の変数の集合が与えられた場合に条件付き独立であるかどうかを決定するグラフィカルなテストです。これにより、実際の確率の数値を調べずに、グラフから独立性関係を読み取ることができます。