統計的決定理論

統計的決定理論は、推定と検定を不確実性下での選択として捉え、それらがもたらす期待損失によって評価し、どの決定規則が最適であるかを問うものである。

Definition

統計的決定理論は、ワルドに起因する枠組みであり、統計的手順はデータを行動にマッピングする決定規則であり、損失関数の期待値であるそのリスクによって評価され、許容性、ミニマックス性、ベイズ最適性などの基準によって他の規則と比較される。

Scope

この分野は、期待損失としての損失関数とリスク関数、決定規則の比較、許容性と非許容性、最悪ケースのリスクを最小化するミニマックス規則、事前分布の下で平均リスクを最小化するベイズ規則、ベイズ規則、ミニマックス規則、および最不利な事前分布の関係、ランダム化された決定とリスク集合の幾何学、そして考慮に値する規則を特徴づける完全クラス定理を扱う。

Sub-topics

• Complete-Class Theorems
• Minimax Estimation
• Risk and Admissibility

Core questions

• 損失とリスクは統計的手順の質をどのように形式化するのか？
• 決定規則が許容的または非許容的であるとはどういう意味か？
• ミニマックス規則はベイズ規則および最不利な事前分布とどのように関連しているのか？
• どの決定規則が、検討に限定する価値のある完全クラスを形成するのか？

Key theories

リスクと許容性

各規則はパラメータ空間上のリスク関数を持つ。ある規則が非許容的であるとは、他の規則がどこでもそれより小さいリスクを持たず、どこかで厳密に小さいリスクを持つ場合であり、そうでない場合は許容的である。

ベイズ規則とミニマックス規則

ベイズ規則は事前分布の下で平均リスクを最小化し、ミニマックス規則は最悪ケースのリスクを最小化する。条件によっては、ミニマックス規則は最不利な事前分布に対するベイズ規則であり、これら2つの基準を結びつける。

完全クラス定理

凸性とコンパクト性の下では、許容的規則は本質的にベイズ規則とその極限と一致するため、損失なくこの完全クラスに注意を限定することができる。

Clinical relevance

決定理論的リスクは、期待損失による推定量と分類器の比較、医療スクリーニングと手術における費用感応的な決定の設計、そして単一の規則が支配的でない場合の原則に基づいた手順の選択の根底にあり、ベイズ派と頻度論派の両方の方法論の概念的基盤を提供する。

History

ワルドは1940年代に統計的決定理論を創設し、推定と検定をリスク下の決定として統一し、初期の完全クラスとミニマックスの結果を証明した。ブラックウェル、スタインらは許容性とベイズ規則との関連性を発展させ、バーガーのモノグラフで統合された。

Debates

ミニマックス基準対ベイズ基準

ミニマックス性は最悪のケースから保護するが、過度に悲観的になる可能性があり、一方、ベイズ最適性は正当化が難しい事前分布に依存する。決定理論は、単一の選択を指示することなく、トレードオフを明確にする。

Key figures

• Abraham Wald
• James O. Berger
• Charles Stein
• David Blackwell

Seminal works

• berger1985

Frequently asked questions

損失関数とは何か？

特定のパラメータ値が真である場合に特定の行動をとることのコストを定量化するものである。一般的な選択肢としては、推定のための二乗誤差や分類のためのゼロイチ損失があり、リスクはその期待値である。

許容的規則は常に良い規則なのか？

必ずしもそうではない。許容性とは、他の規則がどこでもそれを支配しないことを意味するに過ぎない。一部の許容的規則は全体的に劣悪であり、一部の優れた規則は非許容的であるため、許容性は十分な美徳というよりは最小限の美徳である。