ミニマックス推定

ミニマックス推定量は、パラメータに関する事前情報がない場合に、発生しうる最大のリスクを最小化し、最悪のケースに対する保証を提供する。

Definition

ミニマックス決定ルールとは、パラメータ空間全体における最大リスクが他のどのルールよりも小さいものであり、最悪ケースの期待損失を最小化し、通常は最不利事前分布に対するベイズルールである。

Scope

このトピックでは、最悪ケースのリスクを最小化するミニマックス基準、最不利事前分布、最不利事前分布に対する一定リスクを持つベイズルールとしてのミニマックスルールの特徴付け、ミニマックス定理と統計的ゲームのゲーム理論的価値、限界事前分布の使用、およびノンパラメトリック問題や高次元問題で達成可能な最良のリスクを記述するミニマックス収束率について扱う。

Core questions

• 最悪ケースのリスクを最小化するとはどういう意味か、また、これはいつ適切な基準となるのか？
• 最不利事前分布とは何か、そしてそれはどのようにミニマックスルールを特定するのか？
• 一定リスクを持つベイズルールが自動的にミニマックスであるのはなぜか？
• ノンパラメトリック問題におけるミニマックス収束率とは何か？

Key theories

ミニマックスルールと最不利事前分布

ある事前分布に対してベイズであり、かつ一定のリスクを持つルールはミニマックスであり、その事前分布は最不利である。この特徴付けはミニマックス推定量を見つけるための主要なツールである。

ミニマックス収束率

ノンパラメトリック問題や高次元問題では、ミニマックスリスクはクラスの平滑性やスパース性によって決定される速度で減少し、可能な最良の推定精度に対するベンチマークを提供する。

Clinical relevance

ミニマックス率は、ノンパラメトリック回帰、密度推定、および高次元手法のゴールドスタンダードとなるベンチマークを設定し、与えられた平滑性またはスパース性に対して達成可能な最良の精度、および提案された推定量がレート最適であるかどうかを実務者に示す。

History

ワルドは1940年代にミニマックス基準とそのゲーム理論的解釈を導入した。最不利事前分布の理論は世紀半ばに成熟し、ル・カム、ピンスカー、そしてその後の著者たちは、続く数十年でノンパラメトリック問題に対するミニマックス率を発展させた。

Key figures

• Abraham Wald
• Lucien Le Cam
• Charles Stein
• James O. Berger

Seminal works

• berger1985

Frequently asked questions

ミニマックス基準はいつ適切か？

最悪のケースに対するロバスト性が重要であり、信頼できる事前情報が利用できない場合である。最悪のケースが非現実的である場合、過度に保守的になる可能性があるため、普遍的なルールというよりは、いくつかの基準の中の一つと位置付けられる。

最不利事前分布とは何か？

推定問題を最も困難にし、ベイズリスクを最大化する事前分布である。これに対する一定リスクを持つベイズルールはミニマックスであり、これが最不利事前分布を見つけることがミニマックス推定の鍵となる理由である。