极小极大估计

极小极大估计量能使其可能招致的最大风险最小化，在未对参数做任何先验假设的情况下，它能为最坏情况提供保证。

Definition

极小极大决策规则是指其在参数空间上的最大风险与其他任何规则一样小；它能最小化最坏情况下的预期损失，并且通常是针对最不利先验的贝叶斯规则。

Scope

本主题涵盖了最小化最坏情况风险的极小极大准则、最不利先验分布、将极小极大规则描述为针对最不利先验的恒定风险贝叶斯规则、极小极大定理和统计博弈的博弈论价值、极限先验的使用，以及描述非参数和高维问题中可实现最佳风险的极小极大收敛速率。

Core questions

• 最小化最坏情况风险意味着什么？何时适用此准则？
• 什么是最不利先验？它如何识别极小极大规则？
• 为什么具有恒定风险的贝叶斯规则自动是极小极大规则？
• 非参数问题中的极小极大收敛速率是什么？

Key theories

极小极大规则和最不利先验

针对某个先验的贝叶斯规则且具有恒定风险的规则是极小极大规则，并且该先验是最不利的；这种特性是寻找极小极大估计量的主要工具。

极小极大收敛速率

在非参数和高维问题中，极小极大风险以由类别的平滑度或稀疏度决定的速率下降，这为最佳估计精度提供了基准。

Clinical relevance

极小极大速率为非参数回归、密度估计和高维方法设定了黄金标准基准，它能告诉从业者在给定平滑度或稀疏度下可达到的最佳精度，以及所提出的估计量是否是速率最优的。

History

瓦尔德（Wald）在20世纪40年代引入了极小极大准则及其博弈论解读。最不利先验理论在20世纪中叶成熟，勒卡姆（Le Cam）、平斯克（Pinsker）以及后来的作者在随后的几十年中发展了非参数问题的极小极大速率。

Key figures

• Abraham Wald
• Lucien Le Cam
• Charles Stein
• James O. Berger

Seminal works

• berger1985

Frequently asked questions

何时适用极小极大准则？

当对最坏情况的鲁棒性很重要且没有可靠的先验可用时；如果最坏情况不合理，它可能会过于保守，因此它是众多准则之一，而非普遍规则。

什么是最不利先验？

它是使估计问题最困难的先验，它能最大化贝叶斯风险；针对它的具有恒定风险的贝叶斯规则是极小极大规则，这就是为什么找到它对于极小极大估计至关重要。