Minimax-Schätzung

Ein Minimax-Schätzer minimiert das größte Risiko, das er eingehen kann, und bietet eine Garantie gegen den schlimmsten Fall, wenn keine A-priori-Verteilung über den Parameter angenommen wird.

Definition

Eine Minimax-Entscheidungsregel ist eine solche, deren maximales Risiko über den Parameterraum so klein ist wie das jeder anderen Regel; sie minimiert den erwarteten Verlust im schlimmsten Fall und ist typischerweise Bayes-optimal gegenüber einer am wenigsten günstigen A-priori-Verteilung.

Scope

Dieses Thema behandelt das Minimax-Kriterium zur Minimierung des Worst-Case-Risikos, am wenigsten günstige A-priori-Verteilungen, die Charakterisierung einer Minimax-Regel als Bayes-Regel mit konstantem Risiko gegenüber einer am wenigsten günstigen A-priori-Verteilung, das Minimax-Theorem und den spieltheoretischen Wert des statistischen Spiels, die Verwendung von Grenz-A-priori-Verteilungen und Minimax-Konvergenzraten, die das bestmögliche erreichbare Risiko in nichtparametrischen und hochdimensionalen Problemen beschreiben.

Core questions

• Was bedeutet es, das Worst-Case-Risiko zu minimieren, und wann ist dies ein geeignetes Kriterium?
• Was ist eine am wenigsten günstige A-priori-Verteilung, und wie identifiziert sie eine Minimax-Regel?
• Warum ist eine Bayes-Regel mit konstantem Risiko automatisch Minimax?
• Was sind Minimax-Konvergenzraten in nichtparametrischen Problemen?

Key theories

Minimax-Regeln und am wenigsten günstige A-priori-Verteilungen

Eine Regel, die Bayes-optimal gegenüber einer A-priori-Verteilung ist und ein konstantes Risiko aufweist, ist Minimax, und diese A-priori-Verteilung ist am wenigsten günstig; diese Charakterisierung ist das Hauptwerkzeug zur Auffindung von Minimax-Schätzern.

Minimax-Konvergenzraten

In nichtparametrischen und hochdimensionalen Problemen nimmt das Minimax-Risiko mit einer Rate ab, die durch die Glätte oder Sparsität der Klasse bestimmt wird, was einen Maßstab für die bestmögliche Schätzgenauigkeit darstellt.

Clinical relevance

Minimax-Raten setzen den Goldstandard für nichtparametrische Regression, Dichteschätzung und hochdimensionale Methoden, indem sie Praktikern die bestmögliche Genauigkeit für eine gegebene Glätte oder Sparsität aufzeigen und angeben, ob ein vorgeschlagener Schätzer ratenoptimal ist.

History

Wald führte das Minimax-Kriterium und seine spieltheoretische Lesart in den 1940er Jahren ein. Die Theorie der am wenigsten günstigen A-priori-Verteilungen reifte Mitte des Jahrhunderts, und Le Cam, Pinsker und spätere Autoren entwickelten in den folgenden Jahrzehnten Minimax-Raten für nichtparametrische Probleme.

Key figures

• Abraham Wald
• Lucien Le Cam
• Charles Stein
• James O. Berger

Seminal works

• berger1985

Frequently asked questions

Wann ist das Minimax-Kriterium angemessen?

Wenn Robustheit gegenüber dem schlimmsten Fall wichtig ist und keine zuverlässige A-priori-Verteilung verfügbar ist; es kann übermäßig konservativ sein, wenn der schlimmste Fall unplausibel ist, daher ist es ein Kriterium unter mehreren und keine universelle Regel.

Was ist eine am wenigsten günstige A-priori-Verteilung?

Es ist die A-priori-Verteilung, die das Schätzproblem am schwierigsten macht, indem sie das Bayes-Risiko maximiert; eine Bayes-Regel dagegen mit konstantem Risiko ist Minimax, weshalb ihre Auffindung der Schlüssel zur Minimax-Schätzung ist.