Statistische Entscheidungstheorie

Die statistische Entscheidungstheorie fasst Schätzung und Testen als Entscheidungen unter Unsicherheit auf, die nach dem erwarteten Verlust beurteilt werden, den sie verursachen, und fragt, welche Entscheidungsregeln optimal sind.

Definition

Die statistische Entscheidungstheorie ist der von Wald entwickelte Rahmen, in dem ein statistisches Verfahren eine Entscheidungsregel ist, die Daten auf Aktionen abbildet, bewertet nach ihrem Risiko, dem Erwartungswert einer Verlustfunktion, und verglichen mit anderen Regeln nach Kriterien wie Zulässigkeit, Minimaxität und Bayes-Optimalität.

Scope

Dieser Bereich umfasst Verlustfunktionen und die Risikofunktion als erwarteten Verlust, den Vergleich von Entscheidungsregeln, Zulässigkeit und Unzulässigkeit, Minimax-Regeln, die das Worst-Case-Risiko minimieren, Bayes-Regeln, die das durchschnittliche Risiko unter einer A-priori-Verteilung minimieren, die Beziehung zwischen Bayes-, Minimax- und ungünstigsten A-priori-Verteilungen, randomisierte Entscheidungen und die Geometrie der Risikomenge sowie vollständige Klassensätze, die die zu berücksichtigenden Regeln charakterisieren.

Sub-topics

• Vollständige Klassensätze
• Minimax-Schätzung
• Risiko und Zulässigkeit

Core questions

• Wie formalisieren Verlust und Risiko die Qualität eines statistischen Verfahrens?
• Was bedeutet es, dass eine Entscheidungsregel zulässig oder unzulässig ist?
• Wie hängen Minimax-Regeln mit Bayes-Regeln und ungünstigsten A-priori-Verteilungen zusammen?
• Welche Entscheidungsregeln bilden eine vollständige Klasse, auf die man die Aufmerksamkeit beschränken sollte?

Key theories

Risiko und Zulässigkeit

Jede Regel hat eine Risikofunktion über dem Parameterraum; eine Regel ist unzulässig, wenn eine andere Regel nirgends ein größeres und irgendwo ein strikt kleineres Risiko aufweist, und zulässig andernfalls.

Bayes- und Minimax-Regeln

Eine Bayes-Regel minimiert das durchschnittliche Risiko unter einer A-priori-Verteilung, eine Minimax-Regel minimiert das Worst-Case-Risiko, und unter bestimmten Bedingungen ist eine Minimax-Regel Bayes gegen eine ungünstigste A-priori-Verteilung, wodurch die beiden Kriterien miteinander verknüpft werden.

Vollständige Klassensätze

Unter Konvexität und Kompaktheit stimmen die zulässigen Regeln im Wesentlichen mit den Bayes-Regeln und ihren Grenzwerten überein, sodass die Aufmerksamkeit ohne Verlust auf diese vollständige Klasse beschränkt werden kann.

Clinical relevance

Das entscheidungstheoretische Risiko liegt der Vergleich von Schätzern und Klassifikatoren durch erwarteten Verlust, dem Design kostensensitiver Entscheidungen im medizinischen Screening und bei Operationen sowie der prinzipiellen Wahl zwischen Verfahren zugrunde, wenn keine einzelne Regel dominiert, und bildet das konzeptionelle Rückgrat sowohl der Bayes'schen als auch der frequentistischen Methodik.

History

Wald begründete die statistische Entscheidungstheorie in den 1940er Jahren, indem er Schätzung und Testen als Entscheidungen unter Risiko vereinte und frühe vollständige Klassen- und Minimax-Ergebnisse bewies. Blackwell, Stein und andere entwickelten die Zulässigkeit und die Verbindung zu Bayes-Regeln, konsolidiert in Bergers Monographie.

Debates

Minimax- versus Bayes-Kriterien

Minimaxität schützt vor dem schlimmsten Fall, kann aber übermäßig pessimistisch sein, während die Bayes-Optimalität von einer A-priori-Verteilung abhängt, die schwer zu rechtfertigen sein kann; die Entscheidungstheorie klärt den Kompromiss, ohne eine einzige Wahl vorzuschreiben.

Key figures

• Abraham Wald
• James O. Berger
• Charles Stein
• David Blackwell

Seminal works

• berger1985

Frequently asked questions

Was ist eine Verlustfunktion?

Sie quantifiziert die Kosten einer bestimmten Aktion, wenn ein bestimmter Parameterwert wahr ist; gängige Optionen sind der quadratische Fehler für die Schätzung und der Null-Eins-Verlust für die Klassifikation, und das Risiko ist ihr Erwartungswert.

Ist eine zulässige Regel immer eine gute Regel?

Nicht unbedingt. Zulässigkeit bedeutet nur, dass keine andere Regel sie überall dominiert; einige zulässige Regeln sind insgesamt schlecht, und einige ausgezeichnete Regeln sind unzulässig, daher ist Zulässigkeit eher eine minimale als eine ausreichende Tugend.