Risiko und Zulässigkeit
Die Risikofunktion erfasst den erwarteten Verlust einer Regel bei jedem Parameterwert; die Zulässigkeit fragt, ob eine andere Regel überall mindestens ebenso gut und irgendwo besser abschneidet.
Definition
Die Risikofunktion einer Entscheidungsregel ist der erwartete Verlust als Funktion des Parameters; eine Regel ist unzulässig, wenn eine andere Regel für alle Parameterwerte kein größeres und für mindestens einen Parameterwert ein strikt kleineres Risiko aufweist, und zulässig, wenn keine solche Regel existiert.
Scope
Dieses Thema behandelt Verlustfunktionen und die Risikofunktion, die partielle Ordnung von Regeln nach Risikodominanz, die Definitionen von zulässigen und unzulässigen Regeln, die Unzulässigkeit des Stichprobenmittelwerts in drei oder mehr Dimensionen als zentrales Beispiel, Methoden zum Nachweis der Zulässigkeit durch Bayes- und Grenz-Bayes-Argumente sowie Steins Identität und die Beziehung zwischen Zulässigkeit und Unverzerrtheit.
Core questions
- Wie fasst die Risikofunktion die Leistung einer Regel über den Parameterraum zusammen?
- Was bedeutet es, wenn eine Regel eine andere dominiert und somit eine Regel unzulässig ist?
- Warum ist der Stichprobenmittelwert bei quadratischem Fehler in drei oder mehr Dimensionen unzulässig?
- Wie werden Bayes- und Grenz-Bayes-Argumente verwendet, um die Zulässigkeit zu beweisen?
Key theories
- Risikodominanz und Zulässigkeit
- Eine Regel ist unzulässig, wenn eine andere Regel ein durchweg nicht größeres und irgendwo ein strikt kleineres Risiko aufweist; zulässige Regeln sind solche, die nicht durchweg verbessert werden können, die minimale Optimalitätsanforderung.
- Steins Unzulässigkeit
- Bei quadratischem Fehler ist der übliche Schätzer eines multivariaten Normalmittelwerts in drei oder mehr Dimensionen unzulässig, dominiert von Shrinkage-Schätzern, ein Ergebnis, das mithilfe von Steins Identität bewiesen wurde.
Clinical relevance
Die Erkenntnis, dass ein vertrauter Schätzer unzulässig sein kann, rechtfertigt den routinemäßigen Einsatz von Shrinkage und Regularisierung bei hochdimensionalen Vorhersagen, wo das Ziehen von Schätzungen zu einem gemeinsamen Zentrum nachweislich das Gesamtrisiko im Vergleich zur separaten Behandlung jeder Koordinate senkt.
History
Wald führte Risiko und Zulässigkeit in den 1940er Jahren ein. Steins Beweis von 1956, dass der multivariate Normalmittelwertschätzer in drei oder mehr Dimensionen unzulässig ist, widerlegte die Intuition und machte die Zulässigkeit zusammen mit dem James-Stein-Schätzer von 1961 zu einem zentralen Anliegen.
Key figures
- Abraham Wald
- Charles Stein
- David Blackwell
- James O. Berger
Related topics
Seminal works
- lehmannCasella1998
Frequently asked questions
- Ist eine zulässige Regel die beste Regel?
- Nein. Zulässigkeit schließt nur aus, durchweg geschlagen zu werden; viele zulässige Regeln sind mittelmäßig, und eine gute Regel kann unzulässig sein, daher ist Zulässigkeit eine notwendige, aber bei weitem keine hinreichende Bedingung für Optimalität.
- Warum ist die Dimension Drei für Steins Ergebnis wichtig?
- Die Unzulässigkeit des Stichprobenmittelwerts bei quadratischem Fehler gilt in drei oder mehr Dimensionen, aber nicht in ein oder zwei; unterhalb von drei kann Shrinkage den Stichprobenmittelwert nicht durchweg verbessern.