Riesgo y Admisibilidad
La función de riesgo registra la pérdida esperada de una regla en cada valor de parámetro; la admisibilidad pregunta si alguna otra regla funciona al menos igual de bien en todas partes y mejor en algún lugar.
Definition
La función de riesgo de una regla de decisión es la pérdida esperada en función del parámetro; una regla es inadmisible si alguna otra regla tiene un riesgo no mayor para todos los valores de los parámetros y estrictamente menor para al menos uno, y admisible si no existe tal regla.
Scope
Este tema cubre las funciones de pérdida y la función de riesgo, el ordenamiento parcial de las reglas por dominancia de riesgo, las definiciones de reglas admisibles e inadmisibles, la inadmisibilidad de la media muestral en tres o más dimensiones como ejemplo central, los métodos para probar la admisibilidad a través de argumentos de Bayes y Bayes limitante y la identidad de Stein, y la relación entre admisibilidad e insesgadez.
Core questions
- ¿Cómo resume la función de riesgo el rendimiento de una regla en todo el espacio de parámetros?
- ¿Qué significa que una regla domine a otra y, por lo tanto, que una regla sea inadmisible?
- ¿Por qué la media muestral es inadmisible en tres o más dimensiones bajo la pérdida de error cuadrático?
- ¿Cómo se utilizan los argumentos de Bayes y Bayes limitante para probar la admisibilidad?
Key theories
- Dominancia de riesgo y admisibilidad
- Una regla es inadmisible cuando otra regla tiene un riesgo uniformemente no mayor y en algún lugar estrictamente menor; las reglas admisibles son aquellas que no pueden mejorarse uniformemente, el requisito mínimo de optimización.
- Inadmisibilidad de Stein
- Bajo la pérdida de error cuadrático, el estimador habitual de una media normal multivariante es inadmisible en tres o más dimensiones, dominado por los estimadores de contracción (shrinkage), un resultado probado utilizando la identidad de Stein.
Clinical relevance
Reconocer que un estimador conocido puede ser inadmisible justifica el uso rutinario de la contracción (shrinkage) y la regularización en la predicción de alta dimensión, donde la aproximación de las estimaciones hacia un centro común reduce de manera demostrable el riesgo total en comparación con el tratamiento de cada coordenada por separado.
History
Wald introdujo el riesgo y la admisibilidad en la década de 1940. La prueba de Stein de 1956 de que el estimador de la media normal multivariante es inadmisible en tres o más dimensiones derrocó la intuición y, con el estimador de James-Stein de 1961, convirtió la admisibilidad en una preocupación central.
Key figures
- Abraham Wald
- Charles Stein
- David Blackwell
- James O. Berger
Related topics
Seminal works
- lehmannCasella1998
Frequently asked questions
- ¿Si una regla es admisible, es la mejor regla?
- No. La admisibilidad solo descarta ser superado uniformemente; muchas reglas admisibles son mediocres y una buena regla puede ser inadmisible, por lo que la admisibilidad es una condición necesaria pero lejos de ser suficiente para la optimización.
- ¿Por qué la dimensión tres es importante para el resultado de Stein?
- La inadmisibilidad de la media muestral bajo la pérdida de error cuadrático se mantiene en tres o más dimensiones, pero no en una o dos; por debajo de tres, la contracción (shrinkage) no puede mejorar uniformemente la media muestral.