Risque et admissibilité

La fonction de risque représente la perte attendue d'une règle pour chaque valeur de paramètre ; l'admissibilité examine si une autre règle obtient des résultats au moins aussi bons partout et meilleurs quelque part.

Definition

La fonction de risque d'une règle de décision est la perte attendue en fonction du paramètre ; une règle est inadmissible si une autre règle présente un risque non supérieur pour toutes les valeurs de paramètre et strictement inférieur pour au moins une, et admissible si aucune règle de ce type n'existe.

Scope

Ce sujet aborde les fonctions de perte et la fonction de risque, l'ordonnancement partiel des règles par dominance de risque, les définitions des règles admissibles et inadmissibles, l'inadmissibilité de la moyenne échantillon en trois dimensions ou plus comme exemple central, les méthodes pour prouver l'admissibilité par des arguments bayésiens et bayésiens limites ainsi que l'identité de Stein, et la relation entre l'admissibilité et l'absence de biais.

Core questions

• Comment la fonction de risque résume-t-elle la performance d'une règle à travers l'espace des paramètres ?
• Que signifie le fait qu'une règle en domine une autre, et par conséquent qu'une règle soit inadmissible ?
• Pourquoi la moyenne échantillon est-elle inadmissible en trois dimensions ou plus sous une fonction de perte quadratique ?
• Comment les arguments bayésiens et bayésiens limites sont-ils utilisés pour prouver l'admissibilité ?

Key theories

Dominance de risque et admissibilité

Une règle est inadmissible lorsqu'une autre règle présente un risque uniformément non supérieur et strictement inférieur quelque part ; les règles admissibles sont celles qui ne peuvent pas être uniformément améliorées, constituant l'exigence minimale d'optimalité.

Inadmissibilité de Stein

Sous une fonction de perte quadratique, l'estimateur usuel d'une moyenne normale multivariée est inadmissible en trois dimensions ou plus, dominé par les estimateurs de contraction (shrinkage), un résultat prouvé en utilisant l'identité de Stein.

Clinical relevance

Reconnaître qu'un estimateur familier peut être inadmissible justifie l'utilisation courante de la contraction (shrinkage) et de la régularisation dans la prédiction en grande dimension, où le fait de rapprocher les estimations d'un centre commun réduit de manière démontrable le risque total par rapport au traitement de chaque coordonnée séparément.

History

Wald a introduit les concepts de risque et d'admissibilité dans les années 1940. La preuve de Stein de 1956, selon laquelle l'estimateur de la moyenne normale multivariée est inadmissible en trois dimensions ou plus, a bouleversé l'intuition et, avec l'estimateur de James-Stein de 1961, a fait de l'admissibilité une préoccupation centrale.

Key figures

• Abraham Wald
• Charles Stein
• David Blackwell
• James O. Berger

Seminal works

• lehmannCasella1998

Frequently asked questions

Si une règle est admissible, est-ce la meilleure règle ?

Non. L'admissibilité exclut seulement d'être uniformément battue ; de nombreuses règles admissibles sont médiocres et une bonne règle peut être inadmissible, de sorte que l'admissibilité est une condition nécessaire mais loin d'être suffisante pour l'optimalité.

Pourquoi la dimension trois est-elle importante pour le résultat de Stein ?

L'inadmissibilité de la moyenne échantillon sous une fonction de perte quadratique est valable en trois dimensions ou plus, mais pas en une ou deux ; en dessous de trois, la contraction (shrinkage) ne peut pas améliorer uniformément la moyenne échantillon.