Théorie de la décision statistique

La théorie de la décision statistique conçoit l'estimation et les tests comme des choix effectués sous incertitude, évalués par la perte attendue qu'ils occasionnent, et cherche à déterminer quelles règles de décision sont optimales.

Definition

La théorie de la décision statistique est le cadre, dû à Wald, dans lequel une procédure statistique est une règle de décision qui associe des données à des actions, évaluée par son risque, la valeur attendue d'une fonction de perte, et comparée à d'autres règles selon des critères tels que l'admissibilité, la minimaxité et l'optimalité de Bayes.

Scope

Ce domaine couvre les fonctions de perte et la fonction de risque en tant que perte attendue, la comparaison des règles de décision, l'admissibilité et l'inadmissibilité, les règles minimax qui minimisent le risque dans le pire des cas, les règles de Bayes qui minimisent le risque moyen sous une distribution a priori, la relation entre les règles de Bayes, minimax et les a priori les moins favorables, les décisions randomisées et la géométrie de l'ensemble des risques, ainsi que les théorèmes de classe complète caractérisant les règles dignes d'être considérées.

Sub-topics

• complete class theorems
• minimax estimation
• risk and admissibility

Core questions

• Comment la perte et le risque formalisent-ils la qualité d'une procédure statistique ?
• Que signifie pour une règle de décision d'être admissible ou inadmissible ?
• Comment les règles minimax sont-elles liées aux règles de Bayes et aux a priori les moins favorables ?
• Quelles règles de décision forment une classe complète à laquelle il est pertinent de restreindre l'attention ?

Key theories

Risque et admissibilité

Chaque règle possède une fonction de risque sur l'espace des paramètres ; une règle est inadmissible si une autre présente un risque non supérieur partout et strictement inférieur quelque part, et admissible dans le cas contraire.

Règles de Bayes et minimax

Une règle de Bayes minimise le risque moyen sous une distribution a priori, une règle minimax minimise le risque dans le pire des cas, et sous certaines conditions, une règle minimax est bayésienne par rapport à un a priori le moins favorable, reliant ainsi les deux critères.

Théorèmes de classe complète

Sous des conditions de convexité et de compacité, les règles admissibles coïncident essentiellement avec les règles de Bayes et leurs limites, de sorte que l'attention peut être restreinte à cette classe complète sans perte.

Clinical relevance

Le risque décisionnel sous-tend la comparaison des estimateurs et des classifieurs par la perte attendue, la conception de décisions sensibles aux coûts dans le dépistage médical et les opérations, et le choix éclairé entre les procédures lorsqu'aucune règle unique ne domine, fournissant ainsi l'épine dorsale conceptuelle des méthodologies bayésienne et fréquentiste.

History

Wald a fondé la théorie de la décision statistique dans les années 1940, unifiant l'estimation et les tests en tant que décisions sous risque et prouvant les premiers résultats sur les classes complètes et le minimax. Blackwell, Stein et d'autres ont développé l'admissibilité et le lien avec les règles de Bayes, consolidés dans la monographie de Berger.

Debates

Critères minimax versus Bayes

La minimaxité protège contre le pire des cas mais peut être excessivement pessimiste, tandis que l'optimalité de Bayes dépend d'un a priori qui peut être difficile à justifier ; la théorie de la décision clarifie le compromis sans dicter un choix unique.

Key figures

• Abraham Wald
• James O. Berger
• Charles Stein
• David Blackwell

Seminal works

• berger1985

Frequently asked questions

Qu'est-ce qu'une fonction de perte ?

Elle quantifie le coût d'une action particulière lorsque la valeur d'un paramètre donné est vraie ; les choix courants sont l'erreur quadratique pour l'estimation et la perte zéro-un pour la classification, et le risque est sa valeur attendue.

Une règle admissible est-elle toujours une bonne règle ?

Pas nécessairement. L'admissibilité signifie seulement qu'aucune autre règle ne la domine partout ; certaines règles admissibles sont globalement médiocres, et certaines excellentes règles sont inadmissibles, de sorte que l'admissibilité est une vertu minimale plutôt que suffisante.