Grandes Déviations

La théorie des grandes déviations mesure l'improbabilité des événements rares, montrant que la probabilité qu'une moyenne d'échantillon s'écarte significativement de sa moyenne décroît exponentiellement vite à un taux fixé par une fonction de taux convexe.

Definition

Un principe de grandes déviations quantifie le taux exponentiel auquel la probabilité d'un événement rare décroît à mesure qu'un paramètre d'échelle augmente, au moyen d'une fonction de taux semi-continue inférieurement qui attribue à chaque résultat le coût exponentiel de son observation.

Scope

Ce sujet couvre le principe de grandes déviations avec sa fonction de taux et ses bonnes fonctions de taux, le théorème de Cramer pour les sommes de variables indépendantes exprimé via la transformée de Legendre de la fonction génératrice des cumulants, le théorème de Gartner-Ellis pour les séquences dépendantes, le théorème de Sanov pour les mesures empiriques, le principe de contraction, et le lemme intégral de Varadhan.

Core questions

• À quelle vitesse la probabilité qu'une moyenne d'échantillon s'écarte significativement de sa moyenne décroît-elle ?
• Qu'est-ce qu'une fonction de taux, et comment est-elle calculée à partir de la distribution sous-jacente ?
• Comment les principes de grandes déviations se transforment-ils sous l'effet de fonctions continues et d'intégrales ?
• Comment la théorie s'étend-elle des sommes indépendantes aux mesures empiriques et aux processus dépendants ?

Key concepts

• principe de grandes déviations
• fonction de taux
• théorème de Cramer
• transformée de Legendre
• principe de contraction

Key theories

Cramer's theorem

Pour les sommes de variables indépendantes identiquement distribuées, la moyenne empirique satisfait un principe de grandes déviations dont la fonction de taux est la transformée de Legendre de la fonction génératrice des cumulants, donnant le taux exponentiel exact de décroissance pour les moyennes atypiques.

Varadhan's integral lemma

Les intégrales exponentielles par rapport à une séquence satisfaisant un principe de grandes déviations sont régies asymptotiquement par une formule variationnelle équilibrant l'intégrande et la fonction de taux, l'analogue des grandes déviations de la méthode de Laplace et la voie vers les calculs d'énergie libre.

Contraction principle

Si une séquence obéit à un principe de grandes déviations et est transformée par une fonction continue, l'image obéit à un principe de grandes déviations dont la fonction de taux est obtenue en minimisant la fonction de taux originale sur les antécédents, transférant ainsi les taux lors des changements de variable.

Clinical relevance

Les taux de grandes déviations quantifient la probabilité d'événements rares mais conséquents : ils bornent les probabilités de débordement de tampon et de perte de paquets dans les réseaux de communication, les probabilités de ruine en assurance, les exposants d'erreur en théorie de l'information, et les taux de transition métastable en physique statistique et en cinétique chimique.

History

Cramer a obtenu le taux exponentiel pour les sommes de variables indépendantes en 1938. Varadhan a formulé le principe abstrait des grandes déviations dans les années 1960 et a développé son calcul, un travail récompensé par le prix Abel, et Freidlin et Wentzell ont étendu la théorie aux systèmes dynamiques à faible bruit.

Key figures

• Harald Cramer
• S. R. Srinivasa Varadhan
• Mark Freidlin
• Alexander Wentzell

Seminal works

• dembo1998
• varadhan1984

Frequently asked questions

Comment la théorie des grandes déviations va-t-elle au-delà du théorème central limite ?

Le théorème central limite décrit les fluctuations typiques à l'échelle de l'inverse de la racine carrée de la taille de l'échantillon, tandis que la théorie des grandes déviations décrit les fluctuations atypiques d'ordre un, dont les probabilités sont exponentiellement faibles et sont régies par la fonction de taux plutôt que par la gaussienne.

Qu'est-ce qu'une fonction de taux ?

C'est la fonction non négative dont la valeur en un point donne le taux exponentiel de décroissance de la probabilité d'être proche de ce point ; elle s'annule à la valeur typique et croît à mesure que les résultats deviennent plus rares, de sorte que sa minimisation identifie la manière la plus probable dont un événement rare se produit.