Lois des grands nombres

Les lois des grands nombres stipulent que la moyenne de nombreuses observations indépendantes d'une quantité aléatoire converge vers son espérance mathématique, conférant ainsi un fondement mathématique à l'intuition selon laquelle les fréquences à long terme se stabilisent.

Definition

Les lois des grands nombres affirment que la moyenne d'échantillon de variables aléatoires indépendantes et identiquement distribuées possédant une moyenne finie converge vers cette moyenne, en probabilité pour la loi faible et presque sûrement pour la loi forte.

Scope

Ce sujet aborde la loi faible des grands nombres démontrée par l'inégalité de Chebyshev et par troncature, la loi faible de Khinchin sous l'hypothèse d'une moyenne finie uniquement, la loi forte des grands nombres de Kolmogorov avec son inégalité maximale et son théorème des trois séries, la distinction entre la convergence en probabilité et la convergence presque sûre, ainsi que la non-applicabilité de ces lois pour les variables sans moyenne finie.

Core questions

• Dans quel sens précis une moyenne d'échantillon approche-t-elle la vraie moyenne à mesure que l'échantillon s'agrandit ?
• Quelle est la différence entre les lois faible et forte, et quelles hypothèses chacune d'elles requiert-elle ?
• Quelles inégalités et décompositions rendent la loi forte démontrable ?
• Que se passe-t-il lorsque la distribution sous-jacente n'a pas de moyenne finie ?

Key concepts

• convergence en probabilité
• convergence presque sûre
• inégalité de Chebyshev
• méthode de troncature
• théorème des trois séries de Kolmogorov

Key theories

Loi faible des grands nombres

Pour des variables indépendantes et identiquement distribuées avec une moyenne finie, la moyenne d'échantillon converge vers la moyenne en probabilité, un résultat qui peut être obtenu à partir de l'inégalité de Chebyshev lorsque la variance est finie et à partir d'arguments de troncature sous l'hypothèse plus faible de Khinchin.

Loi forte des grands nombres de Kolmogorov

Pour des variables indépendantes et identiquement distribuées, une moyenne finie est nécessaire et suffisante pour que la moyenne d'échantillon converge vers la moyenne presque sûrement, constituant la forme définitive de la loi et la base de l'interprétation fréquentiste de la probabilité.

Clinical relevance

La loi forte est ce qui autorise l'estimation d'une espérance par une moyenne d'échantillon et sous-tend l'intégration de Monte Carlo, la cohérence des estimateurs en statistique, et l'interprétation fréquentiste de la probabilité comme fréquence relative à long terme ; sa défaillance pour les données à queue lourde met en garde contre le calcul de moyennes de quantités à espérance infinie, telles que certaines pertes d'assurance.

History

Bernoulli a démontré la première loi des grands nombres pour les proportions binomiales en 1713. Chebyshev a fourni une preuve simple basée sur la variance, Khinchin a assoupli les hypothèses à une moyenne finie, et Kolmogorov a établi la loi forte presque sûre définitive, accompagnée de l'inégalité maximale et du théorème des trois séries qui la prouvent.

Key figures

• Jacob Bernoulli
• Pafnuty Chebyshev
• Aleksandr Khinchin
• Andrey Kolmogorov

Seminal works

• billingsley1995

Frequently asked questions

Quelle est la différence entre les lois faible et forte des grands nombres ?

La loi faible stipule que la moyenne est susceptible d'être proche de l'espérance pour toute taille d'échantillon fixe et grande, tandis que la loi forte affirme qu'avec une probabilité de un, toute la séquence des moyennes converge vers l'espérance ; la loi forte est l'énoncé le plus définitif.

La loi des grands nombres peut-elle échouer ?

Oui ; si la distribution sous-jacente n'a pas de moyenne finie, comme la distribution de Cauchy, la moyenne d'échantillon ne converge pas du tout vers une constante, et la loi sous sa forme habituelle ne s'applique pas.