Théorème Central Limite

Le théorème central limite stipule que la somme de nombreuses variables aléatoires indépendantes, une fois centrée et mise à l'échelle, suit une distribution approximativement normale, quelle que soit la forme des distributions des variables individuelles, ce qui explique la prévalence de la courbe en cloche dans de nombreux domaines scientifiques.

Definition

Le théorème central limite énonce que pour des variables aléatoires indépendantes et identiquement distribuées (i.i.d.) ayant une moyenne et une variance finies, la somme standardisée converge en loi vers la loi normale standard à mesure que le nombre de termes augmente.

Scope

Ce sujet aborde le théorème central limite classique pour les variables indépendantes et identiquement distribuées (i.i.d.) avec une variance finie, les conditions de Lindeberg et de Lyapunov pour les tableaux triangulaires de variables indépendantes, la méthode de preuve par fonctions caractéristiques, la borne de Berry-Esseen sur la vitesse de convergence, ainsi que l'extension aux limites stables non gaussiennes lorsque la variance est infinie.

Core questions

• Pourquoi la distribution normale est-elle la limite universelle des sommes standardisées ?
• Quelles conditions, telles que celle de Lindeberg, sont nécessaires lorsque les termes ne sont pas identiquement distribués ?
• À quelle vitesse la distribution d'une somme normalisée approche-t-elle la loi normale ?
• Qu'est-ce qui remplace la limite normale lorsque la variance est infinie ?

Key concepts

• convergence en loi
• condition de Lindeberg
• condition de Lyapunov
• borne de Berry-Esseen
• limites stables

Key theories

Théorème central limite classique

Pour des variables indépendantes et identiquement distribuées (i.i.d.) avec une variance finie, la somme, diminuée de sa moyenne et divisée par la racine carrée du nombre de termes multipliée par l'écart-type, converge en loi vers la loi normale standard, démontré de manière élégante par les fonctions caractéristiques.

Théorème de Lindeberg-Feller

Pour les tableaux triangulaires de variables indépendantes, la condition de Lindeberg, selon laquelle aucun terme individuel ne contribue de manière non négligeable à la variance, est suffisante et essentiellement nécessaire pour l'asymptotique normalité, conférant ainsi au théorème sa forme classique la plus générale.

Borne de Berry-Esseen

Lorsqu'un troisième moment fini existe, l'erreur maximale de l'approximation normale de la distribution d'une somme standardisée est bornée par une constante multipliée par le troisième moment absolu divisé par la variance élevée à la puissance trois demis et la racine carrée de la taille de l'échantillon.

Clinical relevance

Le théorème central limite est la pierre angulaire de l'inférence statistique : il justifie l'approximation normale sous-jacente aux intervalles de confiance, aux tests z et aux tests t, ainsi que la distribution asymptotique des estimateurs, et il explique pourquoi les erreurs de mesure et les quantités agrégées dans les sciences sont si souvent approximativement gaussiennes.

History

De Moivre et Laplace ont découvert l'approximation normale de la loi binomiale au XVIIIe siècle. Lyapunov a fourni la première preuve générale rigoureuse en utilisant les moments, Lindeberg a proposé la condition définitive, et Feller a montré qu'elle était essentiellement nécessaire, tandis que Berry et Esseen ont quantifié la vitesse de convergence.

Key figures

• Abraham de Moivre
• Pierre-Simon Laplace
• Aleksandr Lyapunov
• Jarl Waldemar Lindeberg

Seminal works

• billingsley1995

Frequently asked questions

Le théorème central limite exige-t-il que les termes soient distribués normalement ?

Non ; le point remarquable est que les variables individuelles peuvent avoir presque n'importe quelle distribution avec une variance finie, et leur somme standardisée tend toujours vers la loi normale à mesure que le nombre de termes augmente.

Quelle doit être la taille de l'échantillon pour que l'approximation normale soit bonne ?

Il n'y a pas de réponse universelle ; la borne de Berry-Esseen montre que l'erreur dépend du troisième moment et décroît comme l'inverse de la racine carrée de la taille de l'échantillon, ainsi, les termes asymétriques ou à queues lourdes nécessitent des échantillons plus grands pour une bonne approximation.