Gesetze der großen Zahlen

Die Gesetze der großen Zahlen besagen, dass der Durchschnitt vieler unabhängiger Beobachtungen einer Zufallsgröße gegen ihren Erwartungswert konvergiert, was der Intuition, dass sich langfristige Häufigkeiten stabilisieren, einen mathematischen Inhalt verleiht.

Definition

Die Gesetze der großen Zahlen besagen, dass der Stichprobenmittelwert von unabhängigen, identisch verteilten Zufallsvariablen mit einem endlichen Mittelwert gegen diesen Mittelwert konvergiert, in Wahrscheinlichkeit für das schwache Gesetz und fast sicher für das starke Gesetz.

Scope

Das Thema umfasst das schwache Gesetz der großen Zahlen, bewiesen durch die Chebyshev-Ungleichung und durch Trunkierung, Khinchins schwaches Gesetz unter der Annahme eines endlichen Mittelwerts, Kolmogorows starkes Gesetz der großen Zahlen mit seiner Maximalungleichung und dem Drei-Reihen-Theorem, die Unterscheidung zwischen Konvergenz in Wahrscheinlichkeit und fast sicherer Konvergenz sowie das Versagen der Gesetze für Variablen ohne endlichen Mittelwert.

Core questions

• In welchem präzisen Sinne nähert sich ein Stichprobenmittelwert dem wahren Mittelwert, wenn die Stichprobe wächst?
• Was ist der Unterschied zwischen dem schwachen und dem starken Gesetz, und welche Hypothesen benötigt jedes?
• Welche Ungleichungen und Zerlegungen ermöglichen den Beweis des starken Gesetzes?
• Was passiert, wenn die zugrunde liegende Verteilung keinen endlichen Mittelwert hat?

Key concepts

• Konvergenz in Wahrscheinlichkeit
• fast sichere Konvergenz
• Chebyshev-Ungleichung
• Trunkierungsmethode
• Kolmogorovs Drei-Reihen-Theorem

Key theories

Schwaches Gesetz der großen Zahlen

Für unabhängige, identisch verteilte Variablen mit endlichem Mittelwert konvergiert der Stichprobenmittelwert in Wahrscheinlichkeit gegen den Mittelwert, ein Ergebnis, das aus der Chebyshev-Ungleichung ableitbar ist, wenn die Varianz endlich ist, und aus Trunkierungsargumenten unter Khinchins schwächerer Hypothese.

Kolmogorows starkes Gesetz der großen Zahlen

Für unabhängige, identisch verteilte Variablen ist ein endlicher Mittelwert notwendig und hinreichend, damit der Stichprobenmittelwert fast sicher gegen den Mittelwert konvergiert, die definitive Form des Gesetzes und die Grundlage für die Häufigkeitsinterpretation der Wahrscheinlichkeit.

Clinical relevance

Das starke Gesetz legitimiert die Schätzung eines Erwartungswertes durch einen Stichprobenmittelwert und liegt der Monte-Carlo-Integration, der Konsistenz von Schätzern in der Statistik und der frequentistischen Interpretation von Wahrscheinlichkeit als langfristige relative Häufigkeit zugrunde; sein Versagen bei Heavy-Tailed-Daten warnt vor der Mittelwertbildung von Größen mit unendlichem Mittelwert, wie z. B. bestimmten Versicherungsverlusten.

History

Bernoulli bewies 1713 das erste Gesetz der großen Zahlen für Binomialproportionen. Chebyshev lieferte einen einfachen varianzbasierten Beweis, Khinchin schwächte die Hypothesen auf einen endlichen Mittelwert ab, und Kolmogorov etablierte das definitive fast sichere starke Gesetz zusammen mit der Maximalungleichung und dem Drei-Reihen-Theorem, die es beweisen.

Key figures

• Jacob Bernoulli
• Pafnuty Chebyshev
• Aleksandr Khinchin
• Andrey Kolmogorov

Seminal works

• billingsley1995

Frequently asked questions

Was ist der Unterschied zwischen dem schwachen und dem starken Gesetz der großen Zahlen?

Das schwache Gesetz besagt, dass der Durchschnitt bei jeder großen festen Stichprobengröße wahrscheinlich nahe am Mittelwert liegt, während das starke Gesetz besagt, dass mit Wahrscheinlichkeit eins die gesamte Folge der Durchschnitte gegen den Mittelwert konvergiert; das starke Gesetz ist die definitivere Aussage.

Kann das Gesetz der großen Zahlen versagen?

Ja; wenn die zugrunde liegende Verteilung keinen endlichen Mittelwert hat, wie z. B. die Cauchy-Verteilung, konvergiert der Stichprobenmittelwert überhaupt nicht gegen eine Konstante, und das Gesetz in seiner üblichen Form findet keine Anwendung.