Định luật số lớn

Các định luật số lớn phát biểu rằng giá trị trung bình của nhiều quan sát độc lập của một đại lượng ngẫu nhiên hội tụ về giá trị kỳ vọng của nó, mang lại nội dung toán học cho trực giác rằng tần suất dài hạn ổn định.

Definition

Các định luật số lớn khẳng định rằng trung bình mẫu của các biến ngẫu nhiên độc lập, phân phối giống hệt nhau với trung bình hữu hạn hội tụ về trung bình đó, theo xác suất đối với định luật yếu và hầu như chắc chắn đối với định luật mạnh.

Scope

Chủ đề này bao gồm định luật số lớn yếu được chứng minh bằng bất đẳng thức Chebyshev và bằng phương pháp cắt cụt, định luật yếu của Khinchin chỉ với trung bình hữu hạn, định luật số lớn mạnh của Kolmogorov với bất đẳng thức cực đại và định lý ba chuỗi của nó, sự phân biệt giữa hội tụ theo xác suất và hội tụ hầu như chắc chắn, và sự thất bại của các định luật đối với các biến không có trung bình hữu hạn.

Core questions

• Theo nghĩa chính xác nào thì trung bình mẫu tiếp cận trung bình thực khi kích thước mẫu tăng lên?
• Sự khác biệt giữa định luật yếu và định luật mạnh là gì, và mỗi định luật cần những giả thuyết nào?
• Những bất đẳng thức và phân tích nào làm cho định luật mạnh có thể chứng minh được?
• Điều gì xảy ra khi phân phối cơ bản không có trung bình hữu hạn?

Key concepts

• hội tụ theo xác suất
• hội tụ hầu như chắc chắn
• bất đẳng thức Chebyshev
• phương pháp cắt cụt
• định lý ba chuỗi Kolmogorov

Key theories

Định luật số lớn yếu

Đối với các biến độc lập, phân phối giống hệt nhau với trung bình hữu hạn, trung bình mẫu hội tụ về trung bình theo xác suất, một kết quả có thể thu được từ bất đẳng thức Chebyshev khi phương sai hữu hạn và từ các lập luận cắt cụt theo giả thuyết yếu hơn của Khinchin.

Định luật số lớn mạnh của Kolmogorov

Đối với các biến độc lập, phân phối giống hệt nhau, trung bình hữu hạn là cần thiết và đủ để trung bình mẫu hội tụ về trung bình hầu như chắc chắn, dạng dứt khoát của định luật và là cơ sở cho cách giải thích tần suất của xác suất.

Clinical relevance

Định luật mạnh là cơ sở cho việc ước tính kỳ vọng bằng trung bình mẫu và là nền tảng của tích phân Monte Carlo, tính nhất quán của các ước lượng trong thống kê, và cách giải thích tần suất của xác suất như tần suất tương đối dài hạn; sự thất bại của nó đối với dữ liệu có đuôi nặng cảnh báo chống lại việc tính trung bình các đại lượng có trung bình vô hạn như một số tổn thất bảo hiểm nhất định.

History

Bernoulli đã chứng minh định luật số lớn đầu tiên cho tỷ lệ nhị thức vào năm 1713. Chebyshev đã đưa ra một bằng chứng đơn giản dựa trên phương sai, Khinchin đã làm yếu các giả thuyết xuống chỉ còn trung bình hữu hạn, và Kolmogorov đã thiết lập định luật mạnh hầu như chắc chắn dứt khoát cùng với bất đẳng thức cực đại và định lý ba chuỗi để chứng minh nó.

Key figures

• Jacob Bernoulli
• Pafnuty Chebyshev
• Aleksandr Khinchin
• Andrey Kolmogorov

Seminal works

• billingsley1995

Frequently asked questions

Sự khác biệt giữa định luật số lớn yếu và mạnh là gì?

Định luật yếu nói rằng trung bình có khả năng gần với trung bình thực đối với bất kỳ kích thước mẫu cố định lớn nào, trong khi định luật mạnh nói rằng với xác suất bằng một, toàn bộ chuỗi các trung bình hội tụ về trung bình thực; định luật mạnh là phát biểu dứt khoát hơn.

Định luật số lớn có thể thất bại không?

Có; nếu phân phối cơ bản không có trung bình hữu hạn, chẳng hạn như phân phối Cauchy, trung bình mẫu không hội tụ về một hằng số nào cả, và định luật ở dạng thông thường của nó không áp dụng được.