极限定理
极限定理描述了许多随机变量之和与平均值的行为:它们通过大数定律稳定在其均值附近,根据中心极限定理在精细尺度上波动,并且仅以指数级小的概率发生大幅度偏差。
用 PaperMind 寻找选题即将推出Find papers & topics
Tools & resources
Learn & explore
视频即将推出
Definition
极限定理是描述随机变量序列及其分布渐近行为的一系列结果,主要包括平均值收敛于期望、标准化和的 Gaussian 波动以及大偏差概率的指数衰减。
Scope
该领域涵盖了弱大数定律和强大数定律、经典和Lindeberg-Feller中心极限定理及其特征函数证明、随机变量和分布的收敛模式层次结构、具有紧致性的概率测度弱收敛,以及控制指数级罕见事件的大偏差理论。
Sub-topics
Core questions
- 在何种意义上,许多随机变量的平均值收敛于其均值?
- 在广泛条件下,为什么标准化和的波动近似为高斯分布?
- 随机变量和分布的不同收敛模式之间有何关联?
- 偏离典型行为的大偏差有多罕见,它们以何种速率衰减?
Key theories
- 大数定律
- 具有有限均值的独立同分布变量的平均值收敛于该均值,对于弱大数定律是依概率收敛,对于强大数定律是几乎必然收敛,这是通过样本平均值估计期望的数学依据。
- 中心极限定理
- 具有有限方差的独立变量之和,经过适当的中心化和缩放后,依分布收敛于正态分布,这解释了高斯分布的普遍性,并为置信区间和显著性检验提供了基础。
Clinical relevance
极限定理是统计实践和模拟背后的理论保证:大数定律验证了蒙特卡洛估计和概率的频率学解释,中心极限定理证明了基于正态分布的推断和许多近似方法的合理性,而大偏差率则量化了保险、通信和可靠性中罕见事件的风险。
History
第一个极限定理是伯努利大数定律;德莫弗和拉普拉斯发现了二项分布的正态近似,后经李雅普诺夫和林德伯格推广为中心极限定理。柯尔莫哥洛夫完善了强大数定律,克拉默创立了大偏差理论,现代测度论方法则将它们统一起来。
Key figures
- Jacob Bernoulli
- Aleksandr Lyapunov
- Paul Levy
- Harald Cramer
Related topics
Seminal works
- billingsley1995
- billingsley1999convergence
Frequently asked questions
- 大数定律和中心极限定理有什么区别?
- 大数定律说明平均值收敛于均值,描述的是一阶行为;而中心极限定理描述的是平均值围绕均值的二阶波动,这些波动在样本量平方根倒数的尺度上呈高斯分布。
- 中心极限定理总是适用吗?
- 它需要有限方差和林德伯格条件等可忽略性条件;对于具有无限方差的重尾变量,其极限可能是一个非高斯稳定分布。