期望与积分

期望是随机变量对概率测度的勒贝格积分，它将离散变量的求和与连续变量的积分统一起来，并从测度论中继承了强大的收敛定理。

Definition

随机变量的期望是其对概率测度的积分，首先为非负变量定义为简单逼近的上确界，然后扩展到可积变量，作为正部和负部之差。

Scope

本主题涵盖简单、非负和可积随机变量期望的构建，单调收敛定理和控制收敛定理以及法图引理，将期望与分布积分联系起来的变量替换公式，矩和Lp空间，以及詹森、赫尔德、马尔可夫和切比雪夫不等式。

Core questions

• 如何为任意随机变量（而不仅仅是离散或连续变量）定义期望？
• 在什么条件下，极限可以移入期望内部？
• 矩和Lp空间如何量化随机变量的大小？
• 哪些不等式根据矩来界定概率和期望？

Key concepts

• 期望作为勒贝格积分
• 单调收敛和控制收敛
• 法图引理
• 矩和方差
• 随机变量的Lp空间

Key theories

单调收敛定理和控制收敛定理

对于递增的非负随机变量，极限的期望等于期望的极限；对于被可积变量控制的序列，同样的交换也成立，这弥补了初等理论中缺乏的极限定理。

詹森不等式

对于凸函数，随机变量函数的期望至少是其期望的函数，这产生了矩比较、条件期望的收缩性质以及概率论中的许多界限。

马尔可夫不等式和切比雪夫不等式

非负随机变量超过某个水平的概率由其均值除以该水平来界定；将其应用于平方偏差，可以根据方差控制离散度，为大数弱定律提供了基本途径。

Clinical relevance

期望及其不等式广泛应用于不确定性下数量的平均：它们定义了统计学和金融学中的均值、方差和风险度量，为学习理论和随机算法背后的集中界提供了基础，并为蒙特卡洛估计提供了收敛定理。

History

勒贝格积分可用后，概率论家将期望等同于对概率测度的积分，这种等同在柯尔莫哥洛夫的框架中得到明确阐述，并在标准研究生教材中发展了其收敛定理和经典不等式。

Key figures

• Henri Lebesgue
• Johan Jensen
• Pafnuty Chebyshev
• Andrey Markov

Seminal works

• billingsley1995

Frequently asked questions

期望与结果的平均值相同吗？

精神上是相同的：它是随机变量乘以每个结果的概率的积分，对于离散变量，它简化为加权和；对于连续变量，它简化为对密度的普通积分。

何时可以交换极限和期望？

单调收敛定理允许对递增的非负序列进行交换，控制收敛定理允许在序列被固定的可积变量界定时进行交换；没有这些条件，交换可能会失败。