期待値と積分

期待値は、確率測度に対する確率変数のルベーグ積分であり、離散変数の和と連続変数の積分を統一する単一の概念であり、測度論から強力な収束定理を受け継いでいます。

Definition

確率変数の期待値は、確率測度に対するその積分であり、まず単純な近似の上限として非負変数に対して構築され、次に正の部分と負の部分の差として可積分変数に拡張されます。

Scope

このトピックでは、単純な非負および可積分な確率変数の期待値の構成、単調収束定理と優収束定理、ファトゥの補題、期待値を分布に対する積分と関連付ける変数変換の公式、モーメントとLp空間、およびイェンセンの不等式、ヘルダーの不等式、マルコフの不等式、チェビシェフの不等式について扱います。

Core questions

• 離散変数や連続変数だけでなく、任意の確率変数に対して期待値はどのように定義されますか？
• どのような条件下で、極限を期待値の内部に移動させることができますか？
• モーメントとLp空間は、確率変数の大きさをどのように定量化しますか？
• モーメントの観点から確率と期待値を制限する不等式は何ですか？

Key concepts

• ルベーグ積分としての期待値
• 単調収束と優収束
• ファトゥの補題
• モーメントと分散
• 確率変数のLp空間

Key theories

単調収束定理と優収束定理

増加する非負の確率変数については、極限の期待値は期待値の極限に等しく、可積分な変数によって支配される数列については同じ交換が成り立ち、初等的な理論にはない極限定理を提供します。

イェンセンの不等式

凸関数については、確率変数の関数の期待値は、その期待値の関数の少なくとも値であり、これによりモーメントの比較、条件付き期待値の収縮性、および確率論全体における多くの限界が得られます。

マルコフの不等式とチェビシェフの不等式

非負の確率変数が特定の水準を超える確率は、その平均をその水準で割った値によって制限され、二乗偏差に適用すると、これは分散の観点から散らばりを制御し、大数の弱法則への初等的な経路を提供します。

Clinical relevance

期待値とその不等式は、不確実性の下で量が平均化されるあらゆる場所で使用されます。これらは統計学や金融における平均、分散、リスク尺度を定義し、学習理論やランダム化アルゴリズムの背後にある集中限界を提供し、モンテカルロ推定を正当化する収束定理を提供します。

History

ルベーグ積分が利用可能になると、確率論者は期待値を確率測度に対する積分と同一視しました。この同一視はコルモゴロフの枠組みで明示され、その収束定理と古典的な不等式は標準的な大学院の教科書で発展しました。

Key figures

• Henri Lebesgue
• Johan Jensen
• Pafnuty Chebyshev
• Andrey Markov

Seminal works

• billingsley1995

Frequently asked questions

期待値は結果の平均と同じですか？

精神的には同じです。それは各結果の確率で重み付けされた確率変数の積分であり、離散変数では重み付き和に、連続変数では密度に対する通常の積分に帰着します。

極限と期待値をいつ交換できますか？

単調収束定理は増加する非負の数列に対してそれを許容し、優収束定理は数列が固定された可積分な変数によって制限されている場合にそれを許容します。そのような条件がない場合、交換は失敗する可能性があります。