Виды сходимости

Последовательности случайных величин могут сходиться в нескольких неэквивалентных смыслах: почти наверное, по вероятности, в среднем порядка p и по распределению. Понимание их иерархии является ключевым для точной формулировки и доказательства любой предельной теоремы.

Definition

Виды сходимости — это различные смыслы, в которых последовательность случайных величин или их распределений может приближаться к пределу, начиная от сильной сходимости почти наверное и сходимости в среднем самих переменных до слабой сходимости их распределений.

Scope

Тема охватывает сходимость почти наверное, сходимость по вероятности, сходимость в p-м среднем и сходимость по распределению, а также их взаимосвязи и контрпримеры, равномерную интегрируемость как мост между сходимостью по вероятности и в среднем, портманто-характеризацию слабой сходимости и плотность с теоремой Прохорова для относительной компактности семейств мер.

Core questions

• Каковы основные смыслы сходимости случайных величин и чем они отличаются?
• Какие виды сходимости влекут за собой другие, и в каких случаях импликации не выполняются?
• Какое дополнительное условие повышает сходимость по вероятности до сходимости в среднем?
• Когда семейство распределений имеет сходящуюся подпоследовательность?

Key concepts

• сходимость почти наверное
• сходимость по вероятности
• сходимость в среднем
• слабая сходимость
• плотность и теорема Прохорова

Key theories

Иерархия видов сходимости

Сходимость почти наверное и сходимость в p-м среднем влекут за собой сходимость по вероятности, которая, в свою очередь, влечет сходимость по распределению, тогда как обратные импликации, как правило, не выполняются, поэтому виды образуют строгую иерархию со стандартными контрпримерами.

Теорема Портманто

Слабая сходимость вероятностных мер эквивалентна нескольким условиям одновременно, включая сходимость математических ожиданий ограниченных непрерывных функций и сходимость функции распределения в каждой точке непрерывности, что дает гибкие критерии для доказательства сходимости по распределению.

Теорема Прохорова и плотность

Семейство вероятностных мер относительно компактно для слабой сходимости тогда и только тогда, когда оно плотно, что означает, что масса не уходит в бесконечность. Это стандартный инструмент для выделения сходящихся подпоследовательностей при изучении предельных теорем и стохастических процессов.

Clinical relevance

Точные виды сходимости лежат в основе строгих формулировок состоятельности и асимптотического распределения в статистике, сходимости схем моделирования и аппроксимации, а также функциональных предельных теорем, таких как принцип инвариантности Донскера, которые обосновывают аппроксимацию сложных стохастических систем броуновским движением.

History

Тщательное разграничение между видами сходимости возникло с теоретико-мерными основаниями теории вероятностей, а теория слабой сходимости мер на метрических пространствах, с плотностью и критерием компактности Прохорова, была систематизирована Прохоровым и Биллингсли в середине XX века для поддержки предельных теорем для стохастических процессов.

Key figures

• Patrick Billingsley
• Yuri Prohorov
• Aleksandr Khinchin

Seminal works

• billingsley1999convergence

Frequently asked questions

Зачем различать так много видов сходимости?

Различные предельные теоремы естественным образом приводят к разным видам; закон больших чисел дает сходимость почти наверное, центральная предельная теорема дает сходимость по распределению, а выводы об усредненных значениях переменных требуют сходимости в среднем, поэтому точный вид имеет значение для того, что может быть заключено.

Что такое плотность?

Семейство распределений является плотным, если для любого требуемого уровня одно компактное множество содержит по крайней мере такую же вероятность для каждого члена семейства; плотность предотвращает утечку вероятностной массы в бесконечность и является именно тем условием, которое необходимо теореме Прохорова для слабой компактности.