Состоятельность и асимптотическая нормальность

Состоятельность означает, что оценка приближается к истинному значению по мере накопления данных; асимптотическая нормальность означает, что её ошибка, соответствующим образом масштабированная, становится приблизительно нормальной, что делает стандартные ошибки значимыми.

Definition

Оценка является состоятельной, если она сходится по вероятности к истинному параметру по мере увеличения размера выборки, и асимптотически нормальной, если перемасштабированная ошибка оценки сходится по распределению к нормальному закону.

Scope

Эта тема охватывает сходимость по вероятности и по распределению, слабый закон больших чисел и центральную предельную теорему как основы состоятельности и асимптотической нормальности, теорему о непрерывном отображении и теорему Слуцкого, дельта-метод для асимптотического распределения гладких функций оценки, преобразования, стабилизирующие дисперсию, а также значение результирующих стандартных ошибок и доверительных интервалов.

Core questions

• Как закон больших чисел и центральная предельная теорема приводят к состоятельности и асимптотической нормальности?
• Что позволяют объединять и преобразовывать теорема Слуцкого и теорема о непрерывном отображении?
• Как дельта-метод даёт асимптотическую дисперсию функции оценки?
• Что такое преобразование, стабилизирующее дисперсию, и почему оно используется?

Key theories

Состоятельность

Согласно закону больших чисел и аргументам непрерывности, хорошо определённые оценки сходятся по вероятности к целевому параметру, что является минимальным требованием для состоятельной оценки при больших выборках.

Асимптотическая нормальность и дельта-метод

Центральная предельная теорема делает масштабированную ошибку многих оценок асимптотически нормальной, а дельта-метод переносит эту нормальность, с преобразованной дисперсией, на гладкие функции оценки.

Clinical relevance

Асимптотическая нормальность позволяет сообщать оценку со стандартной ошибкой и доверительным интервалом Вальда; дельта-метод, в частности, предоставляет стандартные ошибки для производных величин, таких как отношения шансов, отношения средних значений и прогнозируемые вероятности во всей прикладной науке.

History

Центральная предельная теорема развивалась от Лапласа через Ляпунова и Линдеберга в начале двадцатого века. Трактат Крамера 1946 года поместил состоятельность, асимптотическую нормальность и дельта-метод в центр математической статистики, где они остаются и по сей день.

Key figures

• Pierre-Simon Laplace
• Aleksandr Lyapunov
• Harald Cramer
• Aad van der Vaart

Seminal works

• vanderVaart1998

Frequently asked questions

Подразумевает ли состоятельность, что оценка является несмещённой?

Нет. Состоятельная оценка может быть смещённой в конечных выборках; состоятельность лишь требует, чтобы смещение и дисперсия исчезали по мере увеличения размера выборки, так что оценка концентрируется вокруг истинного значения в пределе.

Что делает дельта-метод?

Он даёт приблизительное распределение гладкой функции асимптотически нормальной оценки путём линеаризации функции, производя значение функции плюс нормальную ошибку, дисперсия которой масштабируется квадратом производной.