Численное интегрирование в статистике

Численное интегрирование в статистике используется для оценки интегралов, определяющих маргинальные правдоподобия, апостериорные ожидания и нормирующие константы, когда эти интегралы не имеют замкнутой формы.

Definition

Численное интегрирование в статистике — это использование детерминированных квадратурных правил и аналитических аппроксимаций для оценки интегралов, возникающих при выводе, основанном на правдоподобии, и байесовском выводе, в частности, маргинальных правдоподобий и апостериорных моментов.

Scope

Эта тема охватывает детерминированную квадратуру, адаптированную к статистическим подынтегральным функциям, включая правила Гаусса-Эрмита для интегрирования нормальных случайных эффектов, адаптивную квадратуру и аппроксимацию Лапласа для интегралов, доминируемых острым пиком. Она дополняет интегрирование методом Монте-Карло, которое рассматривается в разделе «Методы Монте-Карло», фокусируясь на низкоразмерных детерминированных схемах.

Core questions

• Как случайные эффекты интегрируются из функции правдоподобия с использованием гауссовой квадратуры?
• Когда адаптивная квадратура превосходит фиксированные правила для статистических подынтегральных функций?
• Как аппроксимация Лапласа использует остроконечную подынтегральную функцию?
• Когда детерминированные квадратурные методы предпочтительнее интегрирования методом Монте-Карло?

Key concepts

• Квадратура Гаусса-Эрмита
• Адаптивная квадратура
• Аппроксимация Лапласа
• Маргинальное правдоподобие
• Нормирующая константа

Key theories

Квадратура Гаусса-Эрмита для случайных эффектов

Интегралы по нормальной плотности, такие как те, которые маргинализируют случайные эффекты в смешанных моделях, эффективно оцениваются правилами Гаусса-Эрмита, при этом адаптивные версии центрируют узлы вблизи моды подынтегральной функции.

Аппроксимация Лапласа

Аппроксимация остроконечной подынтегральной функции гауссовой функцией вокруг ее моды дает оценку интеграла в замкнутой форме, точную, когда пик доминирует, и лежит в основе быстрой приближенной оценки для многих иерархических моделей.

Clinical relevance

Подгонка обобщенных линейных смешанных моделей, вычисление байесовских факторов и получение апостериорных сводок требуют оценки трудноразрешимых интегралов; детерминированная квадратура и аппроксимация Лапласа обеспечивают быстрые и точные альтернативы симуляции для низкоразмерных интегралов.

History

Классическая квадратура и метод аппроксимации интегралов Лапласа были адаптированы статистиками для вычислений правдоподобия и байесовских вычислений, при этом адаптивная квадратура Гаусса-Эрмита и аппроксимация Лапласа стали стандартными инструментами для смешанных и иерархических моделей.

Key figures

• John Monahan
• Kenneth Lange
• Pierre-Simon Laplace

Seminal works

• monahan2011
• lange2010

Frequently asked questions

Когда следует использовать квадратуру вместо Монте-Карло для статистического интеграла?

Для низкоразмерных интегралов с гладкими подынтегральными функциями детерминированная квадратура сходится гораздо быстрее и дает детерминированный ответ. Монте-Карло становится предпочтительнее по мере увеличения размерности, когда квадратурные сетки становятся непрактичными.

Для чего хороша аппроксимация Лапласа?

Она дает быструю аппроксимацию в замкнутой форме для интегралов, доминируемых одним острым пиком, таких как маргинальные правдоподобия в хорошо идентифицированных моделях. Она точна, когда подынтегральная функция приблизительно гауссова вблизи своей моды.