Методы снижения дисперсии

Методы снижения дисперсии — это приемы, которые уменьшают дисперсию выборки оценки Монте-Карло, так что целевая точность достигается с меньшим количеством симулированных выборок, чем потребовалось бы при наивной выборке.

Definition

Метод снижения дисперсии — это модификация схемы выборки Монте-Карло или оценки, которая уменьшает дисперсию результирующей оценки, сохраняя при этом ее несмещенность или состоятельность для той же целевой величины.

Scope

Эта тема охватывает основные классические схемы: общие и антитетические случайные числа, управляющие переменные, выборку по значимости, рассматриваемую как средство снижения дисперсии, стратифицированную выборку и выборку по латинскому гиперкубу, а также обусловливание (Рао-Блэквеллизация). Акцент делается на несмещенном снижении дисперсии оценки и на условиях, при которых каждая схема эффективна.

Core questions

• Как антитетические и общие случайные числа используют корреляцию для подавления дисперсии?
• Как управляющая переменная использует коррелированную величину с известным средним для корректировки оценки?
• Почему перевзвешивание выборок с помощью выборки по значимости может уменьшить дисперсию, и когда это приводит к обратному эффекту?
• Как стратификация и обусловливание снижают дисперсию, и какова их цена?

Key concepts

• Антитетические переменные
• Управляющие переменные
• Общие случайные числа
• Стратифицированная выборка
• Рао-Блэквеллизация
• Эффективный размер выборки

Key theories

Снижение на основе корреляции

Антитетические переменные вызывают отрицательную корреляцию между парными выборками, а управляющие переменные вычитают коррелированную величину с известным математическим ожиданием; оба метода уменьшают дисперсию пропорционально силе используемой корреляции.

Перевзвешивание и стратификация

Выборка по значимости смещает усилия по моделированию в сторону влиятельных областей посредством изменения меры, в то время как стратифицированные планы и планы латинского гиперкуба равномерно распределяют выборки по входному пространству; каждый из них может резко снизить дисперсию при соответствии подынтегральной функции.

Clinical relevance

Снижение дисперсии делает возможными крупномасштабные имитационные исследования, оценку редких событий и дорогостоящие байесовские вычисления: сокращая количество выборок, необходимых для заданной точности, оно уменьшает время вычислений, а такие методы, как общие случайные числа, уточняют сравнения между конкурирующими системами или оценками.

History

Классический инструментарий снижения дисперсии (антитетические переменные, управляющие переменные, выборка по значимости, стратификация) был разработан в середине двадцатого века наряду с первыми крупномасштабными приложениями Монте-Карло и позднее был объединен с идеями обусловливания, такими как Рао-Блэквеллизация, в литературе по статистическому моделированию.

Key figures

• Christian P. Robert
• George Casella
• John M. Hammersley

Seminal works

• robert2004
• givens2013

Frequently asked questions

Изменяют ли методы снижения дисперсии оцениваемую величину?

Нет. При правильном применении они нацелены на то же математическое ожидание и остаются несмещенными или состоятельными; они лишь перестраивают способ внесения случайности таким образом, чтобы оценка меньше флуктуировала вокруг истинного значения.

Может ли метод снижения дисперсии когда-либо ухудшить ситуацию?

Да. Управляющая переменная, слабо коррелирующая с подынтегральной функцией, или плотность значимости, не соответствующая целевой, могут увеличить дисперсию. Выгода зависит от соответствия метода структуре проблемы.