Гамильтоновский метод Монте-Карло

Гамильтоновский метод Монте-Карло использует градиенты логарифма апостериорного распределения и симулированную физическую динамику для предложения отдаленных перемещений с высокой вероятностью принятия, что обеспечивает эффективную выборку в пространствах большой размерности.

Definition

Гамильтоновский метод Монте-Карло — это метод MCMC, который вводит вспомогательные переменные импульса, симулирует гамильтонову динамику, используя градиент логарифма апостериорного распределения для предложения нового состояния, и принимает его с помощью шага Метрополиса, который корректирует ошибку численного интегрирования.

Scope

Эта тема охватывает расширение апостериорного распределения переменными импульса, лягушачью интеграцию гамильтоновой динамики, коррекцию Метрополиса для ошибки дискретизации и семплер No-U-Turn (NUTS), который автоматизирует настройку длины пути и размера шага.

Core questions

• Как переменные импульса и гамильтонова динамика обеспечивают эффективные предложения?
• Что такое лягушачий интегратор и почему необходима коррекция Метрополиса?
• Как семплер No-U-Turn устраняет необходимость ручной настройки длины траектории?
• Почему HMC масштабируется лучше, чем методы случайного блуждания в пространствах большой размерности?

Key concepts

• переменные импульса
• лягушачий интегратор
• гамильтонова динамика
• размер шага
• длина траектории
• семплер No-U-Turn
• градиент логарифма апостериорного распределения

Key theories

Гамильтонова динамика для выборки

Расширение целевого распределения гауссовым импульсом и следование динамике, сохраняющей объем и энергию, позволяет семплеру пересекать апостериорное распределение с высокой вероятностью принятия и низкой корреляцией между последовательными состояниями.

Семплер No-U-Turn

NUTS автоматически выбирает длины траекторий, расширяя путь до тех пор, пока он не начнет возвращаться, и сочетает это с адаптацией размера шага для устранения большей части ручной настройки.

Clinical relevance

Гамильтоновский метод Монте-Карло, особенно через NUTS, является семплером по умолчанию в системах вероятностного программирования, таких как Stan и PyMC, что делает возможным подгонку сложных иерархических моделей в фармакометрике, экологии и физических науках.

History

Гибридный метод Монте-Карло был представлен для решеточной квантовой хромодинамики Дуэйном и коллегами в 1987 году; Нил адаптировал и популяризировал его для статистики, а семплер No-U-Turn Хоффмана и Гельмана 2014 года сделал его практичным для широкого круга пользователей, заложив основу современного вероятностного программирования.

Debates

Чувствительность к геометрии и настройке

HMC может испытывать трудности с сильно искривленными или мультимодальными апостериорными распределениями и требует информации о градиенте, что стимулирует работу над римановыми многообразиями и адаптивными вариантами.

Key figures

• Radford Neal
• Simon Duane
• Matthew Hoffman
• Andrew Gelman
• Michael Betancourt

Seminal works

• neal2011
• hoffman2014

Frequently asked questions

Почему HMC быстрее, чем метод Метрополиса со случайным блужданием?

Используя информацию о градиенте для предложения длинных траекторий, которые следуют контурам апостериорного распределения, HMC производит почти независимые выборки с высокой вероятностью принятия, избегая медленного диффузионного исследования методов случайного блуждания в пространствах большой размерности.

Что требуется для HMC, чего не требуют более простые семплеры?

Он требует градиента логарифма апостериорного распределения по отношению к непрерывным параметрам, поэтому он обычно сочетается с автоматическим дифференцированием и не может напрямую обрабатывать дискретные параметры.