哈密顿蒙特卡洛

哈密顿蒙特卡洛利用对数后验的梯度和模拟物理动力学来提出遥远、高接受率的移动，从而在高维空间中实现高效采样。

Definition

哈密顿蒙特卡洛是一种MCMC方法，它引入辅助动量变量，利用对数后验的梯度模拟哈密顿动力学以提出新状态，并通过Metropolis步骤接受该状态，该步骤校正了数值积分误差。

Scope

本主题涵盖了用动量变量增强后验、哈密顿动力学的蛙跳积分、离散化误差的Metropolis校正，以及自动调整路径长度和步长的No-U-Turn采样器。

Core questions

• 动量变量和哈密顿动力学如何产生高效的提议？
• 什么是蛙跳积分器，为什么需要Metropolis校正？
• No-U-Turn采样器如何消除手动调整轨迹长度的需要？
• 为什么HMC在高维空间中比随机游走方法具有更好的扩展性？

Key concepts

• 动量变量
• 蛙跳积分器
• 哈密顿动力学
• 步长
• 轨迹长度
• No-U-Turn采样器
• 对数后验的梯度

Key theories

用于采样的哈密顿动力学

通过高斯动量增强目标并遵循保体积、保能量的动力学，使采样器能够以高接受率和连续状态之间低相关性遍历后验。

No-U-Turn采样器

NUTS通过延长路径直到其开始折返来自动选择轨迹长度，并将其与步长自适应相结合，以消除大部分手动调整。

Clinical relevance

哈密顿蒙特卡洛，特别是通过NUTS，是Stan和PyMC等概率编程系统中的默认采样器，使得复杂的层次模型在药物计量学、生态学和物理科学中变得可拟合。

History

混合蒙特卡洛由Duane及其同事于1987年为格点量子色动力学引入；Neal将其改编并推广用于统计学，而Hoffman和Gelman于2014年提出的No-U-Turn采样器使其对普通用户而言变得实用，奠定了现代概率编程的基础。

Debates

对几何和调优的敏感性

HMC可能难以处理强弯曲或多峰后验，并且需要梯度信息，这促使了黎曼流形和自适应变体方面的研究。

Key figures

• Radford Neal
• Simon Duane
• Matthew Hoffman
• Andrew Gelman
• Michael Betancourt

Seminal works

• neal2011
• hoffman2014

Frequently asked questions

为什么HMC比随机游走Metropolis更快？

通过使用梯度信息来提出遵循后验等高线的长轨迹，HMC以高接受率产生几乎独立的样本，避免了高维空间中随机游走方法的缓慢扩散探索。

HMC需要哪些简单采样器不需要的东西？

它需要对数后验关于连续参数的梯度，这就是为什么它通常与自动微分配对，并且不能直接处理离散参数。