해밀턴 몬테카를로

해밀턴 몬테카를로는 로그 사후 분포의 기울기와 시뮬레이션된 물리적 역학을 사용하여 멀리 떨어져 있으면서도 높은 수용률을 가진 이동을 제안함으로써 고차원 공간에서 효율적인 샘플링을 가능하게 합니다.

Definition

해밀턴 몬테카를로는 보조 운동량 변수를 도입하고, 로그 사후 분포의 기울기를 사용하여 해밀턴 역학을 시뮬레이션하여 새로운 상태를 제안하며, 수치 적분 오차를 보정하는 메트로폴리스 단계를 통해 이를 수용하는 MCMC 방법입니다.

Scope

이 주제는 운동량 변수를 이용한 사후 분포의 확장, 해밀턴 역학의 립프로그 적분, 이산화 오차에 대한 메트로폴리스 보정, 그리고 경로 길이 및 스텝 크기 조정을 자동화하는 No-U-Turn Sampler를 다룹니다.

Core questions

• 운동량 변수와 해밀턴 역학은 어떻게 효율적인 제안을 생성하는가?
• 립프로그 적분기란 무엇이며 메트로폴리스 보정이 필요한 이유는 무엇인가?
• No-U-Turn Sampler는 어떻게 궤적 길이를 수동으로 조정할 필요성을 없애는가?
• HMC가 고차원에서 무작위 보행(random-walk) 방법보다 더 잘 확장되는 이유는 무엇인가?

Key concepts

• 운동량 변수
• 립프로그 적분기
• 해밀턴 역학
• 스텝 크기
• 궤적 길이
• No-U-Turn Sampler
• 로그 사후 분포의 기울기

Key theories

샘플링을 위한 해밀턴 역학

가우시안 운동량으로 목표 분포를 확장하고 부피 보존 및 에너지 보존 역학을 따르게 함으로써 샘플러는 높은 수용률과 연속적인 상태 간 낮은 상관관계를 가지고 사후 분포를 탐색할 수 있습니다.

No-U-Turn Sampler

NUTS는 경로가 되돌아가기 시작할 때까지 확장하여 궤적 길이를 자동으로 선택하며, 이를 스텝 크기 적응과 결합하여 대부분의 수동 조정을 제거합니다.

Clinical relevance

해밀턴 몬테카를로, 특히 NUTS를 통한 방법은 Stan 및 PyMC와 같은 확률적 프로그래밍 시스템의 기본 샘플러이며, 약물 동력학, 생태학 및 물리학 분야에서 복잡한 계층적 모델을 적합하게 만들 수 있습니다.

History

하이브리드 몬테카를로는 1987년 Duane과 동료들에 의해 격자 양자 색역학을 위해 도입되었으며, Neal은 이를 통계학에 맞게 조정하고 대중화했습니다. Hoffman과 Gelman의 2014년 No-U-Turn Sampler는 이를 일반 사용자에게 실용적으로 만들었으며, 현대 확률적 프로그래밍의 기반이 되었습니다.

Debates

기하학 및 튜닝에 대한 민감성

HMC는 강하게 곡선화되거나 다중 모드인 사후 분포에서 어려움을 겪을 수 있으며 기울기 정보가 필요하므로 리만 다양체 및 적응형 변형에 대한 연구가 진행되고 있습니다.

Key figures

• Radford Neal
• Simon Duane
• Matthew Hoffman
• Andrew Gelman
• Michael Betancourt

Seminal works

• neal2011
• hoffman2014

Frequently asked questions

HMC가 무작위 보행 메트로폴리스보다 빠른 이유는 무엇인가?

HMC는 기울기 정보를 사용하여 사후 분포의 윤곽을 따르는 긴 궤적을 제안함으로써 높은 수용률로 거의 독립적인 샘플을 생성하며, 고차원에서 무작위 보행 방법의 느린 확산 탐색을 피할 수 있습니다.

HMC는 더 간단한 샘플러가 요구하지 않는 무엇을 요구하는가?

연속 매개변수에 대한 로그 사후 분포의 기울기가 필요하며, 이 때문에 일반적으로 자동 미분과 함께 사용되며 이산 매개변수를 직접 처리할 수 없습니다.