마르코프 연쇄 몬테카를로

마르코프 연쇄 몬테카를로는 복잡한 목표 분포를 고유한 정상 분포로 갖도록 설계된 마르코프 연쇄를 시뮬레이션하여 해당 분포에서 표본을 추출합니다.

Definition

마르코프 연쇄 몬테카를로는 정상 분포가 목표 분포인 에르고딕 마르코프 연쇄를 실행하고 연쇄 경로에 대한 함수를 평균하여 목표 확률 분포 하의 기댓값을 추정하는 알고리즘 계열입니다.

Scope

이 주제는 주어진 정상 분포를 갖는 전이 커널의 설계, 메트로폴리스-헤이스팅스 알고리즘 및 그 수락 규칙, 조건부 업데이트를 위한 깁스 샘플러, 수렴 진단 및 번인(burn-in), 자기상관이 추정량 분산에 미치는 영향, 그리고 혼합 시간과 샘플링의 계산 비용 간의 연관성을 다룹니다.

Core questions

• 원하는 정상 분포를 갖는 마르코프 연쇄는 어떻게 구성됩니까?
• 메트로폴리스-헤이스팅스 수락 규칙이 올바른 정상 분포를 생성하는 이유는 무엇입니까?
• 깁스 샘플러는 조건부 분포를 어떻게 활용합니까?
• 연쇄가 샘플을 사용할 수 있게 되기까지 얼마나 오래 실행되어야 하며, 이는 어떻게 평가됩니까?

Key theories

메트로폴리스-헤이스팅스 구성

임의의 커널에서 이동을 제안하고 목표 밀도 비율로 구성된 확률로 이를 수락하면 정상 분포가 정확히 목표 분포인 가역 연쇄가 생성되며, 정규화 상수를 제외한 목표 분포만 필요합니다.

에르고딕 평균 및 몬테카를로 추정

연쇄가 목표 분포를 정상 분포로 갖는 에르고딕 연쇄이므로, 연쇄를 따라 함수의 시간 평균은 거의 확실하게 목표 기댓값으로 수렴하며, 이는 시뮬레이션된 경로를 샘플로 사용하는 것을 정당화합니다.

Clinical relevance

마르코프 연쇄 몬테카를로는 현대 베이즈 통계학, 통계 물리학 및 기계 학습의 핵심 도구로서, 해석적으로 통합할 수 없는 고차원 사후 분포, 분할 함수 및 에너지 지형에 대한 추론을 가능하게 합니다. 그 신뢰성은 기본 연쇄가 충분히 빠르게 혼합되는지에 달려 있습니다.

History

수락-거부 연쇄는 1953년 통계 물리학을 위한 메트로폴리스 알고리즘에서 시작되었고, 1970년 헤이스팅스에 의해 일반화되었으며, 1984년 게만과 게만의 깁스 샘플러와 1990년경 겔판트와 스미스의 영향력 있는 베이즈 응용을 통해 통계학에 재도입되어 계산 베이즈 혁명을 촉발했습니다.

Key figures

• Nicholas Metropolis
• W. Keith Hastings
• Stuart Geman
• Donald Geman

Seminal works

• robertCasella2004
• hastings1970

Frequently asked questions

샘플을 추출하기 위해 마르코프 연쇄를 사용하는 이유는 무엇입니까?

고차원 또는 비정규화된 목표 분포의 경우 직접 샘플링은 비실용적입니다. 목표 분포로 수렴하는 마르코프 연쇄를 사용하면 평형에 도달한 후 종속적이지만 올바르게 분포된 샘플을 생성할 수 있습니다.

번인(burn-in)이란 무엇입니까?

번인은 연쇄가 아직 정상 분포로 수렴하지 않았기 때문에 폐기되는 연쇄의 초기 부분입니다. 이 초기 상태들은 추정치를 편향시킬 수 있습니다.