경험적 베이즈 방법

경험적 베이즈는 데이터 자체로부터 사전 분포를 추정하여, 더 낮은 계산 비용으로 계층적 모델의 많은 이점을 제공합니다.

Definition

경험적 베이즈는 계층적 추론에 대한 접근 방식으로, 사전 분포의 모수들이 관측된 데이터로부터 추정되며, 일반적으로 주변 우도를 최대화함으로써 이루어집니다. 이렇게 추정된 모수들은 그룹 수준 양에 대한 사후 분포를 계산할 때 알려진 것으로 간주됩니다.

Scope

이 주제는 모수적 및 비모수적 경험적 베이즈, 주변 최대 우도 또는 적률법에 의한 초모수 추정, James-Stein 축소와의 연관성, 그리고 추정된 사전 분포의 오차를 무시함으로써 경험적 베이즈가 불확실성을 과소평가할 수 있다는 주의사항을 다룹니다.

Core questions

• 데이터의 주변 분포로부터 초모수는 어떻게 추정됩니까?
• 경험적 베이즈는 완전 베이즈 계층적 모델링과 어떻게 관련됩니까?
• 왜 James-Stein 축소 추정량과 연결됩니까?
• 경험적 베이즈는 어떤 방식으로 불확실성을 과소평가할 수 있습니까?

Key concepts

• 경험적 베이즈
• 주변 최대 우도
• 초모수 추정
• James-Stein 추정량
• 축소
• 위양성 발견율
• 불확실성 과소평가

Key theories

데이터로부터 사전 분포 추정

경험적 베이즈는 사전 분포의 초모수를 모든 데이터의 주변 분포에 맞춰 조정함으로써, 초사전 분포를 지정하지 않고도 얼마나 풀링할지 학습하며, 완전한 계층적 사후 분포를 근사합니다.

Stein 축소와의 연관성

James-Stein 추정량은 모수적 경험적 베이즈 규칙으로 도출될 수 있으며, 데이터로부터 추정된 사전 분포가 총 오차를 줄이는 축소를 생성한다는 것을 명확히 보여줍니다.

Clinical relevance

경험적 베이즈는 유전체학 및 이미징 분야의 대규모 추론의 기반이 되며, 이 분야에서는 수천 개의 효과가 동시에 추정되고 데이터 기반 사전 분포가 추정치를 안정화하며 위양성 발견을 제어합니다.

History

Robbins는 1956년에 경험적 베이즈를 소개했습니다. Efron과 Morris는 1970년대에 이를 Stein 축소와 연결했습니다. 고처리량 데이터의 등장은 Efron의 2010년 단행본에서 개발된 바와 같이, 경험적 베이즈를 대규모 동시 추론의 핵심으로 만들었습니다.

Debates

추정된 사전 분포의 불확실성 무시

경험적 베이즈는 초모수의 점 추정치를 사용하기 때문에, 불확실성을 전파하는 완전 베이즈 분석에 비해 과도하게 확신하는 구간을 생성할 수 있습니다.

Key figures

• Herbert Robbins
• Bradley Efron
• Carl Morris

Seminal works

• robbins1956
• efron2010

Frequently asked questions

경험적 베이즈는 정말 베이즈적입니까?

이것은 하이브리드 방식입니다. 그룹 수준 모수에는 베이즈 정리를 사용하지만, 사전 분포를 미리 지정하는 대신 데이터로부터 추정합니다. 이는 완전한 계층적 모델을 근사하면서도 일반적으로 사전 분포의 불확실성을 과소평가합니다.