초사전분포와 수축 (Hyperpriors and Shrinkage)

초사전분포는 계층적 모형의 최상위 매개변수에 부여되는 사전분포로, 집단 추정치가 모집단 평균으로 얼마나 강하게 수축되는지를 제어합니다.

Definition

초사전분포(hyperprior)는 집단 수준 매개변수의 분포를 지배하는 초매개변수에 대한 사전분포입니다. 이는 데이터와 함께 집단 수준 분산에 대한 사후분포를 결정하며, 따라서 각 집단에 적용되는 수축의 정도를 결정합니다.

Scope

이 주제는 계층적 평균 및 특히 분산 성분에 대한 사전분포의 명세, 집단 수준 분산이 수축을 제어하는 방식, 부적절한 분산 사전분포로 인한 퇴화된 사후분포의 위험성, 그리고 반 코시(half-Cauchy) 및 반 정규(half-normal) 사전분포와 같이 권장되는 약정보적 선택을 다룹니다.

Core questions

• 집단 수준 분산이 수축의 양을 제어하는 이유는 무엇입니까?
• 분산 성분에 부적절한 사전분포를 사용하면 어떤 문제가 발생합니까?
• 척도 매개변수에 권장되는 약정보적 초사전분포는 무엇입니까?
• 수축은 스타인(Stein) 및 경험적 베이즈(empirical Bayes) 결과와 어떻게 관련됩니까?

Key concepts

• 초사전분포 (hyperprior)
• 분산 성분 (variance component)
• 반 코시 사전분포 (half-Cauchy prior)
• 역 감마 사전분포 (inverse-gamma prior)
• 수축 (shrinkage)
• 제임스-스타인 추정량 (James-Stein estimator)
• 퇴화된 사후분포 (degenerate posterior)

Key theories

분산 성분 사전분포 (Variance-component priors)

집단 수가 적을 때 집단 수준 표준편차에 대한 초사전분포는 추론에 강하게 영향을 미칩니다. 접힌 비중심(folded-noncentral) 및 반 코시(half-Cauchy) 사전분포는 기존 역 감마(inverse-gamma) 선택의 병리적 문제를 피합니다.

위험 감소로서의 수축 (Shrinkage as risk reduction)

많은 관련 추정치를 공통 중심으로 수축시키는 것은 총 평균 제곱 오차를 낮춥니다. 이는 제임스-스타인 추정량이 표본 평균을 지배하게 만드는 것과 동일한 원리입니다.

Clinical relevance

합리적인 초사전분포는 메타분석 및 다기관 연구에서 집단 간 변동성에 대한 과도하게 확신하거나 불안정한 추정치를 방지합니다. 이러한 연구에서는 집단의 수가 적고 분산을 추정하기 어려운 경우가 많습니다.

History

수축 추정(shrinkage estimation)은 1956년 스타인(Stein)의 결과와 1970년대 에프론(Efron)과 모리스(Morris)의 경험적 베이즈(empirical Bayes) 연구에서 발전했습니다. 2006년 겔만(Gelman)의 분산 매개변수 사전분포 분석은 초사전분포 선택이 완전 베이즈 계층적 모형에서 수축을 어떻게 형성하는지를 명확히 했습니다.

Debates

집단 수준 분산에 대한 사전분포는 무엇을 사용해야 하는가?

기존의 역 감마 사전분포는 0 근처에서 의도치 않게 정보적일 수 있으므로, 반 코시(half-Cauchy), 반 정규(half-normal) 및 기타 약정보적 척도 사전분포에 대한 논의가 계속되고 있습니다.

Key figures

• Andrew Gelman
• Bradley Efron
• Carl Morris
• Charles Stein

Seminal works

• gelman2006
• efron1975

Frequently asked questions

집단 수준 분산에 대해 평평한 사전분포를 사용하지 않는 이유는 무엇입니까?

평평하거나 기본 역 감마 사전분포는 0 근처에 과도한 가중치를 부여하거나 적절하지 않을 수 있으며, 집단 수가 적을 때 붕괴되거나 불안정한 사후분포를 생성할 수 있습니다. 반 코시(half-Cauchy)와 같은 약정보적 척도 사전분포는 더 신뢰할 수 있는 행동을 보입니다.