Metode Bayes Empiris

Bayes empiris mengestimasi distribusi prior dari data itu sendiri, memberikan banyak manfaat dari model hierarkis dengan biaya komputasi yang lebih rendah.

Definition

Bayes empiris adalah pendekatan untuk inferensi hierarkis di mana parameter prior diestimasi dari data yang diamati, biasanya dengan memaksimalkan kemungkinan marginal, dan kemudian diperlakukan sebagai diketahui saat menghitung posterior untuk kuantitas tingkat kelompok.

Scope

Topik ini mencakup Bayes empiris parametrik dan nonparametrik, estimasi hiperparameter dengan kemungkinan maksimum marginal atau metode momen, hubungan dengan pengerutan James-Stein, dan peringatan bahwa Bayes empiris dapat meremehkan ketidakpastian dengan mengabaikan kesalahan dalam prior yang diestimasi.

Core questions

• Bagaimana hiperparameter diestimasi dari distribusi marginal data?
• Bagaimana Bayes empiris berhubungan dengan pemodelan hierarkis Bayesian penuh?
• Mengapa ini terhubung dengan estimator pengerutan James-Stein?
• Dengan cara apa Bayes empiris dapat meremehkan ketidakpastian?

Key concepts

• Bayes empiris
• kemungkinan maksimum marginal
• estimasi hiperparameter
• estimator James-Stein
• pengerutan
• tingkat penemuan palsu
• peremehan ketidakpastian

Key theories

Mengestimasi prior dari data

Dengan menyesuaikan hiperparameter prior ke distribusi marginal dari semua data, Bayes empiris mempelajari seberapa banyak untuk mengumpulkan tanpa menentukan hiperprior, mendekati posterior hierarkis penuh.

Hubungan dengan pengerutan Stein

Estimator James-Stein dapat diturunkan sebagai aturan Bayes empiris parametrik, menjelaskan bahwa prior yang diestimasi data menghasilkan pengerutan yang mengurangi total kesalahan.

Clinical relevance

Bayes empiris mendasari inferensi skala besar dalam genomik dan pencitraan, di mana ribuan efek diestimasi secara bersamaan dan prior berbasis data menstabilkan estimasi serta mengontrol penemuan palsu.

History

Robbins memperkenalkan Bayes empiris pada tahun 1956; Efron dan Morris menghubungkannya dengan pengerutan Stein pada tahun 1970-an. Munculnya data ber throughput tinggi menjadikan Bayes empiris sentral untuk inferensi simultan skala besar, seperti yang dikembangkan dalam monograf Efron tahun 2010.

Debates

Mengabaikan ketidakpastian dalam prior yang diestimasi

Karena Bayes empiris memasukkan estimasi titik hiperparameter, ini dapat menghasilkan interval yang terlalu percaya diri dibandingkan dengan analisis Bayesian penuh yang menyebarkan ketidakpastian tersebut.

Key figures

• Herbert Robbins
• Bradley Efron
• Carl Morris

Seminal works

• robbins1956
• efron2010

Frequently asked questions

Apakah Bayes empiris benar-benar Bayesian?

Ini adalah hibrida: ia menggunakan teorema Bayes untuk parameter tingkat kelompok tetapi mengestimasi prior dari data daripada menentukannya di muka, yang mendekati model hierarkis penuh sementara umumnya meremehkan ketidakpastian dalam prior.