Faktor Bayes dan Kemungkinan Marginal

Kemungkinan marginal adalah probabilitas data di bawah suatu model setelah mengintegrasikan parameternya, dan rasio dua kemungkinan marginal, yaitu faktor Bayes, mengukur bukti antar model.

Definition

Kemungkinan marginal suatu model adalah integral dari kemungkinan di atas prior; faktor Bayes antara dua model adalah rasio kemungkinan marginalnya dan, dikalikan dengan odds prior, memberikan odds posterior yang mendukung satu model.

Scope

Topik ini mencakup definisi dan interpretasi kemungkinan marginal, faktor Bayes dan kalibrasinya ke dalam kategori bukti, penalti otomatisnya terhadap kompleksitas, paradoks Jeffreys-Lindley yang menunjukkan sensitivitas terhadap prior yang menyebar, dan metode komputasi seperti bridge sampling.

Core questions

• Apa itu kemungkinan marginal dan bagaimana ia mewujudkan pisau Occam otomatis?
• Bagaimana faktor Bayes diinterpretasikan sebagai kekuatan bukti?
• Mengapa faktor Bayes sensitif terhadap pilihan prior, seperti yang ditunjukkan oleh paradoks Jeffreys-Lindley?
• Bagaimana kemungkinan marginal dihitung dalam praktik?

Key concepts

• kemungkinan marginal
• faktor Bayes
• odds posterior
• pisau Occam
• paradoks Jeffreys-Lindley
• bridge sampling
• sensitivitas prior

Key theories

Faktor Bayes sebagai bukti

Faktor Bayes mengubah odds prior menjadi odds posterior dan dibaca pada skala terkalibrasi sebagai bobot bukti yang diberikan data untuk satu model dibandingkan model lainnya.

Paradoks Jeffreys-Lindley

Karena kemungkinan marginal bergantung pada sebaran prior, prior yang menyebar secara arbitrer dapat memaksa faktor Bayes untuk mendukung model yang lebih sederhana terlepas dari data, sehingga prior yang tidak tepat tidak boleh digunakan untuk perbandingan model.

Clinical relevance

Faktor Bayes memberikan ukuran bukti berprinsip yang digunakan dalam genetika, psikologi, dan fisika untuk membandingkan hipotesis, tetapi ketergantungannya pada prior berarti faktor tersebut harus dilaporkan bersama dengan prior yang menghasilkannya.

History

Jeffreys mengembangkan faktor Bayes untuk pengujian hipotesis pada tahun 1930-an; paradoks Lindley tahun 1957 mengungkap sensitivitasnya terhadap prior yang menyebar. Tinjauan Kass dan Raftery tahun 1995 menstandardisasi interpretasinya dan mensurvei pendekatan komputasi.

Debates

Penggunaan prior yang tidak tepat atau samar

Karena kemungkinan marginal tidak terdefinisi untuk prior yang tidak tepat dan tidak stabil untuk prior yang sangat menyebar, ada perdebatan tentang prior default untuk perbandingan model dan apakah faktor Bayes sesuai sama sekali dalam pengaturan tersebut.

Key figures

• Harold Jeffreys
• Dennis Lindley
• Robert Kass
• Adrian Raftery

Seminal works

• kass1995
• lindley1957

Frequently asked questions

Dapatkah saya menggunakan prior noninformatif untuk menghitung faktor Bayes?

Umumnya tidak: prior yang tidak tepat membuat kemungkinan marginal tidak terdefinisi dan prior proper yang sangat menyebar membiaskan faktor Bayes ke arah model yang lebih sederhana, esensi dari paradoks Jeffreys-Lindley, sehingga faktor Bayes memerlukan prior proper yang dipilih dengan cermat.