Prior Konjugat

Prior konjugat menjaga posterior dalam keluarga distribusi yang sama dengan prior, mengubah pembaruan Bayesian menjadi pembaruan sederhana dari parameter keluarga tersebut.

Definition

Keluarga prior dikatakan konjugat terhadap suatu likelihood jika, untuk data apa pun, posterior yang dihasilkan termasuk dalam keluarga yang sama; posterior diperoleh dengan memperbarui hiperparameter keluarga dalam bentuk tertutup.

Scope

Topik ini mencakup definisi konjugasi, pasangan konjugat standar (Beta-Binomial, Gamma-Poisson, Normal-Normal, Normal-inverse-Gamma, Dirichlet-Multinomial), kaitan dengan keluarga eksponensial, dan interpretasi parameter prior sebagai pseudo-count atau ukuran sampel prior.

Core questions

• Apa artinya bagi suatu prior untuk menjadi konjugat terhadap suatu likelihood?
• Pasangan konjugat mana yang muncul untuk model keluarga eksponensial yang umum?
• Bagaimana hiperparameter konjugat bertindak sebagai pseudo-data prior?
• Mengapa konjugasi mengikuti dari struktur keluarga eksponensial?

Key concepts

• prior konjugat
• Beta-Binomial
• Gamma-Poisson
• Normal-Normal
• Dirichlet-Multinomial
• keluarga eksponensial
• hiperparameter
• pseudo-count prior

Key theories

Konjugasi keluarga eksponensial

Diaconis dan Ylvisaker mengkarakterisasi prior konjugat untuk likelihood keluarga eksponensial dan menunjukkan bahwa mereka menyiratkan ekspektasi posterior yang linier dalam statistik yang cukup.

Prior sebagai pseudo-data

Hiperparameter konjugat dapat dibaca sebagai hitungan dan total dari dataset prior imajiner, sehingga posterior menggabungkan observasi nyata dan pseudo-observasi prior secara aditif.

Clinical relevance

Model konjugat memberikan pembaruan yang cepat dan transparan yang banyak digunakan untuk estimasi proporsi dan laju, randomisasi adaptif, dan sebagai blok bangunan di dalam analisis berbasis sampling yang lebih besar.

History

Raiffa dan Schlaifer mensistematisasi analisis konjugat untuk masalah keputusan pada tahun 1961; Diaconis dan Ylvisaker memberikan karakterisasi umum untuk keluarga eksponensial pada tahun 1979. Konjugasi tetap menjadi pusat sebagai komponen dalam skema komputasi modern seperti Gibbs sampling.

Key figures

• Howard Raiffa
• Robert Schlaifer
• Persi Diaconis

Seminal works

• diaconis1979
• gelman2013

Frequently asked questions

Mengapa menggunakan prior konjugat ketika komputer dapat menangani prior apa pun?

Prior konjugat memberikan posterior bentuk tertutup yang tepat, cepat, dan dapat diinterpretasikan, dan seringkali berfungsi sebagai pembaruan kondisional penuh di dalam Gibbs sampler bahkan ketika model keseluruhan tidak konjugat.