Integrasi Numerik dalam Statistika

Integrasi numerik dalam statistika mengevaluasi integral yang mendefinisikan kemungkinan marjinal, ekspektasi posterior, dan konstanta normalisasi ketika integral tersebut tidak memiliki bentuk tertutup.

Definition

Integrasi numerik dalam statistika adalah penggunaan aturan kuadratur deterministik dan aproksimasi analitik untuk mengevaluasi integral yang muncul dalam inferensi berbasis kemungkinan dan Bayesian, khususnya kemungkinan marjinal dan momen posterior.

Scope

Topik ini mencakup kuadratur deterministik yang diadaptasi untuk integran statistik, termasuk aturan Gauss-Hermite untuk mengintegrasikan efek acak normal, kuadratur adaptif, dan aproksimasi Laplace untuk integral yang didominasi oleh puncak tajam. Ini melengkapi integrasi Monte Carlo, yang dibahas di bawah metode Monte Carlo, dengan berfokus pada skema deterministik berdimensi rendah.

Core questions

• Bagaimana efek acak diintegrasikan dari kemungkinan menggunakan kuadratur Gaussian?
• Kapan kuadratur adaptif mengungguli aturan tetap untuk integran statistik?
• Bagaimana aproksimasi Laplace memanfaatkan integran yang berpuncak tajam?
• Kapan metode kuadratur deterministik lebih disukai daripada integrasi Monte Carlo?

Key concepts

• Kuadratur Gauss-Hermite
• Kuadratur adaptif
• Aproksimasi Laplace
• Kemungkinan marjinal
• Konstanta normalisasi

Key theories

Kuadratur Gauss-Hermite untuk efek acak

Integral terhadap densitas normal, seperti yang memarjinalkan efek acak dalam model campuran, dievaluasi secara efisien oleh aturan Gauss-Hermite, dengan versi adaptif yang memusatkan node di dekat mode integran.

Aproksimasi Laplace

Mengaproksimasi integran yang berpuncak tajam dengan Gaussian di sekitar modenya menghasilkan estimasi integral bentuk tertutup, akurat ketika puncak mendominasi, dan mendasari inferensi perkiraan cepat untuk banyak model hierarkis.

Clinical relevance

Pemasangan model campuran linier umum, penghitungan faktor Bayes, dan perolehan ringkasan posterior semuanya memerlukan evaluasi integral yang tidak dapat dipecahkan; kuadratur deterministik dan aproksimasi Laplace menyediakan alternatif yang cepat dan akurat untuk simulasi bagi integral berdimensi rendah.

History

Kuadratur klasik dan metode aproksimasi integral Laplace diadaptasi oleh para ahli statistika untuk komputasi kemungkinan dan Bayesian, dengan kuadratur Gauss-Hermite adaptif dan aproksimasi Laplace menjadi alat standar untuk model campuran dan hierarkis.

Key figures

• John Monahan
• Kenneth Lange
• Pierre-Simon Laplace

Seminal works

• monahan2011
• lange2010

Frequently asked questions

Kapan saya harus menggunakan kuadratur daripada Monte Carlo untuk integral statistik?

Untuk integral berdimensi rendah dengan integran yang mulus, kuadratur deterministik umumnya konvergen jauh lebih cepat dan memberikan jawaban deterministik. Monte Carlo menjadi lebih disukai seiring bertambahnya dimensi, di mana kisi kuadratur menjadi tidak praktis.

Untuk apa aproksimasi Laplace berguna?

Ini memberikan aproksimasi bentuk tertutup yang cepat untuk integral yang didominasi oleh satu puncak tajam, seperti kemungkinan marjinal dalam model yang teridentifikasi dengan baik. Ini akurat ketika integran kira-kira Gaussian di dekat modenya.