คอนจูเกตไพรเออร์ (Conjugate Priors)

คอนจูเกตไพรเออร์ (conjugate prior) ช่วยให้โพสทีเรียร์ (posterior) ยังคงอยู่ในตระกูลการแจกแจงเดียวกับไพรเออร์ (prior) ทำให้การปรับปรุงแบบเบย์ (Bayesian updating) กลายเป็นการปรับปรุงพารามิเตอร์ของตระกูลนั้นอย่างง่ายดาย

Definition

ตระกูลของไพรเออร์จะเรียกว่าคอนจูเกตกับฟังก์ชันความน่าจะเป็น (likelihood) ที่กำหนด หากสำหรับข้อมูลใดๆ โพสทีเรียร์ที่ได้เป็นของตระกูลเดียวกัน โดยโพสทีเรียร์จะถูกหาได้จากการปรับปรุงไฮเปอร์พารามิเตอร์ (hyperparameters) ของตระกูลในรูปแบบปิด (closed form)

Scope

หัวข้อนี้ครอบคลุมคำจำกัดความของคอนจูเกซี (conjugacy) คู่คอนจูเกตมาตรฐาน (เบต้า-ไบนอมิเนียล, แกมมา-ปัวซง, นอร์มอล-นอร์มอล, นอร์มอล-อินเวอร์สแกมมา, ดิริชเลต์-มัลตินอมิเนียล) ความเชื่อมโยงกับตระกูลเอ็กซ์โพเนนเชียล (exponential families) และการตีความพารามิเตอร์ไพรเออร์เป็นจำนวนนับเสมือน (pseudo-counts) หรือขนาดตัวอย่างไพรเออร์ (prior sample size)

Core questions

• การที่ไพรเออร์เป็นคอนจูเกตกับฟังก์ชันความน่าจะเป็นหมายความว่าอย่างไร?
• คู่คอนจูเกตใดบ้างที่เกิดขึ้นสำหรับแบบจำลองตระกูลเอ็กซ์โพเนนเชียลทั่วไป?
• ไฮเปอร์พารามิเตอร์คอนจูเกตทำหน้าที่เป็นข้อมูลเสมือนไพรเออร์ (prior pseudo-data) ได้อย่างไร?
• เหตุใดคอนจูเกซีจึงเป็นผลมาจากโครงสร้างของตระกูลเอ็กซ์โพเนนเชียล?

Key concepts

• คอนจูเกตไพรเออร์
• เบต้า-ไบนอมิเนียล
• แกมมา-ปัวซง
• นอร์มอล-นอร์มอล
• ดิริชเลต์-มัลตินอมิเนียล
• ตระกูลเอ็กซ์โพเนนเชียล
• ไฮเปอร์พารามิเตอร์
• จำนวนนับเสมือนไพรเออร์

Key theories

คอนจูเกซีของตระกูลเอ็กซ์โพเนนเชียล

Diaconis และ Ylvisaker ได้ให้ลักษณะของคอนจูเกตไพรเออร์สำหรับฟังก์ชันความน่าจะเป็นของตระกูลเอ็กซ์โพเนนเชียล และแสดงให้เห็นว่าสิ่งเหล่านี้บ่งชี้ถึงค่าคาดหวังโพสทีเรียร์ที่เป็นเชิงเส้นในสถิติที่เพียงพอ (sufficient statistics)

ไพรเออร์ในฐานะข้อมูลเสมือน

ไฮเปอร์พารามิเตอร์คอนจูเกตสามารถตีความได้ว่าเป็นจำนวนนับและผลรวมของชุดข้อมูลไพรเออร์ในจินตนาการ ดังนั้นโพสทีเรียร์จึงรวมการสังเกตจริงและการสังเกตเสมือนไพรเออร์เข้าด้วยกันแบบบวก

Clinical relevance

แบบจำลองคอนจูเกตให้การปรับปรุงที่รวดเร็วและโปร่งใส ซึ่งมีการใช้งานอย่างแพร่หลายสำหรับการประมาณสัดส่วนและอัตรา การสุ่มแบบปรับตัว (adaptive randomization) และเป็นส่วนประกอบพื้นฐานภายในงานวิเคราะห์ที่ใช้การสุ่มตัวอย่างขนาดใหญ่ขึ้น

History

Raiffa และ Schlaifer ได้จัดระบบการวิเคราะห์คอนจูเกตสำหรับปัญหาการตัดสินใจในปี 1961; Diaconis และ Ylvisaker ได้ให้ลักษณะทั่วไปสำหรับตระกูลเอ็กซ์โพเนนเชียลในปี 1979 คอนจูเกซียังคงมีความสำคัญในฐานะองค์ประกอบภายในแผนการคำนวณสมัยใหม่ เช่น การสุ่มตัวอย่างแบบกิบบส์ (Gibbs sampling)

Key figures

• Howard Raiffa
• Robert Schlaifer
• Persi Diaconis

Seminal works

• diaconis1979
• gelman2013

Frequently asked questions

เหตุใดจึงใช้คอนจูเกตไพรเออร์ในเมื่อคอมพิวเตอร์สามารถจัดการกับไพรเออร์ใดก็ได้?

คอนจูเกตไพรเออร์ให้โพสทีเรียร์ในรูปแบบปิดที่แม่นยำ ซึ่งรวดเร็วและตีความได้ง่าย และมักจะทำหน้าที่เป็นการปรับปรุงแบบมีเงื่อนไขเต็มรูปแบบ (full-conditional updates) ภายในตัวสุ่มตัวอย่างแบบกิบบส์ แม้ว่าแบบจำลองโดยรวมจะไม่ได้เป็นคอนจูเกตก็ตาม