ไพรเออร์แบบให้ข้อมูลอย่างอ่อนและแบบปรับค่าให้เหมาะสม

ไพรเออร์แบบให้ข้อมูลอย่างอ่อน (weakly informative priors) เป็นไพรเออร์ที่กำหนดขึ้นอย่างจงใจและเหมาะสม ซึ่งจะช่วยตัดค่าพารามิเตอร์ที่ไม่น่าจะเป็นไปได้ออกไป และทำให้การประมาณค่ามีเสถียรภาพโดยไม่กำหนดความเชื่อที่แข็งแกร่งในเชิงเนื้อหา

Definition

ไพรเออร์แบบให้ข้อมูลอย่างอ่อน (weakly informative prior) คือไพรเออร์ที่เหมาะสมซึ่งถูกเลือกให้มีความกว้างในระดับของค่าพารามิเตอร์ที่เป็นไปได้ โดยให้ข้อมูลเพียงพอที่จะปรับค่าโพสทีเรียร์ (posterior) ให้เหมาะสมและปรับปรุงการคำนวณ ในขณะที่ยังคงไม่ผูกมัดกับค่าเฉพาะเจาะจงภายในช่วงนั้น

Scope

หัวข้อนี้ครอบคลุมเหตุผลในการใช้ไพรเออร์แบบให้ข้อมูลอย่างอ่อนแทนไพรเออร์แบบแบนราบ (flat priors) ผลกระทบของการปรับค่าให้เหมาะสมและการหดตัว (shrinkage) ทางเลือกเริ่มต้นสำหรับสัมประสิทธิ์การถดถอยและพารามิเตอร์มาตราส่วน และไพรเออร์ที่ทำให้เกิดความเบาบาง (sparsity-inducing priors) เช่น horseshoe และ Bayesian Lasso

Core questions

• เหตุใดไพรเออร์แบบให้ข้อมูลอย่างอ่อนจึงเป็นที่นิยมมากกว่าไพรเออร์แบบแบนราบหรือไพรเออร์ที่ไม่เหมาะสมในการปฏิบัติ?
• ไพรเออร์ปรับค่าประมาณและหดค่าเข้าสู่ค่าที่เป็นไปได้อย่างไร?
• มีไพรเออร์เริ่มต้นใดบ้างที่แนะนำสำหรับสัมประสิทธิ์การถดถอยและพารามิเตอร์ความแปรปรวน?
• ไพรเออร์แบบความเบาบาง เช่น horseshoe จัดการกับสัมประสิทธิ์ที่เป็นศูนย์จำนวนมากได้อย่างไร?

Key concepts

• ไพรเออร์แบบให้ข้อมูลอย่างอ่อน
• การปรับค่าให้เหมาะสม
• การหดตัว
• ไพรเออร์แบบ horseshoe
• Bayesian Lasso
• ไพรเออร์มาตราส่วน
• การแยก

Key theories

การปรับค่าให้เหมาะสมผ่านไพรเออร์

ไพรเออร์ที่มีมาตราส่วนจำกัดจะลงโทษการประมาณค่าที่รุนแรง ลดความแปรปรวนและป้องกันปัญหาการแยก; ตัวประมาณค่าความน่าจะเป็นแบบมีบทลงโทษจำนวนมากสอดคล้องกับโหมดโพสทีเรียร์ภายใต้ไพรเออร์เฉพาะ

การหดตัวแบบทั่วโลก-เฉพาะที่

ไพรเออร์แบบความเบาบาง เช่น horseshoe ใช้มาตราส่วนเฉพาะที่แบบหางหนักและมาตราส่วนทั่วโลก เพื่อให้สัมประสิทธิ์ขนาดเล็กถูกหดตัวอย่างรุนแรง ในขณะที่สัญญาณขนาดใหญ่หลีกเลี่ยงการหดตัว

Clinical relevance

ไพรเออร์แบบปรับค่าให้เหมาะสม (regularizing priors) ช่วยให้การประมาณค่ามีเสถียรภาพในปัญหาที่มีมิติสูงและเบาบาง เช่น จีโนมิกส์และการเลือกตัวบ่งชี้ทางชีวภาพ และป้องกันการประมาณค่าที่แตกต่างกันเมื่อข้อมูลระบุพารามิเตอร์ได้อย่างอ่อน

History

เมื่อการคำนวณแบบเบย์เป็นเรื่องปกติในทศวรรษ 2000 ความสนใจได้เปลี่ยนจากไพรเออร์แบบแบนราบที่ 'ไม่ให้ข้อมูล' ไปสู่ไพรเออร์เริ่มต้นแบบให้ข้อมูลอย่างอ่อน ซึ่งช่วยปรับปรุงทั้งการอนุมานและการสุ่มตัวอย่าง ไพรเออร์แบบความเบาบาง (sparsity priors) รวมถึง Bayesian Lasso และตัวประมาณค่า horseshoe ในปี 2010 ได้ขยายแนวคิดนี้ไปสู่การถดถอยที่มีมิติสูง

Debates

ไพรเออร์เริ่มต้นควรจะอ่อนแค่ไหน?

มีการถกเถียงกันอย่างต่อเนื่องเกี่ยวกับวิธีการกำหนดมาตราส่วนของไพรเออร์แบบให้ข้อมูลอย่างอ่อน เพื่อให้สามารถปรับค่าได้อย่างมีประโยชน์โดยไม่ทำให้ข้อสรุปบนมาตราส่วนที่เกี่ยวข้องเกิดความลำเอียงโดยไม่ตั้งใจ

Key figures

• Andrew Gelman
• Nicholas Polson
• James Scott
• Carlos Carvalho

Seminal works

• gelman2008
• carvalho2010

Frequently asked questions

ไพรเออร์แบบให้ข้อมูลอย่างอ่อนแตกต่างจากไพรเออร์แบบไม่ให้ข้อมูลอย่างไร?

ไพรเออร์แบบไม่ให้ข้อมูลพยายามเพิ่มข้อมูลให้น้อยที่สุดเท่าที่จะเป็นไปได้และอาจไม่เหมาะสม ในขณะที่ไพรเออร์แบบให้ข้อมูลอย่างอ่อนนั้นเหมาะสมและจงใจเพิ่มข้อมูลอย่างอ่อนเพื่อไม่รวมค่าที่ไม่น่าจะเป็นไปได้และทำให้การวิเคราะห์มีเสถียรภาพ