贝叶斯模型比较与选择
贝叶斯模型比较通过边际似然、预测准则和模型平均，权衡竞争模型在预测方面的表现以及数据对其的后验支持程度。
用 PaperMind 寻找选题即将推出Find papers & topics
Tools & resources
Learn & explore
视频即将推出
Definition
贝叶斯模型比较是利用概率来评估和选择竞争模型的方法，通过比较它们的边际似然或后验概率，估计它们的预期预测准确性，或根据它们的支持程度对它们进行平均。
Scope
该领域涵盖贝叶斯因子和边际似然、预测信息准则（如WAIC和留一交叉验证）、考虑模型不确定性的贝叶斯模型平均，以及用于评估绝对模型拟合的后验预测检验。
Sub-topics
Core questions
- 贝叶斯因子和后验模型概率如何比较模型？
- 如何使用WAIC和交叉验证估计预期预测准确性？
- 贝叶斯模型平均如何处理关于哪个模型是正确的这种不确定性？
- 后验预测检验如何评估单个模型是否拟合数据？
Key concepts
- 贝叶斯因子
- 边际似然
- WAIC
- 留一交叉验证
- 贝叶斯模型平均
- 后验预测检验
- 奥卡姆剃刀
- 预测准确性
Key theories
- 贝叶斯因子
- 边际似然之比量化了数据为一种模型相对于另一种模型提供的证据，是假设和模型比较的正式贝叶斯基础。
- 预测模型评估
- WAIC等信息准则和高效的留一交叉验证直接从后验抽样中估计样本外预测准确性，为贝叶斯因子提供了一种以预测为中心的替代方法。
Clinical relevance
模型比较指导从遗传学到宇宙学等领域中应信任哪种科学或预测模型，而后验预测检验提供了一种在得出结论之前检测模型不拟合的原则性方法。
History
杰弗里斯在20世纪30年代引入了贝叶斯因子用于假设检验；卡斯和拉夫特里1995年的综述使其广为流传。对边际似然对先验的敏感性和计算复杂性的担忧，促使了预测准则的发展，如DIC、WAIC和高效的留一交叉验证。
Debates
- 贝叶斯因子与预测准则
- 贝叶斯因子对先验敏感且难以计算，而预测准则旨在衡量样本外准确性；选择哪种方法取决于目标是获取假设的证据还是预测性能。
Key figures
- Harold Jeffreys
- Robert Kass
- Adrian Raftery
- Sumio Watanabe
- Aki Vehtari
Related topics
Seminal works
- kass1995
- vehtari2017
- gelman2013
Frequently asked questions
- 我应该使用贝叶斯因子还是信息准则？
- 当您需要衡量一种假设相对于另一种假设的证据，并且可以仔细指定先验时，请使用贝叶斯因子；当目标是比较预期的样本外预测性能时，请使用WAIC或留一交叉验证等预测准则。