贝叶斯定理与后验分布
贝叶斯定理将未知参数的后验分布表示为与数据似然乘以先验成比例，为所有贝叶斯推断提供了核心动力。
用 PaperMind 寻找选题即将推出Find papers & topics
Tools & resources
Learn & explore
视频即将推出
Definition
贝叶斯定理指出，后验密度 p(theta | y) 等于似然 p(y | theta) 乘以先验 p(theta) 除以边际似然 p(y)；由于 p(y) 不依赖于 theta，后验通常被写成与似然乘以先验成比例。
Scope
本主题涵盖贝叶斯定理在推断中的陈述和推导、比例形式、用于归一化后验的边际似然，以及如何获得后验均值、可信区间和后验预测分布等汇总信息。
Core questions
- 后验分布是如何从先验和似然中推导出来的？
- 什么是边际似然，为什么它充当归一化常数？
- 如何从后验中提取点估计和可信区间？
- 什么是后验预测分布，如何计算？
Key concepts
- 先验
- 似然
- 后验
- 边际似然
- 可信区间
- 后验预测分布
- 归一化常数
Key theories
- 后验比例性
- 由于边际似然在参数中是常数，推断仅依赖于似然和先验的乘积（直至归一化），这是大多数计算方法所利用的形式。
- 后验预测分布
- 通过对后验分布上的抽样分布进行平均来预测未来或重复数据，从而整合参数不确定性，而不是代入点估计。
Clinical relevance
后验推断应用于任何需要以校准不确定性估计感兴趣量的情况，包括诊断测试解释、物理科学中的参数估计以及概率预测。
History
该规则源于贝叶斯1763年的论文，并由拉普拉斯推广为逆概率方法。现代强调完整的后验分布，而非单一的逆概率估计，在20世纪的贝叶斯文献中得到了巩固。
Key figures
- Thomas Bayes
- Pierre-Simon Laplace
- Harold Jeffreys
Related topics
Seminal works
- gelman2013
- bayes1763
Frequently asked questions
- 什么是可信区间？
- 可信区间是一个包含参数的范围，具有声明的后验概率（例如95%）；与频率学派的置信区间不同，它是关于给定数据和先验的参数的直接概率陈述。
- 为什么后验可以不计算边际似然而写出？
- 边际似然是相对于参数的常数，因此它只对后验进行重新缩放；许多算法（如MCMC）只需要后验（直至此常数）。