无信息先验和参考先验

无信息先验和参考先验是根据形式规则构建的，以便数据而非分析师的信念在后验中占据主导地位。

Definition

无信息先验是根据旨在对后验施加最小影响的形式规则选择的先验；参考先验是一种特定的客观先验，其定义旨在最大化先验和后验之间的预期差异，从而使数据具有最大的信息量。

Scope

本主题涵盖了客观先验的目标和构建：拉普拉斯的均匀先验、杰弗里斯的不变先验、基于最大化预期信息的伯纳多参考先验、不适定先验及其是否产生适定后验的问题，以及诸如边缘化悖论等已知病态。

Core questions

• 先验的无信息性意味着什么，以及真正的无信息性是否可实现？
• 杰弗里斯先验是如何推导出来的，为什么它在重新参数化下是不变的？
• 伯纳多的参考先验如何将“让数据说话”形式化？
• 不适定先验何时会导致不适定或矛盾的后验？

Key concepts

• 无信息先验
• 杰弗里斯先验
• 参考先验
• 不适定先验
• 费雪信息
• 不变性
• 边缘化悖论

Key theories

杰弗里斯法则

将先验设置为与费雪信息行列式的平方根成比例，会产生一个对平滑重新参数化不变的先验，这是规范的单参数客观先验。

参考先验

伯纳多定义了最大化数据提供的关于参数的预期库尔巴克-莱布勒信息的先验，并明确处理了无关参数；在多参数问题中，这些先验通常与杰弗里斯先验不同。

Clinical relevance

客观先验为监管和科学报告提供了可重现的默认分析，在这些场合，注入主观信念的表象是不受欢迎的，并且需要一个常规基线。

History

拉普拉斯根据不充分理由原则使用均匀先验；杰弗里斯于1946年引入不变先验；伯纳多于1979年将参考先验形式化，后来由伯杰和伯纳多针对多参数和有序无关参数设置进行了完善。

Debates

是否存在真正的无信息先验？

批评者认为，没有先验是真正无信息的，因为平坦性在重新参数化下不是不变的，而参考先验的支持者则提供了一种基于不变性的原则性构建方法。

Key figures

• Harold Jeffreys
• Jose-Miguel Bernardo
• Pierre-Simon Laplace
• James Berger

Seminal works

• jeffreys1946
• bernardo1979

Frequently asked questions

均匀先验与无信息先验相同吗？

不一定。均匀先验仅在所选尺度上是无信息的；在非线性重新参数化后，它会变得有信息，这就是为什么在客观分析中更倾向于使用基于不变性的先验（如杰弗里斯先验）。