方差缩减技术
方差缩减技术是降低蒙特卡洛估计量抽样方差的方法，使得在比朴素抽样所需更少的模拟抽取次数下达到目标精度。
用 PaperMind 寻找选题即将推出Find papers & topics
Tools & resources
Learn & explore
视频即将推出
Definition
方差缩减技术是对蒙特卡洛抽样方案或估计量的修改，旨在减少所得估计量的方差，同时保持其对相同目标量的无偏性或一致性。
Scope
本主题涵盖了主要的经典方案：公共随机数和对偶随机数、控制变量、作为方差缩减手段的重点抽样、分层抽样和拉丁超立方体抽样，以及条件化（Rao-Blackwellization）。重点在于估计量方差的无偏缩减以及每种方案何时有效。
Core questions
- 对偶随机数和公共随机数如何利用相关性来抵消方差？
- 控制变量如何使用已知均值的相关量来调整估计量？
- 为什么通过重点抽样对样本进行重新加权可以减少方差，以及何时会适得其反？
- 分层和条件化如何降低方差，以及它们的代价是什么？
Key concepts
- 对偶变量
- 控制变量
- 公共随机数
- 分层抽样
- Rao-Blackwellization
- 有效样本量
Key theories
- 基于相关性的缩减
- 对偶变量在配对抽取之间引入负相关，控制变量减去一个具有已知期望的相关量；两者都按所利用相关性的强度比例减少方差。
- 重新加权和分层
- 重点抽样通过测度变换将模拟工作转移到有影响的区域，而分层和拉丁超立方体设计则将抽取均匀分布在输入空间中；当与被积函数匹配时，每种方法都能显著降低方差。
Clinical relevance
方差缩减使得大规模模拟研究、稀有事件估计和昂贵的贝叶斯计算变得可行：通过减少给定精度所需的抽取次数，它缩短了计算时间，而像公共随机数这样的技术则能提高竞争系统或估计量之间比较的精确度。
History
经典的方差缩减工具包（对偶变量、控制变量、重点抽样、分层）是在二十世纪中叶与首批大规模蒙特卡洛应用同时开发的，后来在统计模拟文献中与Rao-Blackwellization等条件化思想相结合。
Key figures
- Christian P. Robert
- George Casella
- John M. Hammersley
Related topics
Seminal works
- robert2004
- givens2013
Frequently asked questions
- 方差缩减技术会改变被估计的量吗？
- 不会。如果应用得当，它们会针对相同的期望，并保持无偏或一致；它们只是重新安排了随机性进入的方式，使得估计量围绕真实值的波动更小。
- 方差缩减技术会使情况变得更糟吗？
- 会的。与被积函数弱相关的控制变量，或者与目标不匹配的重点密度，都可能增加方差。收益取决于技术与问题结构的匹配程度。