平稳分布与遍历性
平稳分布是马尔可夫链在状态空间上的概率分布,它在一步演化后保持不变。在温和条件下,马尔可夫链会“忘记”其起始点并收敛到这个平衡状态,其时间平均值与空间平均值相匹配。
用 PaperMind 寻找选题即将推出Find papers & topics
Tools & resources
Learn & explore
视频即将推出
Definition
马尔可夫链的平稳分布是指在链的一次演化下保持不变的状态概率分布;当马尔可夫链从任何起始状态出发,其分布都收敛到这个平稳分布,并且其时间平均值收敛到平稳期望值时,该链是遍历的。
Scope
本主题涵盖平稳分布和不变分布,以及它们在不可约正常返链中的存在性和唯一性;非周期性在收敛中的作用;细致平衡和可逆性;马尔可夫链遍历定理,它将长期时间平均值与平稳期望值等同起来;收敛到平衡的速度和混合时间;以及这些思想在马尔可夫链蒙特卡罗方法中的应用。
Core questions
- 马尔可夫链何时拥有唯一的平稳分布?
- 在什么条件下,马尔可夫链的分布会收敛到该平稳分布?
- 什么是细致平衡?可逆性如何简化平稳分布的寻找?
- 长期时间平均值与平稳分布下的平均值有何关系?
Key concepts
- 平稳分布
- 不可约性和非周期性
- 细致平衡
- 遍历定理
- 混合时间
Key theories
- 平稳性的存在性、唯一性和收敛性
- 一个不可约的正常返马尔可夫链具有唯一的平稳分布,该分布由平均返回时间的倒数给出;如果该链也是非周期的,则状态的分布会从每个起始点收敛到该分布。
- 马尔可夫链遍历定理
- 对于一个不可约的正常返链,状态函数的长期平均值几乎必然收敛到其在平稳分布下的期望值,这是依赖马尔可夫数据的大数定律的类比。
- 细致平衡与可逆性
- 如果一个分布与转移概率满足细致平衡,即任意两个状态之间的流量在两个方向上平衡,那么该分布是平稳的,并且该链是可逆的,这是一个被用于设计马尔可夫链蒙特卡罗采样器的条件。
Clinical relevance
这些结果是马尔可夫链蒙特卡罗方法(Markov chain Monte Carlo)的理论引擎,在该方法中,马尔可夫链被设计成以目标分布作为其平稳律,从而使其样本近似该分布;混合时间界限告诉实践者运行此类模拟所需的时间;同样的理论也支配着平衡队列长度和稳态可靠性。
History
马尔可夫链的平衡理论源于马尔可夫的原始工作,并由杜布(Doob)、费勒(Feller)等人以现代形式确立。随着1953年梅特罗波利斯(Metropolis)算法和1970年哈斯廷斯(Hastings)的推广,其应用重要性急剧增加,这使得收敛到平稳分布成为一种实用的计算方法。
Key figures
- Andrey Markov
- Nicholas Metropolis
- Wilfred Keith Hastings
- Sean Meyn
Related topics
Seminal works
- norris1997
Frequently asked questions
- 每条马尔可夫链都会收敛到平稳分布吗?
- 不是;收敛需要不可约性、正常返和非周期性等条件。周期性链可能会循环而不稳定,而瞬态或零常返链可能根本没有平稳分布。
- 可逆性在实践中为什么有用?
- 通过细致平衡实现的可逆性提供了一个候选平稳分布必须满足的简单方程,这既使得平稳分布易于验证,也为Metropolis-Hastings算法和许多其他马尔可夫链蒙特卡罗算法提供了设计原理。