连续时间马尔可夫链
连续时间马尔可夫链在离散状态集之间以随机时间移动,在根据固定转移率跳跃之前,每个状态都保持指数分布的持续时间。
用 PaperMind 寻找选题即将推出Find papers & topics
Tools & resources
Learn & explore
视频即将推出
Definition
连续时间马尔可夫链是一个在可数状态空间上由连续时间索引的随机过程,其未来在给定现在的情况下独立于过去,其特征是由转移率的生成矩阵定义,使得停留时间呈指数分布,并且跳跃遵循嵌入链。
Scope
该领域涵盖了停留时间(holding-time)和跳跃链(jump-chain)描述、无穷小生成元(infinitesimal generator)和转移率、柯尔莫哥洛夫前向和后向微分方程、平稳分布和可逆性、生灭过程,以及从其嵌入的离散时间跳跃链构建链。
Sub-topics
Core questions
- 指数停留时间(exponential holding times)和跳跃概率如何定义连续时间链?
- 什么是生成矩阵,它如何编码转移率?
- 柯尔莫哥洛夫前向和后向方程如何描述转移概率的演变?
- 连续时间链何时拥有平稳分布?
Key theories
- 生成元和柯尔莫哥洛夫方程
- 无穷小生成元收集瞬时转移率,转移概率矩阵求解前向和后向柯尔莫哥洛夫微分方程,以生成元的矩阵指数形式给出时间演化。
- 跳跃链和停留时间构建
- 连续时间链由嵌入的离散时间跳跃链构建,该跳跃链选择连续状态和独立的指数停留时间,其速率取决于当前状态,从而将链的去向与移动时间分开。
Clinical relevance
连续时间马尔可夫链模拟排队系统、化学反应网络、种群动态、流行病传播和多组件系统的可靠性,提供可处理的连续时间描述,其平衡和瞬态行为可以从生成元计算得出。
History
柯尔莫哥洛夫1931年关于概率分析方法的论文引入了控制转移概率的微分方程,费勒在20世纪30年代和40年代的工作阐明了连续时间链的构建和“爆炸”(explosion)行为,建立了当今使用的基于生成元的理论。
Key figures
- Andrey Kolmogorov
- William Feller
- Alfred Lotka
Related topics
Seminal works
- norris1997
Frequently asked questions
- 连续时间马尔可夫链与离散时间马尔可夫链有何不同?
- 转移发生在随机的连续时间而不是固定的步长;链在每个状态停留指数时间然后跳跃,其动态由转移率而非一步概率矩阵控制。
- 什么是无穷小生成元?
- 它是一个转移率矩阵,其非对角线元素给出状态之间跳跃的速率,其行和为零;随时间的转移概率是生成元乘以经过时间的矩阵指数。