切换科目
重点科目
主要科目
次要科目
科数网
首页
刷题
学习
VIP会员
赞助
组卷
集合
教材
VIP
写作
游客,
登录
注册
在线学习
随机过程及其应用
第五篇 马尔可夫链
Kolmogorov微分方程
最后
更新:
2025-07-15 16:53
查看:
30
次
反馈
能力测评
会员8.2元/月
赞助
Kolmogorov微分方程
5.5.5 Kolmogorov微分方程 为了简单起见,设状态空间为 $S=\{1,2, \ldots, n, \ldots\}$ ,下面的定理说明在一定条件下 $Q$ 矩阵可以决定转移概率矩阵函数 $P(t)$ 。 定理5.25(Kolmogorov微分方程)设连续时间马氏链 $\{X(t), t \geq 0\}$ 的Q矩阵是保守的,即 $$ \sum_{j \neq i} q_{i j}=-q_{i i}<\infty, \forall i \in S $$ 则对一切 $i, j \in S$ 和 $t \geq 0$ ,有 (1)向后方程: $$ p_{i j}^{\prime}(t)=\sum_{k \neq i} q_{i k} p_{k j}(t)-q_i p_{i j}(t)=\sum_{k \in S} q_{i k} p_{k j}(t) $$ 写成矩阵形式即 $$ P^{\prime}(t)=Q P(t) $$ (2)在适当的正则条件下,有向前方程: $$ p_{i j}^{\prime}(t)=\sum_{k \neq j} p_{i k}(t) q_{k j} p_{i j}(t) q_j=\sum_{k \in S} p_{i k}(t) q_{k j} $$ 写成矩阵形式即 $$ P^{\prime}(t)=P(t) Q $$ 证明: (1)这里只给出有限链时的证明,无限链时向后方程的证明见5.7.4。 由连续时间马氏链的C-K方程有 $$ p_{i j}(t+h)=\sum_{k \in S} p_{i k}(h) p_{k j}(t) $$ 或等价地 $$ p_{i j}(t+h)-p_{i j}(t) p_{i i}(h)=\sum_{k \neq i} p_{i k}(h) p_{k j}(t) $$ 变形为 $$ p_{i j}(t+h)-p_{i j}(t)=\sum_{k \neq i} p_{i k}(h) p_{k j}(t)+\left(p_{i i}(h)-1\right) p_{i j}(t) . $$ 于是 $$ \begin{aligned} & \lim _{h \rightarrow 0} \frac{p_{i j}(t+h)-p_{i j}(t)}{h} \\ = & \lim _{h \rightarrow 0} \sum_{k \neq i} \frac{p_{i k}(h)}{h} p_{k j}(t)+\lim _{h \rightarrow 0} \frac{p_{i i}(h)-1}{h} p_{i j}(t) \\ = & \sum_{k \neq i} q_{i k} p_{k j}(t)+q_{i i} p_{i j}(t) \\ = & p_{i j}^{\prime}(t) \end{aligned} $$ 注意上面极限和求和交换次序在 $S$ 有限时一定可交换,在无限链时要进行更复杂的讨论。 (2)在(1)中计算 $t+h$ 的状态时是对退后 $t$ 时长到时刻 $h$ 的状态来取条件的(所以称为后退方程),这里我们考虑对从时刻 0 前进 $t$ 时长到达时刻 $t$ 的状态取条件,用C-K方程 $$ p_{i j}(t+h)=\sum_{k \in S} p_{i k}(t) p_{k j}(h) $$ 同理得到 $$ \begin{aligned} & \lim _{h \rightarrow 0} \frac{p_{i j}(t+h)-p_{i j}(t)}{h} \\ = & \lim _{h \rightarrow 0}\left[\sum_{k \neq j} p_{i k}(t) \frac{p_{k j}(h)}{h}+\frac{p_{j j}(h)-1}{h} p_{i j}(t)\right] . \end{aligned} $$ 对有限链,上式中极限与求和号可交换,即向前方程成立。 如果是无限链,极限与求和不一定能交换次序,需要添加额外的数学条件。 对有限链,给定 $Q$ 矩阵后有 $$ P(t)=e^{t Q}=\sum_{k=0}^{\infty} \frac{t^k}{k!} Q^k, \quad P^{\prime}(0)=Q $$ 对不可约有限链的极限分布由如下结果: 定理5.26 设 $\{X(t), t \geq 0\}$ 是状态有限的连续时间不可约马氏链,则极限分布存在: $$ p_j=\lim _{t \rightarrow \infty} P(X(t)=j), \forall j \in S $$ 且极限分布是唯一的平稳分布,即: $$ p_j=\sum_{i \in S} p_i p_{i j}(t), \forall t>0 $$ 且 $\left\{p_j\right\}$ 满足 $$ p_j q_j=\sum_{k \neq j} p_k q_{k j} $$ 见(林元烈 2002)P.231定理6.3.4。 例5.31(泊松过程)利用Kolmogorov微分方程推导泊松过程的转移概率。 由泊松过程的等价定义, $$ \begin{cases}p_{k, j}(h)=0, & j<k \\ p_{k, j}(h)=o(h), & j-k \geq 2 \\ p_{k, k+1}(h)=\lambda h+o(h) ; & \\ p_{k, k}(h)=1-\lambda h+o(h) & \end{cases} $$ 于是 $$ \left\{\begin{array}{l} q_{k j}=0, \quad j<k \text { 或 } j \geq k+2 ; \\ q_{k, k+1}=\lim _{h \rightarrow 0} \frac{p_{k, k+1}(h)}{h}=\lambda ; \\ q_{k k}=\lim _{h \rightarrow 0} \frac{1-p_{k, k}(h)}{h}=\lambda . \end{array}\right. $$ 利用Kolmogorov向后方程, $$ p_{i j}^{\prime}(t)=\sum_{k \neq i} q_{i k} p_{k j}(t)-q_{i i} p_{i j}(t) $$ 上式求和中仅 $k=i+1$ 的项非零,故 $$ \begin{aligned} p_{i j}^{\prime}(t) & =q_{i, i+1} p_{i+1, j}(t)-q_{i i} p_{i j}(t) \\ & =\lambda p_{i+1, j}(t)-\lambda p_{i j}(t) \end{aligned} $$ 因为 $p_{i j
免费注册 查看余下70%
《高等数学》难点解析
高数教程
泰勒公式
切线与法线
切平面与法平面
驻点·拐点·极值点·零点
间断点
渐进线
瑕积分
欧拉方程
伯努利方程
Abel 收敛定理
偏导数的几何意义
偏导数的几何意义
梯度
数量场与向量场
多元函数极值
拉格朗日算子
通量与散度
环流量与旋度
格林公式
高斯公式
斯托克斯公式
三大公式比较
傅里叶级数
极坐标微元
点法式方程
变上限定积分
X型计算面积
Y型计算面积
微分的意义
渐近线
间断点
y''+py'+qy=f(x)方程
高斯
黎曼
傅里叶变换(复数)
拉普拉斯变换(复数)
高等数学测评
函数与极限
一元函数微分学
一元函数积分学
微分方程
空间向量与代数
多元微分学
多元积分学
无穷级数
《线性代数》难点解析
线代教程
近世代数对数学的整体思考
线性的意义
矩阵乘法(列视角)
矩阵乘法(行视角)
矩阵左乘
矩阵右乘
逆矩阵求解方程组
阶梯形矩阵的求法
方程组解的判定
四阶行列式的计算
线性变换的意义
线性空间
向量组的等价
线性空间的几何意义
基础解系的求法
施密特正交化
特征值与特征向量的意义
矩阵相似的几何意义
矩阵可对角化的理解
秩的意义(向量版)
秩的意义(方程版)
二次型的意义
线性代数测评
行列式
矩阵
向量空间
《概率论与数理统计》难点解析
概率教程
置信区间与上a分位数
概率中的“取”与“放”
贝叶斯公式
全概率公式
泊松分布
指数分布
伽玛分布
二维密度图的意义
卷积的意义
相关系数的意义
k阶矩是与矩母函数
卡方分布的作用
单正态区间估计理解
假设检验理解
切比雪夫不等式
中心极限定理
概率统计测评
事件与概率
一维随机变量与事件
多维随机变量与事件
随机变量的数字特征
大数定律与中心极限定理
统计量与抽样分布
参数估计
假设检验
上一篇:
转移速率矩阵
下一篇:
连续时间连续状态的马氏过程
本文对您是否有用?
有用
(
0
)
无用
(
0
)
学习首页
数学试卷
同步训练
投稿
会议预约系统
数学公式
关于
Mathhub
赞助我们
科数网是专业专业的数学网站 版权所有
本站部分教程采用AI制作,请读者自行判别内容是否一定准确
如果页面无法显示请联系 18155261033 或 983506039@qq.com