切换科目
重点科目
主要科目
次要科目
科数网
首页
刷题
学习
VIP会员
赞助
组卷
集合
教材
VIP
写作
游客,
登录
注册
在线学习
随机过程及其应用
第五篇 马尔可夫链
平稳分布
最后
更新:
2025-07-14 17:17
查看:
65
次
反馈
能力测评
会员8.2元/月
赞助
平稳分布
前面我们只讨论了马氏链的转移概率 $p_{i j}$ 的有关问题,下面我们将就它的初始分布的问题给出一些结论.首先是关于马氏链的平稳分布和极限分布的概念。 定义5.12对于马氏链,概率分布 $\left\{p_j, j \in S\right\}$ 称为平稳分布,若 $$ p_j=\sum_{i \in S} p_i p_{i j}, \forall j \in S $$ 平稳分布又称不变分布。 记 $\pi =\left(p_1, p_2, \ldots\right)^T$ ,则平稳分布 $\pi$ 必须满足 $$ \pi ^T P= \pi ^T, \quad \pi ^T 1 =1 $$ 若马氏链的初始分布 $P\left\{X_0=j\right\}=p_j$ 是平稳分布,则 $X_1$ 的分布将是 $$ \begin{aligned} P\left\{X_1=j\right\} & =\sum_{i \in S} P\left\{X_1=j \mid X_0=i\right\} \cdot P\left\{X_0=i\right\} \\ & =\sum_{i \in S} p_{i j} p_i=p_j, \forall j \in S \end{aligned} $$ 这与 $X_0$ 的分布是相同的,依次递推可知 $X_n, n=0,1,2,3, \ldots$ 将有相同的分布,这也是为什么称 $\left\{p_i, i \in S\right\}$ 为平稳分布的原因.易见 $$ \pi ^T P^n= \pi ^T, n \geq 1 $$ 定理5.11 设马氏链 $\left\{X_n, n \geq 0\right\}$ 有平稳分布 $\pi$ ,且 $X_0 \sim \pi$ ,则 $\left\{X_n\right\}$ 是严平稳的随机过程。 证明:这时每一个 $X_n$ 的边缘分布都是 $\pi$ ,于是由定理5.2, $$ P\left(X_0=i_0, X_1=i_1, \ldots, X_n=i_n\right)=\pi_{i_0} p_{i_0 i_1} p_{i_1 i_2} \ldots p_{i_{n-1} i_n} $$ 同理有 $m \geq 0$ 时 $$ P\left(X_m=i_0, X_{m+1}=i_1, \ldots, X_{m+n}=i_n\right)=\pi_{i_0} p_{i_0 i_1} p_{i_1 i_2} \ldots p_{i_{n-1} i_n} $$ 因此 $\left\{X_n, n \geq 0\right\}$ 是严平稳的。 定义5.13 称马氏链是遍历的,如果所有状态不可约、非周期、正常返.对于遍历的马氏链,极限 $$ \lim _{n \rightarrow \infty} p_{i j}^{(n)}=\pi_j=\frac{1}{\mu_j}, \quad j \in S $$ 称为马氏链的极限分布。 定义中极限 $\pi_j=\frac{1}{\mu_j}$ ,是利用了定理5.8.此定理说明,对于遍历链,不论从那个状态开始,当 $n$ 充分大时,对任意 $n, ~ X_n$ 都有正概率处于状态 $j, ~ j$ 也是任意状态;$X_n$ 处于状态 $j$ 的概率为正值 $\frac{1}{\mu_j}$ 。这给出了"遍历"这一术语的解释,即系统在长时间运行中可以在任意时间到达任意状态。 下面的定理说明对于遍历的马氏链,极限分布就是平稳分布并且还是唯一的平稳分布. 定理5.12(1)对于遍历马氏链,$\pi_j=\lim _{n \rightarrow \infty} p_{i j}^{(n)}=\frac{1}{\mu_j}>0(j \in S)$ 是平稳分布且是唯一的平稳分布; (2)若马氏链所有状态都是非常返或零常返的,则平稳分布不存在. 证明:(1)对遍历的马氏链,由定理5.8知 $$ \lim _{n \rightarrow \infty} p_{i j}^{(n)}=\frac{1}{\mu_j}>0 $$ 记为 $\pi_j$ .于是极限分布存在(极限分布存在则必唯一)。 先证明 $\left\{\pi_j, j \in S\right\}$ 是平稳分布,然后再来证明它是唯一的平稳分布。这里仅给出有限链时的证明,状态个数无限的链在证明时涉及到级数与极限交换次序,需要较复杂的讨论,见5.7.2。 由于 $$ \sum_{j \in S} p_{i j}^{(n)}=1 $$ 则有 $$ \lim _{n \rightarrow \infty} \sum_{j \in S} p_{i j}^{(n)}=1 $$ 当 $S$ 为有限状态时极限与求和可交换。于是有 $$ \sum_{j \in S} \pi_j=1 $$ 利用C-K方程得 $$ p_{i j}^{(n+1)}=\sum_{k \in S} p_{i k}^{(n)} p_{k j} $$ 两边取极限,若 $S$ 为有限状态则极限与求和可交换,于是 $$ \lim _{n \rightarrow \infty} p_{i j}^{(n+1)}=\lim _{n \rightarrow \infty} \sum_{k \in S} p_{i k}^{(n)} p_{k j}=\sum_{k \in S}\left(\lim _{n \rightarrow \infty} p_{i k}^{(n)}\right) p_{k j} $$ 即 $\pi_j=\sum_{k \in S} \pi_k p_{k j}$ ,从而 $\left\{\pi_j, j \in S\right\}$ 是平稳分布. 再证 $\left\{\pi_j, j \in S\right\}$ 是唯一的平稳分布.假设另外还有一个平稳分布 $\left\{\tilde{\pi}_j, j \in S\right\}$ ,则由 $$ \tilde{\pi}_j=\sum_{k \in S} \tilde{\pi}_k p_{k j} $$ 归纳得到 $$ \tilde{\pi}_j=\sum_{k \in S} \tilde{\pi}_k p_{k j}^{(n)}, \quad n=1,2, \ldots $$ 令 $n \rightarrow \infty$ ,若 $S$ 为有限状态则极限与求和可交换,有 $$ \begin{aligned} \tilde{\pi}_j & =\sum_{i \in S} \tilde{\pi}_i \lim _{n \rightarrow \infty} p_{i j}^{(n)} \\ & =\sum_{i \in S} \tilde{\pi}_i \cdot \pi_j=\pi_j \cdot \sum_{i \in S} \tilde{\pi}_i=\pi_j, \forall j \in S \
免费注册 查看余下70%
《高等数学》难点解析
高数教程
泰勒公式
切线与法线
切平面与法平面
驻点·拐点·极值点·零点
间断点
渐进线
瑕积分
欧拉方程
伯努利方程
Abel 收敛定理
偏导数的几何意义
偏导数的几何意义
梯度
数量场与向量场
多元函数极值
拉格朗日算子
通量与散度
环流量与旋度
格林公式
高斯公式
斯托克斯公式
三大公式比较
傅里叶级数
极坐标微元
点法式方程
变上限定积分
X型计算面积
Y型计算面积
微分的意义
渐近线
间断点
y''+py'+qy=f(x)方程
高斯
黎曼
傅里叶变换(复数)
拉普拉斯变换(复数)
高等数学测评
函数与极限
一元函数微分学
一元函数积分学
微分方程
空间向量与代数
多元微分学
多元积分学
无穷级数
《线性代数》难点解析
线代教程
近世代数对数学的整体思考
线性的意义
矩阵乘法(列视角)
矩阵乘法(行视角)
矩阵左乘
矩阵右乘
逆矩阵求解方程组
阶梯形矩阵的求法
方程组解的判定
四阶行列式的计算
线性变换的意义
线性空间
向量组的等价
线性空间的几何意义
基础解系的求法
施密特正交化
特征值与特征向量的意义
矩阵相似的几何意义
矩阵可对角化的理解
秩的意义(向量版)
秩的意义(方程版)
二次型的意义
线性代数测评
行列式
矩阵
向量空间
《概率论与数理统计》难点解析
概率教程
置信区间与上a分位数
概率中的“取”与“放”
贝叶斯公式
全概率公式
泊松分布
指数分布
伽玛分布
二维密度图的意义
卷积的意义
相关系数的意义
k阶矩是与矩母函数
卡方分布的作用
单正态区间估计理解
假设检验理解
切比雪夫不等式
中心极限定理
概率统计测评
事件与概率
一维随机变量与事件
多维随机变量与事件
随机变量的数字特征
大数定律与中心极限定理
统计量与抽样分布
参数估计
假设检验
上一篇:
马尔科夫极限定理
下一篇:
平稳可逆分布
本文对您是否有用?
有用
(
0
)
无用
(
0
)
学习首页
数学试卷
同步训练
投稿
会议预约系统
数学公式
关于
Mathhub
赞助我们
科数网是专业专业的数学网站 版权所有
本站部分教程采用AI制作,请读者自行判别内容是否一定准确
如果页面无法显示请联系 18155261033 或 983506039@qq.com