最后更新: 2025-12-20 11:05 查看: 94 次反馈能力测评会员8.2元/月赞助

连续型(狄利克雷Dirichlet 分布)

## 狄利克雷分布
应用背景：当你参加一个大型聚餐时，往往想去一桌人多的地方，也就是“聚集效应”；而自己去一张新的桌子的概率取决于“心情”($\alpha$,比如可能要帮别人占位置，那么$\alpha$较大，占新桌子的可能性也更大）

**狄利克雷分布**是一种＂分布的分布＂（a distribution on probability distribution），由两个参数 $\alpha, G_0$ 确定，即 $G \sim D P\left(\alpha, G_0\right), ~ \alpha$ 是分布参数（concentration or scaling parameter），其值越大，分布越接近于均匀分布，其值越小，分布越concentrated。 $G_0$ 是基分布（base distribution）。

我们可以通过图1来形象的理解DP，可以把DP想象成黑箱，输入分布 $G_0$ ，输出分布 $G$ ，而 $\alpha$ 控制输出的样子。

![图片](/uploads/2025-02/4abb5f.jpg)

**狄利克雷分布**（Dirichlet distribution）是一个随机变量连续多元随机分布，它是贝塔分布的多元一般化。它的支集是 $\left\{\left(x_1, \cdots, x_K\right): x_i \in\{0,1\} \forall i \in\{1, \cdots, k\}, \sum_{i=1}^K x_i=1\right\}$ 。对于 $K \geq 2$ ，一个参数为 $\alpha=\left(\alpha_1, \cdots, \alpha_K\right) \in R _{++}^K$ 的 $K$－阶狄利克雷分布随机变量的PDF是

我们有一组来源于混合高斯分布的数据集，希望对其进行聚类，然而我们并不知道这组数据是由几组高斯分布生成的（图1）。

![图片](/uploads/2025-02/4d8773.jpg)
 
问题特点

（1）聚类数量未知

（2）非参数化，即不确定参数，如果需要，参数数量可以变化

（3）聚类数量服从概率分布

$$
\begin{gathered}
f\left(x_1, \cdots, x_K\right)=\frac{1}{B(\alpha)} \prod_{i=1}^K x_i^{\alpha_i-1} \\
B(\alpha)=\frac{\prod_{i=1}^K \Gamma\left(\alpha_i\right)}{\Gamma\left(\alpha_0\right)}, \alpha_0=\sum_{i=1}^K \alpha_i \\
\Gamma\left(\alpha_i\right)=\int_0^{\infty} t^{\alpha_i-1} e^{-t} d t
\end{gathered}
$$

## 1. 定义与概率密度函数（PDF）
### （1）适用场景
若有一个**多项分布**的随机试验（结果分为 $K$ 类，每类的概率为 $\boldsymbol{p}=(p_1,p_2,\dots,p_K)$，满足 $\sum_{i=1}^K p_i=1$ 且 $p_i\ge0$），狄利克雷分布就是用来描述参数 $\boldsymbol{p}$ 的分布。

### （2）PDF公式
若 $K$ 维随机向量 $\boldsymbol{P}=(P_1,P_2,\dots,P_K)$ 服从**狄利克雷分布**，记为 $\boldsymbol{P}\sim\text{Dir}(\boldsymbol{\alpha})$，其中 $\boldsymbol{\alpha}=(\alpha_1,\alpha_2,\dots,\alpha_K)$ 是**浓度参数**（$\alpha_i>0$），则其概率密度函数为：
$$
f(\boldsymbol{p};\boldsymbol{\alpha}) =
\begin{cases}
\frac{1}{B(\boldsymbol{\alpha})} \prod_{i=1}^K p_i^{\alpha_i-1}, & \sum_{i=1}^K p_i=1,\;p_i\ge0 \\
0, & \text{其他}
\end{cases}
$$
其中：

免费注册查看余下70%

《高等数学》难点解析

高数教程 泰勒公式切线与法线切平面与法平面驻点·拐点·极值点·零点间断点渐进线瑕积分欧拉方程伯努利方程 Abel 收敛定理偏导数的几何意义偏导数的几何意义梯度数量场与向量场多元函数极值拉格朗日算子通量与散度环流量与旋度格林公式高斯公式斯托克斯公式三大公式比较傅里叶级数极坐标微元点法式方程变上限定积分 X型计算面积 Y型计算面积微分的意义渐近线间断点 y''+py'+qy=f(x)方程高斯黎曼傅里叶变换(复数) 拉普拉斯变换(复数)

高等数学测评 函数与极限一元函数微分学一元函数积分学微分方程空间向量与代数多元微分学多元积分学无穷级数

《线性代数》难点解析

线代教程 近世代数对数学的整体思考线性的意义矩阵乘法(列视角) 矩阵乘法(行视角) 矩阵左乘矩阵右乘逆矩阵求解方程组阶梯形矩阵的求法方程组解的判定四阶行列式的计算线性变换的意义线性空间向量组的等价线性空间的几何意义基础解系的求法施密特正交化特征值与特征向量的意义矩阵相似的几何意义矩阵可对角化的理解秩的意义(向量版) 秩的意义(方程版) 二次型的意义

线性代数测评 行列式矩阵向量空间

《概率论与数理统计》难点解析

概率教程 置信区间与上a分位数概率中的“取”与“放” 贝叶斯公式全概率公式泊松分布指数分布伽玛分布二维密度图的意义卷积的意义相关系数的意义 k阶矩是与矩母函数卡方分布的作用单正态区间估计理解假设检验理解切比雪夫不等式中心极限定理

概率统计测评 事件与概率一维随机变量与事件多维随机变量与事件随机变量的数字特征大数定律与中心极限定理统计量与抽样分布参数估计假设检验

上一篇：连续型(柯西分布Cauchy )

下一篇：连续型(幂律分布)

本文对您是否有用？有用 (0) 无用 (0)