Machine learning 高斯混合模型中的参数个数

我有K个分量的D维数据。 如果我使用具有完全协方差矩阵的模型，有多少个参数？ 如果我使用三角协方差矩阵，会有多少？

答案是

简单地做数学题

对于您拥有的每种高斯分布：
1.对称全DxD协方差矩阵，给出

（D*D-D）/2+D

参数（

（D*D-D）/2

是非对角元素的数量，

D

是对角元素的数量）
2.D维平均向量，给出

D

参数
3.给出另一个参数的混合权重

这导致每个高斯分布的Df=（D*D-D）/2+2D+1。
如果有K个组件，那么就有了

K*Df

参数

在对角情况下，协方差矩阵参数减少到

D

，因为不存在非对角元素。
因此，at的回答将产生

Df=2D+1

简单地做数学题

对于您拥有的每种高斯分布：
1.对称全DxD协方差矩阵，给出

（D*D-D）/2+D

参数（

（D*D-D）/2

是非对角元素的数量，

D

是对角元素的数量）
2.D维平均向量，给出

D

参数
3.给出另一个参数的混合权重

这导致每个高斯分布的Df=（D*D-D）/2+2D+1。
如果有K个组件，那么就有了

K*Df

参数

在对角情况下，协方差矩阵参数减少到

D

，因为不存在非对角元素。
从而产生

Df=2D+1