这篇讨论使用期望最大化算法(Expectation-Maximization)来进行密度估计(density estimation)。

      与k-means一样,给定的训练样本是

python 二维高斯拟合获取最大值点_多项式

,我们将隐含类别标签用python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_02表示。与k-means的硬指定不同,我们首先认为python 二维高斯拟合获取最大值点_多项式_03是满足一定的概率分布的,这里我们认为满足多项式分布,

python 二维高斯拟合获取最大值点_多项式_04

,其中

python 二维高斯拟合获取最大值点_最大似然估计_05

python 二维高斯拟合获取最大值点_最大似然估计_06有k个值{1,…,k}可以选取。而且我们认为在给定python 二维高斯拟合获取最大值点_最大似然估计_07后,python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_08满足多值高斯分布,即

python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_09

。由此可以得到联合分布

python 二维高斯拟合获取最大值点_多项式_10

      整个模型简单描述为对于每个样例python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_11,我们先从k个类别中按多项式分布抽取一个python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_12,然后根据python 二维高斯拟合获取最大值点_最大似然估计_13所对应的k个多值高斯分布中的一个生成样例python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_14,。整个过程称作混合高斯模型。注意的是这里的python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_15仍然是隐含随机变量。模型中还有三个变量

python 二维高斯拟合获取最大值点_协方差矩阵_16

python 二维高斯拟合获取最大值点_多项式_17。最大似然估计为

python 二维高斯拟合获取最大值点_最大似然估计_18

。对数化后如下:

     

python 二维高斯拟合获取最大值点_多项式_19

      这个式子的最大值是不能通过前面使用的求导数为0的方法解决的,因为求的结果不是close form。但是假设我们知道了每个样例的python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_20,那么上式可以简化为:

     

python 二维高斯拟合获取最大值点_最大似然估计_21

       这时候我们再来对

python 二维高斯拟合获取最大值点_协方差矩阵_22

python 二维高斯拟合获取最大值点_协方差矩阵_23进行求导得到:

     

python 二维高斯拟合获取最大值点_协方差矩阵_24

      python 二维高斯拟合获取最大值点_多项式_25就是样本类别中

python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_26

的比率。python 二维高斯拟合获取最大值点_协方差矩阵_27是类别为j的样本特征均值,python 二维高斯拟合获取最大值点_最大似然估计_28是类别为j的样例的特征的协方差矩阵。

实际上,当知道python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_29后,最大似然估计就近似于高斯判别分析模型(Gaussian discriminant analysis model)了。所不同的是GDA中类别y是伯努利分布,而这里的z是多项式分布,还有这里的每个样例都有不同的协方差矩阵,而GDA中认为只有一个。

      之前我们是假设给定了python 二维高斯拟合获取最大值点_协方差矩阵_30,实际上python 二维高斯拟合获取最大值点_协方差矩阵_31是不知道的。那么怎么办呢?考虑之前提到的EM的思想,第一步是猜测隐含类别变量z,第二步是更新其他参数,以获得最大的最大似然估计。用到这里就是:

循环下面步骤,直到收敛: {

      (E步)对于每一个i和j,计算

                 

python 二维高斯拟合获取最大值点_python 二维高斯拟合获取最大值点_32


      (M步),更新参数:

                 

python 二维高斯拟合获取最大值点_多项式_33


}

      在E步中,我们将其他参数

python 二维高斯拟合获取最大值点_多项式_34

看作常量,计算python 二维高斯拟合获取最大值点_最大似然估计_35的后验概率,也就是估计隐含类别变量。估计好后,利用上面的公式重新计算其他参数,计算好后发现最大化最大似然估计时,python 二维高斯拟合获取最大值点_多项式_36值又不对了,需要重新计算,周而复始,直至收敛。

      python 二维高斯拟合获取最大值点_多项式_37的具体计算公式如下:

     

python 二维高斯拟合获取最大值点_最大似然估计_38

      这个式子利用了贝叶斯公式。

      这里我们使用python 二维高斯拟合获取最大值点_最大似然估计_39代替了前面的

python 二维高斯拟合获取最大值点_协方差矩阵_40

,由简单的0/1值变成了概率值。

      对比K-means可以发现,这里使用了“软”指定,为每个样例分配的类别python 二维高斯拟合获取最大值点_多项式_41是有一定的概率的,同时计算量也变大了,每个样例i都要计算属于每一个类别j的概率。与K-means相同的是,结果仍然是局部最优解。对其他参数取不同的初始值进行多次计算不失为一种好方法。

      虽然之前再K-means中定性描述了EM的收敛性,仍然没有定量地给出,还有一般化EM的推导过程仍然没有给出。


from: