×

混合密度、最大似然和EM算法。 (英语) Zbl 0536.62021号

本文研究了具有混合比例(α1,…,αm)和混合pdf(p(x | Phi i)的有限混合物的参数估计问题,其中每个(Phi i。根据观测值是否可以部分或全部标记,考虑不同类型的采样方案。主要重点是获得强一致性和CAN估计量。
考虑了基于记分法的使用迭代解的MLE方法以及牛顿法的其他变体。MLE的主要问题是(i)log L可能在上面是无界的,(ii)log L可能具有几个局部最大值,甚至最大的一个可能不是唯一的。迭代过程本质上取决于Fisher信息矩阵或对数L的Hessian,后者通常具有较大的条件数,因此需要非常大的样本才能获得合理准确的估计。这可以通过两条法线的混合问题来说明。EM算法(EMA)首先由A.P.Dempster,N.M.LairdD.B.鲁宾[J.R.Stat.Soc.,Ser.B 39,1-38(1977;Zbl 0364.62022号)]在将其应用于混合物密度时进行了广泛的回顾,结果表明,在适当的条件下,可以保证EMA的收敛性,从而得到强一致的can估计。
EMA的应用是在(p(x | \Phi_ i))通常属于指数密度类的情况下考虑的,并对泊松分布、二项分布和多元正态分布的情况进行了说明。作者指出了EMA的一些不足,并建议开发一种混合EMA和牛顿方法或其变体的算法。这是一篇优秀的评论文章,会受到广大读者的赞赏。
审核人:B.K.Kale先生

MSC公司:

2012年12月62日 参数估计量的渐近性质
65C99个 概率方法,随机微分方程
65日第15天 函数逼近算法
65H10型 方程组解的数值计算
PDF格式BibTeX公司 XML格式引用
全文: 内政部