×

关于Fisher-EM算法收敛特性的理论和实践考虑。 (英语) Zbl 1352.62099号

摘要:Fisher-EM算法最近在[作者,Stat.Compute.22,No.1,301-324(2012;Zbl 1322.62162号)]用于高维数据的同时可视化和聚类。它基于一个潜在的混合模型,该模型将数据拟合到一个具有低内在维数的潜在判别子空间中。尽管Fisher EM算法是基于EM算法的,但乍一看,它并不尊重EM收敛理论的所有条件。因此,它向可能性最大值的收敛是值得怀疑的。这项工作的目的是双重的。首先,从理论上研究了Fisher-EM算法的收敛性。特别地,在一般情况下,证明了算法在弱条件下收敛。其次,从实用的角度考虑了Fisher-EM算法的收敛性。结果表明,Fisher准则可以作为算法的停止准则,以提高聚类精度。结果还表明,Fisher-EM算法比EM和CEM算法收敛得更快。

MSC公司:

62H30型 分类和区分;聚类分析(统计方面)
10层62层 点估计
2012年12月62日 参数估计量的渐近性质
62甲12 多元分析中的估计
62H25个 因子分析和主成分;对应分析

软件:

PGMM公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部 哈尔

参考文献:

[1] 安德森,E.,《加斯佩半岛的虹膜》,《美国虹膜学会公报》,第59期,第2-5页(1935年)
[2] Baek,J。;McLachlan,G.J.,《因子分析仪与公共因子负载的混合:高维数据聚类和可视化的应用》,IEEE模式分析和机器智能汇刊(2009)
[3] Bellman,R.,《动态编程》(1957),普林斯顿大学出版社·Zbl 0077.13605号
[4] 比尔纳基,C。;Celeux,G。;Govaert,G.,为EM算法选择初始值以获得多元高斯混合模型中的最大似然,计算统计与数据分析,41,561-575(2003)·Zbl 1429.62235号
[5] Bouveyron,C。;Brunet,C.,《Fisher判别子空间中基于模型的同时聚类和可视化》,《统计与计算》,22,1,301-324(2012)·Zbl 1322.62162号
[6] Bouveyron,C。;Girard,S。;Schmid,C.,高维数据聚类,计算统计与数据分析,52,1,502-519(2007)·Zbl 1452.62433号
[7] Celeux,G。;Govaert,G.,用于聚类的分类EM算法和两种随机版本,计算统计和数据分析,14,315-332(1992)·兹比尔0937.62605
[8] Chang,W.C.,《在分离两个多元正态分布的混合物之前使用主成分》,《皇家统计学会杂志:C辑》,32,3,267-275(1983)·Zbl 0538.62050号
[9] Dempster,A。;莱尔德,N。;Robin,D.,通过EM算法从不完整数据中获取最大似然,《皇家统计学会杂志》,39,1,1-38(1977)·Zbl 0364.62022号
[10] Fisher,R.A.,《分类问题中多重测量的使用》,优生学年鉴,7179-188(1936)
[11] Foley,D.H。;Sammon,J.W.,最佳鉴别向量集,IEEE计算机学报,24281-289(1975)·Zbl 0296.68106号
[12] Fukunaga,K.,《统计模式识别导论》(1990),学术出版社:圣地亚哥学术出版社·Zbl 0711.62052号
[13] Lindsay,B.G.,《混合模型:理论、几何和应用》,(NSF-CBMS概率统计区域会议系列,第5卷(1995年),数理统计研究所)·Zbl 0434.62028号
[14] McLachlan,G.J。;皮,D。;Bean,R.,《利用因子分析仪混合建模高维数据》,计算统计与数据分析,41,379(2003)·Zbl 1256.62036号
[15] McNicholas,医学博士。;Murphy,T.B.,解析高斯混合模型,统计学与计算,18285-296(2008)
[16] McNicholas,医学博士。;Murphy,T.B.,通过潜在高斯混合模型对微阵列表达数据进行基于模型的聚类,生物信息学,26,21,2705-2712(2010)
[17] A.Montanari,C.Viroli,回归模型的降维混合,摘自:KNEMO电子会议,知识提取和建模,2006年。;A.Montanari,C.Viroli,回归模型的降维混合,载于:KNEMO电子会议,知识提取和建模,2006年·Zbl 1207.62145号
[18] Montanari,A。;Viroli,C.,异方差因子混合分析,统计建模,10,4,441-460(2010)·Zbl 07256833号
[19] 倾翻,E。;Bishop,C.,概率主成分分析仪的混合,神经计算,11,2,443-482(1999)
[20] Wu,C.,关于EM算法的收敛性,统计年鉴,1195-103(1983)·Zbl 0517.62035号
[21] R.Yoshida,T.Higuchi,S.Imoto,基因表达数据中群体结构降维和提取的混合因子模型,收录于:IEEE计算系统生物信息学会议,2004年第8卷,第161-172页。;R.Yoshida,T.Higuchi,S.Imoto,基因表达数据中群体结构降维和提取的混合因子模型,收录于:IEEE计算系统生物信息学会议,2004年第8卷,第161-172页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。