×

PX-EM算法的线性预处理非线性共轭梯度加速。 (英语) Zbl 1510.62090号

摘要:EM算法是一种广泛应用于模态估计的算法,但经常因其收敛速度慢而受到批评。基于线性预处理非线性共轭梯度(PNCG)和PX-EM算法,提出了一种新的混合加速器APX-EM,用于加速EM算法的收敛。直观的想法是,PX-EM算法的每一步都可以像EM算法一样近似地看作一个广义梯度,然后可以使用线性PNCG方法来加速EM算法。从本质上讲,该方法是对AEM算法的调整,它通常通过牺牲一点简单性来获得比AEM算法更快的收敛速度。讨论了APX-EM算法的收敛性,包括该方法在适当条件下的全局收敛结果。该方法用于因子分析和随机效应模型。

MSC公司:

62-08 统计问题的计算方法
10层62层 点估计
62甲12 多元分析中的估计
62H25个 因子分析和主成分;对应分析
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] De Sterck,H。;Winlaw,M.,用于秩r正则张量近似的非线性预处理共轭梯度算法,数值。线性代数应用。,22, 3, 410-432 (2015) ·兹比尔1363.65041
[2] Dempster,A.P。;新墨西哥州莱尔德。;Rubin,D.B.,《通过EM算法从不完整数据中获得最大似然》,J.R.Stat.Soc.,39,1,1-38(1977)·Zbl 0364.62022号
[3] Hager,W。;张华,非线性共轭梯度法综述,太平洋。J.Optim。,2, 35-58 (2006) ·Zbl 1117.90048号
[4] 北卡罗来纳州亨德森。;Varadhan,R.,Damped Anderson加速,带重启和单调控制,用于加速EM和类EM算法,J.Compute。图表。统计学。,28, 4, 834-846 (2019) ·Zbl 07499030号
[5] Jamshidian,M。;Jennrich,R.I.,EM算法的共轭梯度加速,J.Amer。统计师。协会,88,421,221-228(1993)·Zbl 0775.65025号
[6] Jamshidian,M。;Jennrich,R.I.,《使用准Newton方法加速EM算法》,J.R.Stat.Soc.,59,3,569-587(1997)·Zbl 0889.62042号
[7] 新墨西哥州莱尔德。;兰格,N。;Stram,D.O.,《重复测量的最大似然计算:EM算法的应用》,J.Amer。统计师。协会,82,397,97-105(1987)·Zbl 0613.62063号
[8] 新墨西哥州莱尔德。;Ware,J.H.,纵向数据的随机效应模型,生物统计学,38,4,963-974(1982)·Zbl 0512.62107号
[9] Lewandowski,A。;刘,C。;Wiel,S.V.,《参数展开与有效推理》,Statist。科学。,25, 4, 533-544 (2010) ·Zbl 1329.62283号
[10] Lindstrom,M.J。;Bates,D.M.,重复测量数据线性混合效应模型的Newton-Raphson和EM算法,J.Amer。统计师。协会,83,404,1014-1022(1988)·Zbl 0671.65119号
[11] 刘,C。;Rubin,D.B.,《ECME算法:EM和ECM的简单扩展,具有更快的单调收敛性》,Biometrika,81,4,633-648(1994)·Zbl 0812.62028号
[12] 刘,C。;鲁宾,D.B。;Wu,Y.N.,加速EM的参数扩展:PX-EM算法,生物特征,85,4,755-770(1998)·Zbl 0921.62071号
[13] Louis,T.A.,《使用EM算法时发现观测信息矩阵》,J.R.Stat.Soc.Ser。B方法。,44, 2, 226-233 (1982) ·Zbl 0488.62018号
[14] 麦克拉克伦,G。;Krishnan,T.,《EM算法和扩展》(2007),John Wiley&Sons:John Willey&Sons Hoboken,新泽西州
[15] Meilijson,I.,《EM算法自身的快速改进》,J.R.Stat.Soc.,51,1,127-138(1989)·Zbl 0674.65118号
[16] 孟,X。;Rubin,D.B.,《通过ECM算法的最大似然估计:一般框架》,《生物特征识别》,80,2,267-278(1993)·Zbl 0778.62022号
[17] 孟,X。;Van Dyk,D.A.,《EM算法:一首用快速新曲演唱的古老民歌》,J.R.Stat.Soc.Ser。B统计方法。,59, 3, 511-567 (1997) ·Zbl 1090.62518号
[18] Nocedal,J。;Wright,S.J.,数值优化(2006),Springer:Springer New York·Zbl 1104.65059号
[19] Oakes,D.,通过EM直接计算信息矩阵,J.R.Stat.Soc.Ser。B统计方法。,61, 2, 479-482 (1999) ·Zbl 0913.62036号
[20] 鲁宾,D.B。;Thayer,D.T.,ML因子分析的EM算法,《心理测量学》,47,1,69-76(1982)·Zbl 0483.62046号
[21] van Dyk,D.A.,《使用高效EM型算法拟合混合效应模型》,J.Compute。图表。统计学。,9, 1, 78-98 (2000)
[22] van Dyk,医学博士。;Tang,R.,一步法PXEM算法,统计计算。,13, 2, 137-152 (2003)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。