×

具有秩上限的鲁棒主成分分析的快速算法。 (英语) Zbl 1468.65074号

摘要:稳健主成分分析(RPCA)将数据矩阵分解为低秩部分和稀疏部分。RPCA主要有两种算法。第一类算法对矩阵的奇异值应用正则化项以获得低秩矩阵。然而,对于大型矩阵,计算奇异值可能非常昂贵。第二类算法将低秩矩阵替换为两个小矩阵的乘法。它们比第一种类型更快,因为不需要奇异值分解(SVD)。然而,需要低秩矩阵的秩,并且需要精确的秩估计才能获得合理的解。在本文中,我们提出了结合这两种类型的算法。我们提出的算法需要小矩阵的秩和奇异值分解的上界。首先,它们比第一种类型更快,因为小矩阵上奇异值分解的成本可以忽略不计。其次,它们比第二种类型更健壮,因为需要秩的上界而不是确切的秩。此外,我们应用高斯-奈顿方法来提高算法的速度。数值实验表明,我们提出的算法具有更好的性能。

MSC公司:

65千5 数值数学规划方法
90C26型 非凸规划,全局优化
62H25个 因子分析和主成分;对应分析
65层50 稀疏矩阵的计算方法
65层55 低阶矩阵逼近的数值方法;矩阵压缩
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] E.阿马尔迪;V.Kann,关于线性系统中最小化非零变量或未满足关系的逼近性,理论计算机科学,209237-260(1998)·Zbl 0915.68072号 ·doi:10.1016/S0304-3975(97)00115-1
[2] T.布曼;E.H.Zahzah,《通过主成分追求实现稳健主成分分析:视频监控对比评估综述》,《计算机视觉和图像理解》,122,22-34(2014)
[3] 蔡洪平;蔡建富;K.Wei,稳健主成分分析的加速交替预测,机器学习研究杂志,20,685-717(2019)·Zbl 1483.62098号
[4] E.J.Candès;十、李;马云(Y.Ma);J.Wright,鲁棒主成分分析?,ACM期刊(JACM),58,1-37(2011)·Zbl 1327.62369号 ·数字对象标识代码:10.1145/1970392.1970395
[5] R.Chartrand,《通过非凸最小化精确重建稀疏信号》,IEEE Signal Processing Letters,14707-710(2007)·doi:10.10109/LSP.2007.898300
[6] J.P.坎宁安;Z.Ghahramani,《线性降维:调查、洞察和概括》,《机器学习研究杂志》,第16期,第2859-2900页(2015年)·Zbl 1351.62123号
[7] J.F.P.Da Costa;H.阿隆索;L.Roque,加权主成分分析及其在基因表达数据中的应用,IEEE/ACM计算生物学和生物信息学汇刊,8246-252(2009)
[8] F.De la Torre和M.J.Black,计算机视觉的稳健主成分分析第八届IEEE计算机视觉国际会议论文集。ICCV 2001第1卷,IEEE,2001,362-369。
[9] E.Elhamifar;R.Vidal,《稀疏子空间聚类:算法、理论和应用》,IEEE模式分析和机器智能事务,352765-2781(2013)·doi:10.1109/TPAMI.2013.57
[10] J.Fan;R.Li,基于非一致惩罚似然的变量选择及其预言性质,美国统计协会杂志,961348-1360(2001)·Zbl 1073.62547号 ·doi:10.1198/016214501753382273
[11] X.-L.黄;石磊;M.Yan,稀疏逼近的非凸排序最小化,中国运筹学会学报,3207-229(2015)·Zbl 1319.49050号 ·doi:10.1007/s40305-014-0069-4
[12] X.-L.黄;石磊;M.Yan,稀疏逼近的非凸排序最小化,中国运筹学会学报,3207-229(2015)·Zbl 1330.90087号 ·doi:10.1007/s40305-014-0069-4
[13] G.李;T.K.Pong,非凸组合优化分裂方法的全局收敛性,SIAM优化杂志,252434-2460(2015)·Zbl 1330.90087号 ·doi:10.1137/140998135
[14] H.Li和Z.Lin,非凸规划的加速近似梯度法,in神经信息处理系统的研究进展, 2015, 379-387.
[15] Z.Lin,M.Chen和Y.Ma,精确恢复受损低秩矩阵的增广拉格朗日乘子方法。2010年,arXiv预印本arXiv:1009.5055,(2010),663-670。
[16] G.刘;Z.Lin;S.Yan;J.Sun;Y.余;Y.Ma,通过低秩表示实现子空间结构的稳健恢复,IEEE模式分析和机器智能汇刊,35171-184(2012)·兹比尔1321.65060 ·数字对象标识代码:10.1137/140971464
[17] 十、刘;Z.Wen;Y.Zhang,对称低秩乘积矩阵逼近的一种高效Gauss-Newton算法,SIAM优化杂志,251571-1608(2015)·Zbl 1390.90447号 ·数字对象标识代码:10.1137/140971464
[18] Y.Lou;M.Yan,通过近端算子实现快速l1-l2最小化,《科学计算杂志》,74767-785(2018)·Zbl 1390.90447号 ·doi:10.1007/s10915-017-0463-2
[19] N.Sha,M.Yan和Y.Lin,使用稳健主成分分析的高效地震去噪技术勘探地球物理学家学会2019年SEG技术计划扩展摘要, 2019, 2543-2547. ·Zbl 1436.65071号 ·网址:10.1080/10556788.2018.1496086
[20] 沈毅;H.Xu;X.Liu,稳健主成分分析的交替最小化方法,优化方法和软件,341251-1276(2019)·Zbl 1218.90115号 ·网址:10.1080/10556788.2018.1496086
[21] 陶喆;X.Yuan,从不完全和噪声观测中恢复矩阵的低秩和稀疏分量,SIAM优化杂志,21,57-81(2011)·Zbl 1218.90115号 ·数字对象标识代码:10.1137/100781894
[22] L.N.Trefethen和D.Bauá,数值线性代数,第50卷,SIAM,1997年·Zbl 07123440号 ·doi:10.1109/TSP.2019.2940121
[23] F.Wen;R.Ying;P.Liu;T.-K.Truong,使用近端块坐标下降算法的非凸正则鲁棒PCA,IEEE信号处理事务,675402-5416(2019)·Zbl 1271.65083号 ·doi:10.1109/TSP.2019.2940121
[24] Z.Wen;尹伟;Y.Zhang,用非线性逐次过松弛算法求解矩阵完备的低秩因子分解模型,数学规划计算,4333-361(2012)·Zbl 1271.65083号 ·doi:10.1007/s12532-012-0044-1
[25] J.Wright,A.Ganesh,S.Rao,Y.Peng和Y.Ma,鲁棒主成分分析:通过凸优化精确恢复受损的低秩矩阵神经信息处理系统的研究进展, 2009, 2080-2088.
[26] X.Yuan和J.Yang,通过交替方向方法进行稀疏和低阶矩阵分解,预印本,12(2009)·Zbl 1183.62120号 ·doi:10.1214/09-AOS729
[27] C.-H.Zhang,最小最大凹惩罚下的几乎无偏变量选择,《统计年鉴》,38894-942(2010)·Zbl 1183.62120号 ·doi:10.1214/09-AOS729
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。