×
彭冲;陈永勇;康、赵;陈成丽赵;程强

稳健主成分分析：一种基于因子分解的线性复杂度方法。 （英语） Zbl 1457.62195号

信息科学。 513, 581-599 (2020).
摘要：低秩在现实世界的数据中被广泛观察到，在许多机器学习和数据挖掘问题中，经常需要恢复低秩矩阵。稳健主成分分析（RPCA）通过将数据分为低秩和稀疏部分来解决此类问题。由于凸方法在理论上的优良性质，RPCA的凸方法已经得到了很好的研究，并且已经发展了许多扩展。然而，由于需要求解大矩阵的奇异值分解（SVD），用于凸方法及其扩展的最先进算法的复杂性通常很高。本文提出了一种新的基于矩阵三因子化的RPCA模型，该模型只需计算极小矩阵的奇异值分解。因此，此方法将RPCA的复杂性降低为线性，并使其完全可扩展。它还克服了最先进的可扩展方法（如AltProj）的缺点，后者需要精确了解低阶组件的真实等级。因此，我们的方法大约比AltProj快4倍。我们的方法可以作为一种轻量级、可扩展的RPCA工具，而不需要精确的真实排名值。

引用于三文件

MSC公司：

62H25个 因子分析和主成分；对应分析

关键词：

稳健主成分分析;因式分解;线性复杂度
PDF格式BibTeX公司 XML格式引用
\textit{C.Peng}等人，《信息科学》。513581-599（2020年；Zbl 1457.62195）
全文： 内政部

参考文献：

[1] 柯，Q。；Kanade，T.，通过替代凸规划在存在异常值和缺失数据的情况下进行鲁棒\（l_1\）范数分解，计算机视觉和模式识别，2005。CVPR 2005。IEEE计算机学会会议，1739-746（2005），IEEE
[2] Maronna，R。；马丁·D·。；Yohai，V.，《稳健统计》（2006），约翰·威利父子公司，奇切斯特。国际标准图书编号·邮编1094.62040
[3] 德拉托雷，F。；Black，M.J.，《稳健子空间学习框架》，国际计算机杂志。视觉。，54, 1-3, 117-142 (2003) ·Zbl 1076.68058号
[4] Gnanadesikan，R。；Kettering，J.R.，用多响应数据进行稳健估计、残差和离群值检测，生物统计学，81-124（1972）
[5] 徐，L。；Yuille，A.L.，基于统计物理方法的自组织规则稳健主成分分析，IEEE Trans。神经网络。，6, 1, 131-143 (1995)
[6] 克罗克斯，C。；Haesbroeck，G.，基于协方差或相关矩阵稳健估计的主成分分析：影响函数和效率，Biometrika，87，3，603-618（2000）·Zbl 0956.62047号
[7] Wright，J。；Ganesh，A。；Rao，S。；彭，Y。；Ma，Y.，稳健主成分分析：通过凸优化精确恢复受损低秩矩阵，神经信息处理系统进展，2080-2088（2009）
[8] 坎迪斯，E.J。；李，X。；马，Y。；Wright，J.，稳健主成分分析？，J.ACM（JACM），58、3、11（2011）·Zbl 1327.62369号
[9] 蔡J.-F。；坎迪斯，E.J。；Shen，Z.，矩阵补全的奇异值阈值算法，SIAM J.Optim。，20, 4, 1956-1982 (2010) ·Zbl 1201.90155号
[10] Toh，K.-C。；Yun，S.，核范数正则化线性最小二乘问题的加速近似梯度算法，太平洋J.Optim。，6, 615-640, 15 (2010) ·Zbl 1205.90218号
[11] 林，Z。；陈，M。；Ma，Y.，精确恢复受损低秩矩阵的增广拉格朗日乘子法（2010），arXiv:1009.5055
[12] 丁，X。；He，L。；Carin，L.，贝叶斯稳健主成分分析，图像处理。IEEE传输。，20, 12, 3419-3430 (2011) ·兹比尔1381.62144
[13] 康，Z。；彭，C。；Cheng，Q.，通过非凸秩近似的稳健主成分分析，数据挖掘（ICDM），2015年IEEE国际会议，211-220（2015），IEEE
[14] Leow，W.K。；Cheng，Y。；张，L。；西姆·T。；Foo，L.，通过固定秩稳健主成分分析进行背景恢复，图像和模式的计算机分析，54-61（2013），Springer
[15] Netrapalli，P。；尼兰詹，美国。；Sanghavi，S。；Anandkumar，A。；Jain，P.，非凸稳健PCA，神经信息处理系统进展，1107-1115（2014）
[16] Xu，H。；Caramanis，C。；Sanghavi，S.，通过离群值追踪实现鲁棒PCA，《神经信息处理系统的进展》，2496-2504（2010）
[17] McCoy，M。；Tropp，J.A.，使用半定规划的鲁棒PCA的两个建议，Electron。J.Stat.，5，1123-1160（2011）·Zbl 1329.62276号
[18] 聂，F。；黄，H。；丁，C。；罗，D。；Wang，H.，基于非贪婪范数最大化的稳健主成分分析，国际人工智能联合会议，1433-1438（2011）
[19] 聂，F。；Huang，H.，基于离散群结构约束的新低阶模型的子空间聚类，国际人工智能联合会议，1874-1880（2016）
[20] 彭，C。；康，Z。；李，H。；Cheng，Q.，使用对数决定秩近似的子空间聚类，第21届ACM SIGKDD国际知识发现和数据挖掘会议论文集，925-934（2015），ACM
[21] 彭，C。；陈，C。；康，Z。；李，J。；Cheng，Q.，Res-pca：恢复低秩矩阵的可扩展方法，IEEE计算机视觉和模式识别会议论文集，7317-7325（2019）
[22] 陈，C。；李，S。；秦，H。；Hao，A.，《通过时空一致性线索和低秩分析的新集成策略实现非平稳视频中的鲁棒显著运动检测》，模式识别。，52, 410-432 (2016)
[23] 陈，C。；李，S。；Wang，Y。；秦，H。；Hao，A.，通过时空融合和低阶相干扩散进行视频显著性检测，IEEE Trans。图像处理。，26, 7, 3156-3170 (2017) ·Zbl 1409.94058号
[24] 康，Z。；潘，H。；海，S.C.H。；Xu，Z.，从噪声数据中鲁棒图学习，IEEE Trans。赛博。，1-11 (2019)
[25] 景，P。；苏，Y。；聂，L。；白，X。；刘杰。；Wang，M.，用于微视频流行预测的低秩多视图嵌入学习，IEEE Trans。知识。数据工程，30，8，1519-1532（2018）
[26] 景，P。；苏，Y。；聂，L。；顾，H。；刘杰。；Wang，M.，图像记忆性预测的联合低秩和稀疏回归框架，IEEE Trans。电路系统。视频技术。，29, 5, 1296-1309 (2019)
[27] 康，Z。；Wen，L。；Chen，W。；Xu，Z.，基于图形聚类的低秩核学习，Knowl-基于系统。，163, 510-517 (2019)
[28] 李，A。；陈，D。；吴，Z。；Sun，G。；Lin，K.，基于低秩表示的图像分类自监督稀疏编码方案，PloS-one，13，6，e0199141（2018）
[29] 李，A。；刘，X。；Wang，Y。；陈，D。；林，K。；Sun，G。；Jiang，H.，基于子空间结构约束的基于非负低秩表示的鉴别特征学习，PloS one，14，5，e0215450（2019）
[30] 贝克，A。；Teboulle，M.，线性反问题的快速迭代收缩阈值算法，SIAM J.Imag。科学。，2, 1, 183-202 (2009) ·Zbl 1175.94009号
[31] Daubechies，I。；Defrise，M。；De Mol，C.，具有稀疏约束的线性反问题的迭代阈值算法，Commun。PureAppl公司。数学。，57, 11, 1413-1457 (2004) ·Zbl 1077.65055号
[32] Schönemann，P.H.，正交procutes问题的广义解，《心理测量学》，31，1，1-10（1966）·Zbl 0147.19401号
[33] 李，A。；吴，Z。；卢，H。；陈，D。；Sun，G.，基于多任务学习的非线性特征协作自回归图像分类方法，IEEE Access，643513-43525（2018）
[34] 彭，C。；Cheng，J。；Cheng，Q.，高维和大规模数据的监督学习模型，ACM Trans。智力。系统。技术。（TIST），8，2，30（2017）
[35] 彭，C。；Cheng，Q.，判别回归机：高维数据或不平衡数据的分类器（2019），arXiv:1904.07496
[36] 巴斯里（Basri），R。；雅各布斯，D.W.，兰伯反射和线性子空间，模式分析。机器内部。IEEE传输。，25, 2, 218-233 (2003)
[37] Georghiades，A.S。；Belhumeur，P.N。；Kriegman，D.J.，《从少到多：可变光照和姿势下人脸识别的照明锥模型》，《模式分析》。机器。智力。IEEE传输。，23, 6, 643-660 (2001)
[38] Elhamifar，E。；Vidal，R.，《稀疏子空间聚类：算法、理论和应用》。，IEEE传输。模式分析。机器。智力。，35, 11, 2765-2781 (2013)
[39] 彭，C。；康，Z。；Cheng，Q.，通过方差正则化岭回归进行子空间聚类，2017年IEEE计算机视觉和模式识别会议（CVPR），682-691（2017）
[40] D.Cai，Litekmeans：kmeans最快的matlab实现，网址：http://www.zjucadcg.cn/dengcai/Data/Clustering.html (2011).
[41] 聂，L。；Zhao，Y.-L。；王，X。；沈杰。；Chua，T.-S.，学习为社交论坛中的问题推荐描述性标签，ACM Trans。信息系统。（TOIS），32，1，5（2014）
[42] 彭，C。；康，Z。；蔡，S。；Cheng，Q.，《集成与征服：通过投影与流形构造集成的双面二维k-means》，ACM Trans。智力。系统。技术。，9, 5, 57:1-57:25 (2018)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。