×

一种有效的矩阵双因子化替代优化方法,用于低秩矩阵的恢复和补全。 (英语) Zbl 1297.65048号

摘要:近年来,矩阵秩最小化问题引起了机器学习、数据挖掘和计算机视觉界的极大兴趣。所有这些问题都可以通过使跟踪范数最小化而不是矩阵秩最小化的凸松弛来解决,并且必须迭代求解,每次迭代都涉及奇异值分解(SVD)。因此,这些用于跟踪范数最小化问题的算法存在多个奇异值分解的高计算代价。在本文中,我们提出了一种有效的矩阵双因子化(MBF)方法来逼近原始的跟踪范数最小化问题,并降低执行SVD的计算成本。所提出的MBF方法可用于解决广泛的低秩矩阵恢复和补全问题,如低秩和稀疏矩阵分解(LRSD)、低秩表示(LRR)和低秩阵补全(MC)。我们还分别针对LRSD、LRR和MC问题提出了三个小规模矩阵迹范数模型。此外,我们还开发了两个具体的线性化近似替代优化算法来解决上述三个问题。在各种合成和实际数据集上的实验结果验证了我们的MBF方法与最新的跟踪范数最小化算法相比的效率、鲁棒性和有效性。

MSC公司:

65层35 矩阵范数、条件、缩放的数值计算
65楼30 其他矩阵算法(MSC2010)
65层50 稀疏矩阵的计算方法
15A23型 矩阵的因式分解
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] 贝克,A。;Teboulle,M.,线性反问题的快速迭代收缩阈值算法,SIAM成像科学杂志,2,1,183-202(2009)·Zbl 1175.94009号
[2] 蔡,J。;坎迪斯,E.J。;Shen,Z.,矩阵补全的奇异值阈值算法,SIAM优化杂志,20,41956-1982(2010)·Zbl 1201.90155号
[3] 坎迪斯,E.J。;李,X。;马云(Ma,Y.)。;Wright,J.,稳健主成分分析?,ACM期刊,58,3,1-37(2011)·兹比尔1327.62369
[4] 坎迪斯,E.J。;Recht,B.,通过凸优化实现精确矩阵补全,计算数学基础,9,6,717-772(2009)·Zbl 1219.90124号
[5] 陈,C。;他,B。;Yuan,X.,通过交替方向方法完成矩阵,IMA数值分析杂志,32,1,227-245(2012)·Zbl 1236.65043号
[8] Cheng,L。;龚,M。;舒尔曼斯,D。;Caelli,T.,实时鉴别背景减法,IEEE图像处理汇刊,20,5,1401-1414(2011)·Zbl 1372.94045号
[9] Daubechies,I。;Defrise,M。;De Mol,C.,具有稀疏约束的线性反问题的迭代阈值算法,《纯数学与应用数学通讯》,57,11,1413-1457(2004)·Zbl 1077.65055号
[10] 丁,X。;He,L。;Carin,L.,贝叶斯稳健主成分分析,IEEE图像处理汇刊,20,12,3419-3430(2011)·Zbl 1381.62144号
[11] 德里尼亚斯,P。;Kannan,R。;Mahoney,M.W.,矩阵的快速蒙特卡罗算法II:计算矩阵的低阶近似,SIAM计算杂志,36,1,158-183(2006)·Zbl 1111.68148号
[12] Eldar,Y.C。;Mishali,M.,从子空间的结构化联合中稳健恢复信号,IEEE信息理论汇刊,55,11,5302-5316(2009)·Zbl 1367.94087号
[15] Hara,S。;Washio,T.,学习多重图形高斯模型的通用子结构,神经网络,38,6,23-38(2013)·Zbl 1328.68165号
[16] 他,B。;陶,M。;袁,X.,可分离凸规划的高斯后代换交替方向法,SIAM优化杂志,22,2,313-340(2012)·Zbl 1273.90152号
[18] 贾,H。;Martinez,A.M.,基于子空间扰动分析的低秩矩阵拟合及其在运动结构中的应用,IEEE模式分析和机器智能汇刊,31,5,841-854(2009)
[19] Keshavan,R。;Montanari,H.A。;Oh,S.,《从嘈杂条目中完成矩阵》,《机器学习研究杂志》,12057-2078(2010)·Zbl 1242.62069号
[21] Lee,K。;Ho,J。;Kriegman,D.,获取可变光照下人脸识别的线性子空间,IEEE模式分析和机器智能汇刊,27,5,684-698(2005)
[22] Lee,D。;Seung,H.,通过非负矩阵分解学习对象的各个部分,《自然》,401,788-791(1999)·Zbl 1369.68285号
[23] Lin,C.-J.,非负矩阵分解的投影梯度法,神经计算,19,10,2756-2779(2007)·Zbl 1173.90583号
[24] 林,Z。;陈,M。;Wu,L.,精确恢复受损低秩矩阵的增广拉格朗日乘子法,(技术报告UILU-ENG-09-2215(2009),伊利诺伊大学:伊利诺伊州立大学香槟分校)
[25] 林,Z。;Ganesh,A。;Wright,J。;Wu,L。;陈,M。;Ma,Y.,精确恢复受损低秩矩阵的快速凸优化算法,(技术报告UILU-ENG-09-2214(2009),伊利诺伊大学:伊利诺伊州乌尔班纳-香槟大学)
[26] 林,Z。;刘,R。;Su,Z.,低阶表示的自适应惩罚线性化交替方向方法,(神经信息处理系统(NIPS)进展(2011)),612-620
[27] 刘,Y。;焦立中。;Shang,F.,一种用于低阶矩阵恢复和完成的快速三因子化方法,模式识别,46,1,163-173(2013)·Zbl 1248.68437号
[28] 刘,Y。;焦立中。;Shang,F.,一种有效的基于矩阵分解的子空间杂波低秩表示,模式识别,46,1284-292(2013)·兹比尔1248.68411
[29] 刘,G。;林,Z。;Yan,S。;孙,J。;Yu,Y。;Ma,Y.,通过低秩表示实现子空间结构的鲁棒恢复,IEEE模式分析和机器智能汇刊,35,171-184(2013)
[32] 马,S。;Goldfarb,D。;Chen,L.,矩阵秩最小化的不动点和Bregman迭代方法,数学规划系列A,128,1,321-353(2011)·Zbl 1221.65146号
[33] 马云(Ma,Y.)。;杨,A。;Derksen,H。;Fossum,R.,《子空间排列估计及其在混合数据建模和分段中的应用》,SIAM Review,50,3,413-458(2008)·Zbl 1147.52010年
[38] Recht,B。;法泽尔,M。;Parrilo,P.,通过核范数最小化保证线性矩阵方程的最小秩解,SIAM Review,52,3,471-501(2010)·Zbl 1198.90321号
[39] 沙利特,美国。;Weinshall,D。;Chechik,G.,低秩矩阵流形中的在线学习,(神经信息处理系统(NIPS)的进展(2010)),2128-2136
[41] 尚,F。;焦立中。;史J。;龚,M。;Shang,R.,快速密度低阶近似谱聚类,数据挖掘和知识发现,23,2,345-378(2011)·Zbl 1235.68187号
[43] 尚,F。;焦立中。;Wang,F.,图对偶正则化非负矩阵因式分解用于联合聚类,模式识别,45,6,2237-2250(2012)·Zbl 1234.68356号
[45] 沈毅。;Wen,Z。;Zhang,Y.,基于低阶分解的矩阵分离的增广拉格朗日交替方向法,优化方法和软件(2013)·Zbl 1285.90068号
[46] 史J。;Malik,J.,标准化切割和图像分割,IEEE模式分析和机器智能汇刊,22,8,888-905(2000)
[47] Toh,K.-C。;Yun,S.,核范数正则最小二乘问题的加速近似梯度算法,太平洋优化杂志,6615-640(2010)·Zbl 1205.90218号
[49] Vidal,R.,子空间聚类,IEEE信号处理杂志,28,2,52-68(2011)
[50] Wen,Z。;尹,W。;Zhang,Y.,用非线性连续过松弛算法求解矩阵补全的低阶因式分解模型,数学规划计算,4,4,333-361(2012)·Zbl 1271.65083号
[51] Wright,J。;Yang,A.Y。;Ganesh,A。;Sastry,S。;Ma,Y.,通过稀疏表示实现鲁棒人脸识别,IEEE模式分析和机器智能汇刊,31,2,210-227(2009)
[52] Yang,J.等人。;尹,W。;Zhang,Y。;Wang,Y.,一种保边变分多通道图像恢复的快速算法,SIAM成像科学杂志,2,2,569-592(2009)·Zbl 1181.68304号
[53] Yang,J.等人。;Zhang,Y.,压缩传感中L1问题的交替方向算法,SIAM科学计算杂志,33,1,250-278(2011)·Zbl 1256.65060号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。