王玉祥;Lee,Choon Meng先生;Cheong、Loong-Fah;杜金川 使用最近交替鲁棒子空间最小化的实用矩阵补全和损坏恢复。 (英语) Zbl 1398.68463号 国际期刊计算。视觉。 111,第3期,315-344(2015). 小结:低秩矩阵补全是一个非常重要的实际问题。最近关于这个主题的工作经常使用核范数作为秩函数的凸代理。尽管有坚实的理论基础,但该问题的凸型版本在实际应用中往往无法令人满意地工作。实际数据通常只有很少的观测值,支持度不满足随机性要求,普遍存在噪声和潜在的严重损坏,有时这些损坏同时发生。本文提出了一种近似交替鲁棒子空间最小化方法来解决这三个问题。近端交替方案显式地利用了已完成矩阵的秩约束,并在损坏恢复步骤中直接使用\(\ell_0\)伪形式。我们证明了所提出的非凸非光滑模型的方法收敛于一个平稳点。虽然不能保证找到全局最优解,但在实践中我们发现,当我们的算法具有基于凸优化的相当好的起点时,它通常可以达到一个好的局部极小值。对具有挑战性的合成和实际数据进行的大量实验表明,我们的算法在凸优化失败的更大范围的实际问题中取得了成功,并且它也优于各种最先进的算法。 引用于4文件 MSC公司: 68T05型 人工智能中的学习和自适应系统 15A83号 矩阵完成问题 62华氏35 多元分析中的图像分析 68单位10 图像处理的计算方法 关键词:低秩矩阵补全;鲁棒矩阵分解;非凸优化;SFM公司;光度立体声 软件:CVX公司;全氟辛烷磺酸;HOGWILD公司 PDF格式BibTeX公司 XML格式引用 \textit{Y.-X.Wang}等人,国际计算机杂志。视觉。111、3号、315--344(2015;Zbl 1398.68463) 全文: 内政部 arXiv公司 参考文献: [1] Attouch,H;螺栓,J;雷东特,P;Soubeyran,A,非凸问题的近似交替最小化和投影方法:基于Kurdyka-łojasiewicz不等式的方法,运筹学数学,35,438-457,(2010)·Zbl 1214.65036号 ·doi:10.1287/门.1100.0449 [2] Balzano,L.、Nowak,R.和Recht,B.(2010年)。从高度不完全信息中在线识别和跟踪子空间。在:2010年第48届allerton通信、控制和计算年会(allerton)(第704-711页)。电气与电子工程师协会。 [3] 贝克,A;Teboulle,M,线性反问题的快速迭代收缩阈值算法,SIAM成像科学杂志,2183-202,(2009)·Zbl 1175.94009号 ·doi:10.1137/080716542 [4] SR贝克尔;坎迪斯,EJ;Grant,MC,凸锥问题模板及其在稀疏信号恢复中的应用,数学规划计算,3165-218,(2011)·Zbl 1257.90042号 ·doi:10.1007/s12532-011-0029-5 [5] Becker,S.R.、CandèS,E.J.和Grant,M.C.(2012年)。TFOCS:一阶圆锥解算器模板. http://cvxr.com/tfocs/。 [6] Bennett,J.、Lanning,S.和Netflix,N.(2007年)。Netflix奖。在与KDD一起参加KDD Cup和Workshop。 [7] Buchanan,A.M.和Fitzgibbon,A.W.(2005)。缺失数据矩阵分解的阻尼牛顿算法。IJCV公司,\(2\),316-322。 [8] 坎迪斯,E;Plan,Y,Matrix completion with noise,IEEE会议记录,98925-936,(2010)·doi:10.10109/JPROC.2009.2035722 [9] 坎迪斯,E;Recht,B,通过凸优化实现精确矩阵补全,计算数学基础,9717-772,(2009)·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5 [10] Candès,E.、Li,X.、Ma,Y.和Wright,J.(2011年)。稳健的主成分分析?美国计算机学会期刊,58(3), 11. ·Zbl 1327.62369号 [11] 坎迪斯,EJ;Tao,T,凸松弛的力量:近最优矩阵完成,IEEE信息理论汇刊,562053-2080,(2010)·Zbl 1366.15021号 ·doi:10.1109/TIT.2010.2044061 [12] 坎迪斯,EJ;Wakin,MB;Boyd,SP,通过加权增强稀疏性\(ℓ _1)最小化,《傅里叶分析与应用杂志》,14877-905,(2008)·Zbl 1176.94014号 ·doi:10.1007/s00041-008-9045-x [13] Chandrasekaran,V;Sanghavi,S;帕里罗,P;Willsky,A,矩阵分解的秩parity非相干,SIAM优化杂志,21,572-596,(2011)·Zbl 1226.90067号 ·数字对象标识代码:10.1137/090761793 [14] Chen,P,子空间优化算法:重访低秩矩阵中的缺失数据问题,IJCV,80,125-142,(2008)·doi:10.1007/s11263-008-0135-7 [15] Chen,P,黑森矩阵与高斯-纽顿-黑森矩阵,SIAM数值分析杂志,49,1417-1435,(2011)·Zbl 1228.65087号 ·数字对象标识代码:10.1137/100799988 [16] Chen,Y.、Jalali,A.、Sanghavi,S.和Caramanis,C.(2011年)。从错误和擦除中恢复低库矩阵。在:2011年IEEE信息理论会议(ISIT)国际研讨会(第2313-2317页)。电气与电子工程师协会。 [17] Clarke,F.H.(1990年)。优化和非光滑分析(第5卷)。SIAM公司·Zbl 0696.49002号 [18] 布埃,A;泽维尔,J;阿加皮托,L;Paladini,M,通过增广拉格朗日乘数(balm)进行双线性建模,IEEE模式分析和机器智能汇刊,341496-1508,(2012)·doi:10.1109/TPAMI.2011.238 [19] Donoho,DL,软阈值去噪,IEEE信息理论汇刊,41613-627,(1995)·Zbl 0820.62002号 ·doi:10.1109/18.382009年 [20] Eriksson,A.和Van Den Hengel,A.(2010年)。使用L1范数有效计算存在缺失数据的鲁棒低秩矩阵近似。在CVPR公司(第771-778页)。 [21] Friedland,S.、Niknejad,A.、Kaveh,M.和Zare,H.(2006)。DNA微阵列数据缺失值估计算法。在:2006年IEEE声学、语音和信号处理国际会议,2006年。ICASSP 2006年会议记录(第二卷,第二页)。电气与电子工程师协会。 [22] Funk,S.(2006)。Netflix更新:在家试试这个. http://sifter.org/simon/journal/20061211.html。 [23] KR加布里埃尔;Zamir,S,用任意权重选择的最小二乘法进行矩阵的低阶近似,《技术计量学》,21489-498,(1979)·Zbl 0471.62004号 ·doi:10.1080/00401706.1979.10489819 [24] Ganesh,A.、Wright,J.、Li,X.、Candès,E.J.和Ma,Y.(2010年)。基于主成分追踪的低秩矩阵密集误差校正。在:2010年IEEE信息理论会议(ISIT)国际研讨会(第1513-1517页)。电气与电子工程师协会。 [25] 格兰特,M;博伊德,S;布隆德尔V(编辑);Boyd,S(编辑);Kimura,H(ed.),非光滑凸程序的图形实现,95-110,(2008),柏林·Zbl 1205.90223号 [26] Grant,M.和Boyd,S.(2012年)。CVX:Matlab软件,用于严格的凸编程,2.0 beta版. http://cvxr.com/cvx。 [27] Hartley,R.和Schaffalitzky,F.(2003)。功率因数分解:缺失或不确定数据的三维重建。在:澳大利亚-日本计算机视觉高级研讨会(第74卷,第76-85页)。 [28] He,J.、Balzano,L.和Lui,J.(2011年)。基于部分信息的在线鲁棒子空间跟踪.arXiv:1109.3827。 [29] Horn,BK,明暗处理的高度和梯度,国际计算机视觉杂志,5,37-75,(1990)·doi:10.1007/BF00056771 [30] Jain,P.、Netrapalli,P.和Sanghavi,S.(2012年)。使用交替最小化的低秩矩阵补全.arXiv:1212.0467·Zbl 1293.65073号 [31] Ke,Q;Kanade,T,在存在离群值和缺失数据的情况下通过替代凸规划进行鲁棒l1范数分解,CVPR,1739-746,(2005) [32] Keshavan,R.、Montanari,A.和Oh,S.(2009年)。带噪声观测的低秩矩阵补全:定量比较。在:通信、控制和计算(第1216-1222页)。 [33] Király,F.和Tomioka,R.(2012)。低秩矩阵完备可辨识性的组合代数方法。收录人:J.Langford&J.Pineau(编辑),第29届机器学习国际会议(ICML-12)会议记录,美国纽约州纽约市Omnipress(第967-974页)。 [34] Koren,Y.(2009)。Netflix大奖的Bellkor解决方案。Netflix奖文档,81. [35] Koren,Y;贝尔,R;Volinsky,C,推荐系统的矩阵分解技术,计算机,42,30-37,(2009)·doi:10.1109/MC.2009.263 [36] Lee,KC;何,J;Kriegman,DJ,获取可变光照下人脸识别的线性子空间,IEEE模式分析和机器智能汇刊,27684-698,(2005)·doi:10.1109/TPAMI.2005.92 [37] Li,X,压缩传感和矩阵完成,腐蚀比例恒定,构造近似,37,73-99,(2013)·Zbl 1258.93076号 ·doi:10.1007/s00365-012-9176-9 [38] 刘,Y;孙,D;Toh,K,核范数最小化的可实现近点算法框架,数学规划,133,1-38,(2009) [39] 内加班,S;MJ Wainwright,《受限强凸性与加权矩阵完备:带噪声的最优界》,《机器学习研究杂志》,第13期,第1665-1697页,(2012)·Zbl 1436.62204号 [40] Nehab,D.、Rusinkiewicz,S.、Davis,J.和Ramamorthi,R.(2005年)。有效地组合位置和法线以获得精确的三维几何体。在ACM图形事务(TOG)(第24卷,第536-543页)。ACM公司。 [41] Oh,S.、Montanari,A.和Karbasi,A.(2010年)。基于局部连通性的传感器网络定位:mds-map算法的性能分析。在:2010年IEEE信息理论研讨会(ITW)(第1-5页)。电气与电子工程师协会。 [42] Okatani,T;Deguchi,K,关于缺失分量下矩阵分解的wiberg算法,IJCV,72,329-337,(2007)·Zbl 1477.68404号 ·doi:10.1007/s11263-006-9785-5 [43] 奥弗顿,M.L.(未注明日期)。NLCG:非线性共轭梯度. http://www.cs.nyu.edu/faculty/overton/software/nlcg/index.html。 [44] Paladini,M.、Bue,A.D.、Stosic,M.和Dodig,M.,Xavier,J.和Agapito,L.(2009年)。使用公制投影对非刚性和铰接结构进行因子分解。在CVPR公司(第2898-2905页)。 [45] 拉博德。V.(未注明日期)。Vincent的动作工具箱结构. http://vision.ucsd.edu/vrabaud/toolbool/。 [46] Recht,B.(2009年)。矩阵补全的一种简单方法.arXiv:0910.0651·Zbl 1280.68141号 [47] Recht,B.、Re,C.、Wright,S.和Niu,F.(2011年)。Hogwild:一种并行化随机梯度下降的无锁方法。神经信息处理系统研究进展,24, 693-701. [48] Rudin,W.(1987)。实际分析(第84卷)。纽约:McGraw-Hill·Zbl 0925.00005 [49] 施,X;Yu,PS,通过迹范数最小化实现矩阵补全的局限性,ACM SIGKDD探索新闻稿,12,16-20,(2011)·数字对象标识代码:10.1145/1964897.1964902 [50] Srebro,N.和Jaakkola,T.(2003)。加权低阶近似。在:第20届机器学习国际会议记录(ICML-2003)(第20卷,第720页)。 [51] Sturm,P.和Triggs,B.(1996年)。一种基于因子分解的多图像投影结构和运动算法。在第四届欧洲计算机视觉会议(第709-720页)。柏林施普林格。 [52] Toh,K.和Yun,S.(2010年)。核范数正则化线性最小二乘问题的加速近似梯度算法。太平洋优化杂志,\(6\),615-640·Zbl 1205.90218号 [53] 托马西,C;Kanade,T,《正字法下图像流的形状和运动:一种因式分解方法》,IJCV,9,137-154,(1992)·doi:10.1007/BF00129684 [54] Wang,Y.X.,&Xu,H.(2012)。协同过滤矩阵分解的稳定性。J.Langford&J.Pineau(Eds.),第29届机器学习国际会议(ICML-12)会议记录,美国纽约州纽约市Omnipress(第417-424页)。ICML’12。 [55] Wen,Z.和Yin,W.(2013)。一种可行的正交约束优化方法。数学编程,142(1-2), 397-434. ·Zbl 1281.49030号 [56] Wu,B.、Ding,C.、Sun,D.和Toh,K.C.(2014)。向量k范数相关函数的Moreau-Yosida正则化。SIAM优化杂志,24(2), 766-794. ·Zbl 1297.90122号 [57] Wu,L.、Ganesh,A.、Shi,B.、Matsushita,Y.、Wang,Y.和Ma,Y.(2011)。通过低阶矩阵完成和恢复实现强健的光度立体声。在ACCV公司(第703-717页)。 [58] Xiong,L.、Chen,X.和Schneider,J.(2011)。用于异常检测的直接鲁棒矩阵分解。在:2011年IEEE第11届数据挖掘国际会议(ICDM)(第844-853页)。电气与电子工程师协会。 [59] Yang,J.、Sun,D.和Toh,K.C.(2013)。基于群拉索正则化的对数确定性优化的近点算法。SIAM优化杂志,23(2), 857-893. ·Zbl 1285.65037号 [60] Yu,H.F.、Hsieh,C.J.、Si,S.和Dhillon,I.(2012)。推荐系统并行矩阵分解的可缩放坐标下降方法。在2012年IEEE第12届数据挖掘国际会议(ICDM)(第765-774页)。电气与电子工程师协会。 [61] Zhou,Z.、Li,X.、Wright,J.、Candès,E.和Ma,Y.(2010)。稳定的主成分追求。在2010年IEEE信息理论国际研讨会(ISIT)(第1518-1522页)。电气与电子工程师协会。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。