×

基于DC编程和DCA的矩阵补全非凸算法框架。 (英语) Zbl 1312.65093号

摘要:矩阵补全旨在从其条目的采样集中恢复未知的低秩或近似低秩矩阵。结果表明,该问题可以通过最小化核范数而不是秩函数获得其最紧凸松弛来解决。最近的研究也表明,一些非凸惩罚,如\(M_p\)最小化和加权核范数最小化算法,能够以更有效的方式恢复低秩矩阵。本文提出了一种基于凸函数差分(DC)编程和DC算法(DCA)的统一框架,通过该框架可以得到作为一般框架特例的(M_p)最小化和加权核范数最小化算法。此外,我们还给出了另一种非凸罚函数——指数型罚函数。我们将我们的算法与先进的方法APGL和NIHT在随机生成矩阵和实际矩阵完成问题上的数值测试进行了比较,结果表明我们的方法更有效,更有前景。此外,对于低阶图像恢复的应用,我们提出的这些非凸算法也表现良好,结果更加令人满意和合理。

MSC公司:

65千5 数值数学规划方法
65楼30 其他矩阵算法(MSC2010)
90立方厘米26 非凸规划,全局优化
15A83号 矩阵完成问题
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] An,L.T.H.,Tao,P.D.:用DC算法求解一类线性约束的不定二次型问题。J全球优化。11, 253-285 (1997) ·Zbl 0905.90131号 ·doi:10.1023/A:1008288411710
[2] An,L.T.H.,Tao,P.D.:DC编程:理论、算法和应用:最新进展。摘自:第一届全球约束优化和约束满足国际研讨会(Cocos’02),第28页,第2-4页。Valbonne-Sophia Antipolis,法国(2002年)
[3] An,L.T.H.,Tao,P.D.:DC(凸函数的差异)编程和DCA使用真实世界非凸优化问题的DC模型进行了重新访问。安·Oper。第133、23-46号决议(2005年)·Zbl 1116.90122号 ·doi:10.1007/s10479-004-5022-1
[4] Biswas,P.,Liang,T.C.,Ye,Y.Y.:基于半定规划的传感器网络定位算法。ACM事务处理。传感器网络。2(2), 188-220 (2006) ·doi:10.1145/1149283.1149286
[5] Cai,J.F.,Candès,E.J.,Shen,Z.:矩阵补全的奇异值阈值算法。SIAM J.Optim 20(4),1956-1982(2010)·Zbl 1201.90155号 ·doi:10.1137/080738970
[6] Candès,E.J.,Wakin,M.B.,Boyd,s.P.:通过重加权增强稀疏性1最小化。J.傅里叶分析。申请。14, 877-905 (2008) ·Zbl 1176.94014号 ·doi:10.1007/s00041-008-9045-x
[7] Candès,E.J.,Recht,B.:通过凸优化实现精确矩阵补全。已找到。计算。数学。9(6), 717-772 (2009) ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[8] Chen,P.,Suter,D.:恢复大噪声低秩矩阵中缺失的组件:应用于SMF。IEEE传输。模式分析。机器。智力。26(8),1051-1063(2004)·doi:10.1109/TPAMI.2004.52
[9] Chistov,A.L.,Grigoriev,D.Y.:代数闭域理论中量词消除的复杂性。计算机科学数学基础,第176卷,第17-31页。斯普林格·弗拉格(1984)·Zbl 0562.03015号
[10] Elad,M.,Aharon,M.:通过学习词典上的稀疏和冗余表示进行图像去噪。IEEE传输。图像处理。15(12), 3736-3745 (2006) ·doi:10.1109/TIP.2006.881969
[11] Fazel,M.:矩阵秩最小化与应用。博士论文。斯坦福大学(2002)·Zbl 1268.49038号
[12] Fazel,M.,Hindi,H.,Boyd,S.P.:用于矩阵秩最小化的对数集启发式算法,应用于hankel和euclidean距离矩阵。Am.控制。会议3,2156-2162(2003)
[13] Foucart,S.,Lai,M.J.:通过p最小化为0<q≤1。申请。计算。哈蒙。分析。26(3), 395-407 (2009) ·Zbl 1171.90014号 ·doi:10.1016/j.acha.2008.09.001
[14] Gasso,G.、Rakotomamonjy,A.、Canu,S.:使用特定的非凸惩罚和DC编程系列恢复稀疏信号。IEEE传输。信号。过程。57(12), 4686-4698 (2009) ·Zbl 1391.90489号 ·doi:10.1109/TSP.2009.2026004
[15] Gaíffas,S.,Lecué,G.::压缩感知和矩阵完成的加权算法。arXiv:预打印,arXiv:1107.1638。(2011) ·Zbl 1365.62137号
[16] Geng,J.,Wang,L.S.,Fu,A.M.:加权核范数最小化的优化-最小化加权软阈值算法。国际J Meachine Learn。赛博。(2014年)·Zbl 1366.94112号
[17] Goldberg,K.,Roeder,T.,Gupta,D.,Perkins,C.:Eigentaste:一种恒定时间协同过滤算法。Inf.Retr.(信息回收)。4(2), 133-151 (2001) ·Zbl 0989.68052号 ·doi:10.1023/A:101149012209
[18] Goldfarb,D.,Ma,S.Q.,Wen,Z.W.:有效解决低秩矩阵完成问题。摘自:第47届Allerton通信、控制和计算年会,第1013-1020页。伊利诺伊州(2009)·Zbl 1171.90014号
[19] Hiriart Urruti,J.B.,Lemarechal,C.:凸分析和最小化算法:基础。Springer Verlag(1996)·Zbl 0795.49001号
[20] Horst,R.,Thoai,N.V.:DC编程:概述。J优化。理论与应用。103(1), 1-43 (1999) ·Zbl 1073.90537号 ·doi:10.1023/A:1021765131316
[21] Ji,H.,Liu,C.Q.,Shen,Z.W.,Xu,Y.H.:使用低秩矩阵补全的鲁棒视频去噪。2010年IEEE计算机视觉和模式识别会议(CVPR),第1791-1798页(2010)
[22] Keshavan,R.H.,Montanari,A.,Oh,S.:从几个条目中完成矩阵。IEEE传输。《信息论》56(6),2980-2998(2010)·兹比尔1366.62111 ·doi:10.1109/TIT.2010.2046205
[23] Kong,L.C.,Xiu,N.H.:通过非凸schatten p-最小化精确恢复低秩矩阵。亚洲-太平洋。《运营杂志》。研究30(3)(2013)·Zbl 1273.90257号
[24] Lai,M.J.,Xu,Y.Y.,Yin,W.T.:无约束平滑的迭代重加权最小二乘法的改进q最小化。SIAM J.数字。分析。51(2), 927-957 (2013) ·Zbl 1268.49038号 ·数字对象标识代码:10.1137/10840364
[25] Lai,M.J.,Wang,J.Y.:无约束欠定线性系统稀疏解的q极小化(0≤q≤1)。SIAM J.Optim公司。21(1), 82-101 (2010) ·Zbl 1220.65051号 ·数字对象标识代码:10.1137/090775397
[26] Lee,K.,Bresler,Y.:阿米拉:最小秩近似的原子分解。IEEE传输。《信息论》56(9),4402-4416(2010)·Zbl 1366.94112号 ·doi:10.1009/TIT.2010.2054251
[27] Lewis,A.S.:酉不变矩阵范数的凸分析。J.凸分析2173-183(1995)·Zbl 0860.15026号
[28] Lin,Z.C.,Chen,M.M.,Ma,Y.:精确恢复受损低秩矩阵的增广拉格朗日乘子方法。arXiv:预打印,arXiv:1009.5055。(2010) ·Zbl 1268.49038号
[29] Liu,Y.J.,Sun,D.F.,Toh,K.C.:核范数最小化的可实现近点算法框架。数学。程序。133(1-2), 399-436 (2012) ·Zbl 1262.90125号 ·doi:10.1007/s10107-010-0437-8
[30] Meka,R.,Jain,P.,Dhillon,I.S.:通过奇异值投影保证秩最小化。高级神经信息处理。系统。,937-945 (2010) ·Zbl 0973.90526号
[31] Sturm,J.F.:使用SeDuMi 1.02,一个用于对称锥优化的Matlab工具箱。最佳方案。方法软件。11, 625-653 (1999) ·Zbl 0973.90526号 ·doi:10.1080/10556789908805766
[32] Tanner,J.,Wei,K.:矩阵完成的标准化迭代硬阈值。会议记录可在线查阅http://people.maths.ox.ac.uk/tanner/papers/TaWei_NIHT.pdf。 (2013) ·Zbl 1282.65043号
[33] Tao,P.D.,An,L.T.H.:直流编程的凸分析方法:理论、算法和应用。《越南数学学报》(在黄图教授70岁生日之际献给他),第22卷,第289-355页(1997)·Zbl 0895.90152号
[34] Tao,P.D.,An,L.T.H.:求解信赖域子问题的直流优化算法。SIAM J.Optim公司。8(2), 476-505 (1998) ·Zbl 0913.65054号 ·doi:10.1137/S1052623494274313
[35] Toh,K.C.,Yun,S.W.:核范数正则化最小二乘问题的加速近似梯度算法。派克靴。J.优化。6, 615-640 (2010) ·Zbl 1205.90218号
[36] Ttnc,R.H.,Toh,K.C.,Todd,M.J.:使用SDPT3求解半定二次线性程序。数学。程序。95(2), 189-217 (2003) ·Zbl 1030.90082号 ·文件编号:10.1007/s10107-002-0347-5
[37] Xu,J.:矩阵完成的重加权核范数最小化。会议记录可在线查阅https://webspace.utexas.edu/jx598/www/Reweighted.pdf。(2011年)
[38] Wang,M.,Hua,X.S.,Hong,R.C.,Tang,J.H.,Qi,G.,Song,Y.:通过多图学习进行统一视频注释。IEEE传输。循环。系统。视频技术。19(5), 733-746 (2009) ·doi:10.1109/TCSVT.2009.2017400
[39] Wang,M.,Hua,X.S.,Tang,J.H.,Hong,R.C.:超越距离测量:构建视频注释的邻域相似性。IEEE传输。Multimed公司。11(3), 465-476 (2009) ·doi:10.1109/TMM.2009.2012919
[40] Wang,X.,Wang,S.,Bi,D.W.:无线传感器网络中的分布式可视目标监视系统。IEEE传输。系统。人类网络。B部分,Cybern。39(5), 1134-1146 (2009) ·doi:10.1109/TSMCB.2009.2013196
[41] Wen,Z.W.,Yin,W.T.,Zhang,Y.:用非线性逐次过松弛算法求解矩阵补全的低阶因式分解模型。数学。程序。计算。4(4),333-361(2012)·Zbl 1271.65083号 ·doi:10.1007/s12532-012-0044-1
[42] Zeng,B.,Fu,J.J.:方向离散余弦变换——一种新的图像编码框架。IEEE传输。循环。系统。循环。系统。视频技术。18(3), 305-313 (2008) ·doi:10.1109/TCSVT.2008.918455
[43] Zhu,G.,Yan,S.,Ma,Y.:图像标记向低秩、内容标记优先和错误稀疏方向的细化。多媒体国际会议记录。ACM,461-470(2010)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。