×
曾雪英;沈立新;徐月生;陆健

通过最小化近似秩完成矩阵。 （英语） Zbl 1425.65057号

分析。申请。，辛加普。 17，第5号，689-713（2019）.
摘要：低秩矩阵补全问题是图像处理和机器学习等领域中的一个研究热点，其目的是从缺失项中恢复矩阵。矩阵的秩可以用奇异值向量的（ell_0）范数来衡量。由于（ell_0）范数的非凸性和不连续性，求解低秩矩阵完备问题（显然是NP难的）面临着计算挑战。在本文中，我们提出了一个约束矩阵完成模型，其中使用一种新的非凸连续秩代理来近似矩阵的秩函数，提高恢复矩阵的低秩，并解决计算难题。所提出的秩代理不同于凸核范数和其他现有的最新非凸代理，它通过（ell_0）范数的局部（ell_2）-松弛来缓解秩函数的不连续性和非凸性，从而具有一些理想的性质。这些特性确保它通过选择适当的松弛参数精确地逼近秩函数。此外，我们还开发了一种有效的迭代算法来求解结果模型。我们还提出了自动更新松弛参数的策略，以确保算法的全局收敛性并加快算法的速度。我们建立了该算法的理论收敛结果。实验结果表明，与最先进的方法相比，该模型和相关算法在可恢复性和计算效率方面都有显著的性能改进。

引用于2文件

MSC公司：

65层22 数值线性代数中的不适定性和正则化问题
49号45 最优控制中的逆问题
68周25 近似算法

关键词：

低秩矩阵;矩阵完成;奇异值分解

软件：

PROPACK公司
PDF格式BibTeX公司 XML格式引用
\textit｛X.Zeng｝等人，分析。申请。，辛加普。17，第5号，689--713（2019；Zbl 1425.65057）
全文： 内政部

参考文献：

[1] Attouch，H.，Bolt，J.和Svaiter，B.，《半代数和驯服问题下降方法的收敛性：近似算法，前向-后向分裂，正则高斯-赛德尔方法》，数学。项目137（1-2）（2011）91-129·Zbl 1260.49048号
[2] Bauschke，H.和Combettes，P.，Hilbert空间中的凸分析和单调算子理论（Springer Press，纽约，2010）·Zbl 1218.47001号
[3] Beck，A.和Teboulle，M.，线性反问题的快速迭代收缩阈值算法，SIAM J.Imaging Sci.2（1）（2009）183-202·Zbl 1175.94009号
[4] Blake，A.和Zisserman，A.，《视觉重建》（麻省理工学院出版社，马萨诸塞州剑桥，1987年）。
[5] Blumensath，T.和Davies，M.，压缩感知的迭代硬阈值，应用。计算。哈蒙。分析27（3）（2009）265-274·兹比尔1174.94008
[6] Blumensath，T.和Davies，M.，《标准化迭代硬阈值：保证稳定性和性能》，IEEE J.Sel。顶部。信号处理。4（2）（2010）298-309。
[7] Bolt，J.、Sabach，S.和Teboulle，M.，非凸和非光滑问题的近似交替线性化最小化，数学。项目.146（1-2）（2013）459-494·Zbl 1297.90125号
[8] Cai，J.，Candès，E.和Shen，Z.，矩阵补全的奇异值阈值算法，SIAM J.Optim.20（4）（2010）1956-1982·Zbl 1201.90155号
[9] Candès，E.和Recht，B.，通过凸优化实现精确矩阵补全，Found。计算。数学9（6）（2009）717-772·Zbl 1219.90124号
[10] Candès，E.和Tao，T.，凸松弛的力量：近最优矩阵完成，IEEE Trans。《信息论》56（5）（2010）2053-2080·Zbl 1366.15021号
[11] Eckstein，J.和Bertsekas，D.，关于最大单调算子的Douglas-Rachford分裂方法和近点算法，数学。方案55（1992）293-318·Zbl 0765.90073号
[12] Fornasier，M.、Rauhut，H.和Ward，R.，通过迭代加权最小二乘最小化恢复低秩矩阵，SIAM J.Optim.21（4）（2010）1614-1640·Zbl 1236.65044号
[13] Frank，L.和Friedman，J.，一些化学计量学回归工具的统计观点，《技术计量学》35（35）（1993）109-135·Zbl 0775.62288号
[14] Friedman，J.，《快速稀疏回归和分类》，《国际期刊预测》28（3）（2012）722-738。
[15] Gao，C.，Wang，N.，Yu，Q.和Zhang，，《一种可行的非凸松弛特征选择方法》，载于《AAAI人工智能大会》，2011年，美国加利福尼亚州旧金山，（AAAI出版社，加利福尼亚州门罗公园，2011年），第356-361页。
[16] Ge，R.，Jin，C.和Zheng，Y.，非凸低秩问题中无伪局部极小：统一几何分析，Proc。第34届国际计算机学习会议，第70卷（PMLR，2017），第1233-1242页。
[17] Geman，D.和Yang，C.，带半二次正则化的非线性图像恢复，IEEE Trans。图像处理。4（7）（1995）932-946。
[18] Goldstein，T.和Osher，S.，《l1-正则化问题的分裂Bregman方法》，SIAM J.成像科学2（2）（2009）323-343·Zbl 1177.65088号
[19] Horn，R.和Johnson，C.，《矩阵分析》（剑桥大学出版社，剑桥，1986年）。
[20] Hu，Y.，Zhang，D.，Ye，J.，Li，X.和He，X..，通过截断核范数正则化快速准确地完成矩阵，IEEE Trans。模式分析35（9）（2013）2117-2130。
[21] Jain，P.、Meka，R.和Dhillon，I.，通过奇异值投影保证秩最小化，摘自《神经信息处理系统进展》（Curran Associates Inc.，Red Hook，NY，2010），第937-945页。
[22] Jain，P.、Netrapalli，P.和Sanghavi，S.，《使用交替最小化完成低秩矩阵》，见Proc。第四十五届ACM年度研讨会。计算理论（ACM，纽约，2013），第665-674页·Zbl 1293.65073号
[23] Ji，H.，Liu，C.，Shen，Z.和Xu，Y.，使用低秩矩阵补全的鲁棒视频去噪，在Proc。IEEE Computer Society Conf.计算机视觉和模式识别（IEEE，纽约，2010），第1791-1798页。
[24] Kyrillidis，A.和Cevher，V.，《硬阈值方法的矩阵配方》，J.Math。《成像视力》48（2）（2012）235-265·兹比尔1311.90141
[25] Lai，M.和Wang，J.，欠定线性系统稀疏解的无约束极小化（0<q\leq 1），SIAM J.Optim.21（1）（2011）82-101·Zbl 1220.65051号
[26] R.Larsen，PROPACK-用于大型和稀疏svd计算的软件，http://sun。斯坦福.edu/rmunk/PROPACK/。
[27] 林振华，陈明明，马友友，精确恢复受损低秩矩阵的增广拉格朗日乘子方法，arXiv:1009.5055。
[28] Lu，C.，Tang，J.，Yan，S.和Lin，Z.，通过迭代重加权核范数实现非凸非光滑低阶极小化，IEEE Trans。图像处理。25（2）（2015）829-839·Zbl 1408.94866号
[29] Lu，Z.，Zhang，Y.和Liu，X.，秩最小化的惩罚分解方法，Optim。方法Softw.30（3）（2014）531-558·Zbl 1323.65070号
[30] Luo，Y.，Liu，T.，Tao，D.和Xu，C.，多标签图像分类的多视图矩阵补全，IEEE Trans。图像处理。24（8）（2015）2355-2368·Zbl 1408.94451号
[31] Ma，S.，Goldfarb，D.和Chen，L.，矩阵秩最小化的不动点和Bregman迭代方法，数学。项目128（1-2）（2011）321-353·兹比尔1221.65146
[32] Malek-Mohammadi，M.、Babaie-Zadeh，M.，Amini，A.和Jutten，C.，通过平滑秩函数恢复仿射约束下的低秩矩阵，IEEE Trans。信号处理。62（4）（2014）981-992·Zbl 1394.94363号
[33] Malek-Mohammadi，M.，Babaie-Zadeh，M.和Skoglund，M..，恢复低秩矩阵的迭代凹秩近似，IEEE Trans。信号处理。62（20）（2014）5213-5226·Zbl 1394.94364号
[34] Mohan，K.和Fazel，M.，矩阵秩最小化的迭代重加权算法，J.Mach。学习。第13（13）号决议（2012）3441-3473·Zbl 1436.65055号
[35] Recht，B.、Fazel，M.和Parrilo，P.，通过核范数最小化保证线性矩阵方程的最小秩解，SIAM Rev.52（3）（2010）471-501·Zbl 1198.90321号
[36] Shen，L.，Xu，Y.和Zeng，X.，基于稀疏正则化的小波修复，应用。计算。哈蒙。分析41（1）（2016）26-53·Zbl 1338.65061号
[37] Simon，H.和Zha，H.，使用Lanczos双对角化过程的低秩矩阵近似及其应用，SIAM J.Sci。计算21（6）（1997）2257-2274·Zbl 0962.65038号
[38] Sun，R.和Luo，Z.，通过非凸因子分解保证矩阵完成，IEEE Trans。Inf.Theory62（11）（2016）6535-6579·Zbl 1359.94179号
[39] Tanner，J.和Wei，K.，矩阵完成的归一化迭代硬阈值，SIAM J.Sci。计算表35（5）（2013）104-125·Zbl 1282.65043号
[40] Toh，K.和Yun，S.，核范数正则化线性最小二乘问题的加速近似梯度算法，Pac。J.Optim.6（615-640）（2010）15·Zbl 1205.90218号
[41] Trzasko，J.和Manduca，A.，通过同伦最小化进行高度欠采样磁共振图像重建，IEEE Trans。医学影像学28（1）（2010）106-121。
[42] K.Wei，J.Cai，T.Chan和S.Leung，低秩矩阵完备的黎曼优化保证，arXiv:1603.06610·Zbl 1347.65109号
[43] Zeng，X.，Shen，L.和Xu，Y.，《基于优化和PDE的成像、视觉和学习》（Imaging，Vision and Learning Based on Optimization and PDEs）中，FISTA加速的用于稀疏恢复问题的收敛定点邻近算法，编辑Lysaker，M.，Tai，X.和Bae，E.（Springer，Cham，2016），第27-45页。
[44] Zhang，C.，最小最大凹惩罚下的几乎无偏变量选择，《Ann.Stat.38（2）》（2010）894-942·Zbl 1183.62120号
[45] Zhang，T.，稀疏正则化的多级凸松弛分析，J.马赫。学习。第11（2）（2010）号决议1081-1107·Zbl 1242.68262号
[46] Zhu，Z.，Li，Q.，Tang，G.和Wakin，M.，低阶矩阵优化中的全局最优性，IEEE Trans。信号处理。66（13）（2018）3614-3628·Zbl 1414.90297号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。