×
张，西安;彭定涛;苏燕燕

一种用于折叠凹惩罚低秩矩阵优化问题的奇异值收缩阈值算法。 （英语） Zbl 07805317号

J.全球。最佳方案。 88，第2期，485-508（2024）.
摘要：在本文中，我们研究了低秩矩阵优化问题，其中损失函数是光滑的但不一定是凸的，并且惩罚项是秩函数的非凸（折凹）连续松弛。首先，我们给出了几个矩阵值折叠凹罚函数的闭式奇异值收缩阈值算子。其次，我们对非凸低秩矩阵优化问题采用奇异值收缩阈值（SVST）算法，并证明了所提出的SVST算法收敛到问题的一个稳定点。此外，我们证明了极限点满足全局必要的最优性条件，该条件可以排除太多的平稳点，甚至是局部极小值，以便精化解。我们进行了大量的数值实验，以测试SVST算法在随机生成的低秩矩阵补全问题、真实的二维和三维图像恢复问题以及多元线性回归问题上的性能。数值结果表明，与一些最新的算法相比，SVST算法在低秩矩阵优化问题上具有很强的竞争力。

MSC公司：

90C26型 非凸规划，全局优化
90立方厘米 数学规划中的最优性条件和对偶性

关键词：

低秩矩阵优化;矩阵完成问题;非凸连续松弛;奇异值收缩阈值算法

软件：

SDPT3系统
PDF格式BibTeX公司 XML格式引用
\textit{X.Zhang}等人，J.Glob。最佳方案。88，编号2，485--508（2024；Zbl 07805317）
全文： 内政部

参考文献：

[1] Attouch，H。；博尔特，J。；Svaiter，BF，半代数和驯服问题下降方法的收敛性：近似算法，前向-后向分裂，正则高斯-赛德尔方法，数学。程序。序列号。A、 137、91-129（2013）·Zbl 1260.49048号
[2] 贝克，A。；Teboulle，M.，线性反问题的快速迭代收缩阈值算法，SIAM J.成像科学。，2, 1, 183-202 (2009) ·Zbl 1175.94009号
[3] 贝克，A。；Hallak，N.，涉及群稀疏项的优化问题，数学。程序。，178, 39-67 (2019) ·Zbl 1430.90465号
[4] 博尔特，J。；萨巴赫，S。；Teboulle，M.，非凸和非光滑问题的近似交替线性化最小化，数学。程序。序列号。A、 146、459-494（2014）·Zbl 1297.90125号
[5] 蔡，J。；坎迪斯，E。；Shen，Z.，矩阵补全的奇异值阈值算法，SIAM J.Optim。，20, 4, 1956-1982 (2010) ·Zbl 1201.90155号
[6] 坎迪斯，E。；Plan，Y.，从最少数量的噪声随机测量中恢复低秩矩阵的Oracle严格界限，IEEE Trans。《信息论》，57，4，2342-2359（2011）·Zbl 1366.90160号
[7] 坎迪斯，E。；Tao，T.，凸松弛的威力：近最优矩阵完成，IEEE Trans。《信息论》，56，5，2053-2080（2010）·兹伯利1366.15021
[8] FH Clarke，《优化与非光滑分析》（1990），纽约：SIAM出版社，纽约·Zbl 0696.49002号
[9] Cui，A.，Peng，J.，Li，H.，Zhang，C.，Yu，Y.：对“基于非凸分式函数惩罚的仿射矩阵秩最小化问题”的更正[J.Compute.Appl.Math.336（2018）353-374]。J.计算。申请。数学。352(15): 478-485 ·Zbl 1391.90488号
[10] 德里尼亚斯，P。；Kannan，R。；Mahoney，M.，矩阵的快速蒙特卡罗算法II：计算矩阵的低阶近似，SIAM J.Compute。，36, 1, 158-183 (2006) ·Zbl 1111.68148号
[11] 范，J。；Li，R.，《通过非一致惩罚似然进行变量选择及其预言属性》，美国统计协会，96，456，1348-1360（2001）·Zbl 1073.62547号
[12] Fazel，M.：矩阵秩最小化与应用。斯坦福大学博士论文（2002年）
[13] 福卡特，S。；Lai，M-J，通过对（0<q\le 1）的最小化，欠定线性系统的最稀疏解，Appl。计算。哈蒙。A.，26，395-407（2009）·Zbl 1171.90014号
[14] Gong，P.，Zhang，C.，Lu，Z.，Huang，J.，Ye，J.：非凸正则化优化问题的一般迭代收缩和阈值算法。摘自：《第三十届国际机器学习会议论文集》（ICML'13），28（2），第37-45页（2013）
[15] 顾S。；谢奇。；Meng，D.，加权核范数最小化及其在低水平视觉中的应用，国际计算机杂志。视觉。，121, 2, 183-208 (2017) ·Zbl 1458.68231号
[16] He，L。；Wang，Y。；Xiang，Z.，支持驱动的基于小波帧的图像去模糊，信息科学。，479, 250-269 (2019)
[17] 黄，J。；焦，Y。；Jin，B。；刘杰。；卢，X。；Yang，C.，非凸稀疏恢复的统一原始-对偶活动集算法，Stat.Sci。，36, 215-238 (2021) ·Zbl 07368234号
[18] Jin，采埃孚；万，Z。；焦，Y。；Lu，X.，非凸低秩极小化的交替方向延拓法，J.Sci。计算。，66, 2, 849-869 (2016) ·Zbl 1342.65144号
[19] 赖，M-J；Xu，Y。；Yin，W.，《无约束平滑（ell_p）最小化的改进迭代重排最小二乘法》，SIAM J.Numer。分析。，51, 2, 927-957 (2013) ·兹比尔1268.49038
[20] Lee，C。；Lam，E.，高动态范围成像的计算效率截断核范数最小化，IEEE Trans。图像处理。，25, 9, 4145-4157 (2016) ·Zbl 1408.94343号
[21] 李毅。；Shang，K。；Huang，Z.，一种用于低秩矩阵恢复的奇异值p-收缩阈值算法，计算。最佳方案。申请。，73, 453-476 (2019) ·Zbl 1414.90287号
[22] 刘，Y。；Sun，D。；Toh，K-C，核范数最小化的一个可实现的近点算法框架，数学。程序。，133, 1-2, 399-436 (2012) ·Zbl 1262.90125号
[23] Lu，C.，Zhu，C.、Xu，C.、Yan，S.、Lin，Z.：广义奇异值阈值。摘自：《美国人工智能学会人工智能会议论文集》29（1），1805-1811（2015）
[24] 卢，Z。；Zhang，Y。；Liu，X.，秩最小化的惩罚分解方法，Optim。方法软件。，30, 531-558 (2015) ·Zbl 1323.65070号
[25] 卢，Z。；Zhang，Y。；Lu，J.，\（ell_p\）通过迭代重加权奇异值最小化正则化低阶近似，计算。最佳方案。申请。，68, 619-642 (2017) ·Zbl 1388.90096号
[26] 马，S。；Goldfarb，D。；Chen，L.，矩阵秩最小化的不动点和Bregman迭代方法，数学。程序。，128, 1-2, 321-353 (2011) ·Zbl 1221.65146号
[27] 马，T。；Lou，Y。；Huang，T.，稀疏恢复和秩最小化的截断模型，SIAM J.Imaging Sci。，10, 3, 1346-1380 (2017) ·兹比尔1397.94021
[28] 马亚诺维奇，G。；Solo，V.，《On（\ell_q）optimization and matrix completion》，IEEE Trans。信号处理。，60, 11, 5714-5724 (2012) ·Zbl 1393.94353号
[29] Oymak，S。；Hassibi，B.，矩阵秩最小化的新零空间结果和恢复阈值，Eprint Arxiv，58，4，766-773（2010）
[30] 潘·L。；Chen，X.，使用带帽折叠凹函数的图像恢复的组稀疏优化，SIAM J.Imaging Sci。，14, 1, 1-25 (2021) ·Zbl 1474.90507号
[31] 彭，D。；秀，N。；Yu，J.，仿射秩最小化问题的（S_{1/2}）正则化方法和不动点算法，计算。最佳方案。申请。，67, 543-569 (2017) ·Zbl 1400.90223号
[32] 彭，D。；秀，N。；Yu，J.，非Lipschitz正则矩阵最小化的全局最优性条件和不动点延拓算法，科学中国数学，611139-1152（2018）·Zbl 1391.90411号
[33] 雷奇特，B。；法泽尔，M。；Parrilo，PA，通过核范数最小化保证线性矩阵方程的最小秩解，SIAM Rev.，52，3，471-501（2010）·Zbl 1198.90321号
[34] 雷奇特，B。；徐伟（Xu，W.）。；Hassibi，B.，秩最小化的空空间条件和阈值，数学。程序。，127, 1, 175-202 (2011) ·Zbl 1211.90172号
[35] Rockafellar，R。；Wets，R-J，变分分析（1998），柏林：施普林格出版社，柏林·Zbl 0888.49001号
[36] 苏，X。；Wang，Y。；康，X。；Tao，R.，基于自适应二分法的非凸截断核范数最小化，IEEE Trans。电路系统。视频技术。，29, 11, 3159-3172 (2019)
[37] Tseng，P.，结构化凸优化的近似精度、梯度方法和误差界，数学。程序。序列号。B、 125、263-295（2010）·Zbl 1207.65084号
[38] TüTüncü，R。；Toh，K-C；Todd，M.，使用SDPT3求解半定二次线性程序，数学。程序。，95, 2, 189-217 (2003) ·Zbl 1030.90082号
[39] Toh，K-C；Yun，S.，核范数正则化线性最小二乘问题的加速近似梯度算法，Pac。J.Optim。，6, 3, 615-640 (2010) ·Zbl 1205.90218号
[40] Wang，S.，Liu，D.，Zhang，Z.：稳健矩阵恢复的非凸松弛方法。In:2013年第23届国际人工智能会议（IJCAI-2013），第1764-1770页（2013）
[41] 王，Z。；博维克，A。；谢赫，H。；Simoncelli，E.，《图像质量评估：从错误可见性到结构相似性》，IEEE Trans。图像处理。，13, 4, 600-612 (2004)
[42] 王，Z。；Wang，W。；Wang，J。；Chen，S.，通过闭式\（2/3\）阈值算子实现矩阵完备的快速有效算法，神经计算，330212-222（2019）
[43] Wang，W。；张，F。；Wang，J.，通过正则核范数最小化恢复低秩矩阵，应用。计算。哈蒙。A.，54，1-19（2021年）·Zbl 1469.65090号
[44] Xiao，Y。；Jin，Z.，线性约束矩阵核范数最小化的交替方向方法，数值。线性代数应用。，19, 3, 541-554 (2012) ·Zbl 1274.65115号
[45] 杨，J。；Yuan，X.，核范数最小化的线性化增广拉格朗日和交替方向方法，数学。计算。，82, 281, 301-329 (2013) ·Zbl 1263.90062号
[46] 余，Q。；Zhang，X.，矩阵秩最小化问题的平滑近似梯度算法，计算。最佳方案。申请。，81, 519-538 (2022) ·Zbl 1490.65083号
[47] Zhang，C.，最小最大凹惩罚下的几乎无偏变量选择，《美国统计年鉴》，38，2，894-942（2010）·Zbl 1183.62120号
[48] Zhang，T.，稀疏正则化的多级凸松弛分析，J.Mach。学习。第11号决议，1081-1107（2010年）·Zbl 1242.68262号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。