×
葛，直隶;张欣;吴忠明

非凸低秩矩阵极小化问题的快速近似迭代重加权核范数算法。 （英语） Zbl 1492.65109号

申请。数字。数学。 179, 66-86 (2022)。
摘要：在本文中，我们提出了一种带外推的快速近似迭代重加权核范数算法，用于解决一类非凸低秩矩阵最小化问题。该方法将与前一次迭代相关的两个不同外推步骤合并为经典最近点迭代重加权方法的后向最近点步骤和前向梯度步骤。我们证明了该方法在一般参数约束下生成了收敛的子序列，并且任何极限点都是问题的平稳点。此外，我们证明了如果目标函数满足Kurdyka-Łojasiewicz性质，则算法全局收敛到所考虑问题的一个稳定点。最后，我们用合成数据和实际数据对一个实际的矩阵补全问题进行了数值实验，结果表明了该算法的效率和优越性能。

引用于2文件

MSC公司：

65层55 低阶矩阵逼近的数值方法；矩阵压缩
65千5 数值数学规划方法
90C26型 非凸规划，全局优化

关键词：

低秩最小化;非凸优化;近似迭代加权法;外推法;收敛性分析

软件：

iPiano公司
PDF格式BibTeX公司 XML格式引用
\textit{Z.Ge}等人，应用。数字。数学。179、66-86（2022年；Zbl 1492.65109）
全文： 内政部

参考文献：

[1] Attouch，H。；博尔特，J。；Redont，P。；Soubeyran，A.，非凸问题的近似交替最小化和投影方法：基于Kurdyka-Łojasiewicz不等式的方法，数学。操作。研究，35，2，438-457（2010）·Zbl 1214.65036号
[2] Attouch，H。；博尔特，J。；Svaiter，B.F.，半代数和驯服问题下降方法的收敛性：近似算法，前向-后向分裂，正则高斯-赛德尔方法，数学。程序。，137, 1-2, 91-129 (2013) ·Zbl 1260.49048号
[3] 贝克，A。；Teboulle，M.，线性反问题的快速迭代收缩阈值算法，SIAM J.成像科学。，2, 1, 183-202 (2009) ·Zbl 1175.94009号
[4] 博尔特，J。；萨巴赫，S。；Teboulle，M.，非凸和非光滑问题的近端交替线性化最小化，数学。程序。，146, 1-2, 459-494 (2014) ·兹比尔1297.90125
[5] 博特，R.I。；Csetnek，E.R。；László，S.C.，用于最小化两个非凸函数之和的惯性前向后退算法，EURO J.Compute。最佳。，4, 1, 3-25 (2016) ·Zbl 1338.90311号
[6] 卡布拉尔，R。；Torre，F.D.L。；科斯泰拉，J.P。；Bernardino，A.，统一核范数和双线性因子分解方法用于低秩矩阵分解，（ICCV，Proceedings（2013）），2488-2495
[7] 坎迪斯，E.J。；Wakin，M.B。；Boyd，S.P.，《通过重加权（l_1）最小化增强稀疏性》，J.Fourier Ana。应用。，14, 5-6, 877-905 (2008) ·Zbl 1176.94014号
[8] 坎迪斯，E.J。；Recht，B.，通过凸优化实现精确矩阵补全，Found。计算。数学。，9, 6, 717-772 (2009) ·Zbl 1219.90124号
[9] Chen，K。；Dong，H.B。；Chan，K.S.，通过自适应核规范惩罚进行降阶回归，《生物特征》，100，4，901-920（2013）·Zbl 1279.62115号
[10] 范建清。；Li，R.Z.，《基于非一致惩罚似然的变量选择及其预言属性》，美国统计协会，96，456，1348-1360（2001）·Zbl 1073.62547号
[11] Fazel，M.，矩阵秩最小化及其应用（2002），博士论文
[12] Frank，L.L.E。；Friedman，J.H.，一些化学计量学回归工具的统计观点，技术计量学，35，2，109-135（1993）·Zbl 0775.62288号
[13] Friedman，J.H.，《快速稀疏回归和分类》，《国际预测杂志》。，28, 3, 722-738 (2012)
[14] 高春霞。；Wang，N.Y。；于清。；Zhang，Z.H.，特征选择的一种可行非凸松弛方法，（AAAI，Proceedings（2011）），356-361
[15] Geman，D。；Yang，C.D.，带半二次正则化的非线性图像恢复，IEEE Trans。图像处理。，4, 7, 932-946 (1995)
[16] 顾S.H。；张，L。；左，W.M。；Feng，X.C.，加权核范数最小化及其在图像去噪中的应用，（CVPR，Proceedings（2014）），2862-2869
[17] Guo，K。；Han，D.R.，关于涉及次凸函数的优化问题的Douglas Rachford分裂方法的注记，J.Glob。最佳。，72, 431-441 (2018) ·Zbl 1412.90107号
[18] 霍斯特，R。；N.V.Thoai，DC编程：概述，J.Optim。理论应用。，103, 1-43 (1999) ·Zbl 1073.90537号
[19] Kurdyka，K.，《关于o-极小结构中可定义函数的梯度》，《傅里叶年鉴》，48，3，769-783（1998）·Zbl 0934.32009
[20] Lafond，J。；O.科洛普。；Moulines，E。；Salmon，J.，有限字母上的概率低秩矩阵完成，（NeurIPS，Proceedings（2014））
[21] 刘易斯，A.S。；Sendov，H.S.，奇异值的非光滑分析。第一部分：理论，集值分析。，13, 3, 213-241 (2005) ·Zbl 1129.49025号
[22] 李，H。；Lin，Z.C.，非凸规划的加速近似梯度法，（NeurIPS，Proceedings（2015）），377-387
[23] Li，Y.F。；张义杰。；Huang，Z.H.，低秩矩阵恢复的加权核范数最小化算法，J.Compute。申请。数学。，263, 338-350 (2014) ·Zbl 1301.65049号
[24] 吕春云。；Tang，J.H。；闫S.C。；Lin，Z.C.，广义非凸非光滑低阶极小化，（CVPR，Proceedings（2014）），4130-4137
[25] 吕春云。；Tang，J.H。；闫S.C。；Lin，Z.C.，通过迭代重加权核范数实现非凸非光滑低秩最小化，IEEE Trans。图像处理。，25, 2, 829-839 (2015) ·Zbl 1408.94866号
[26] 卢，Z.S。；Zhang，Y.，Schatten-p拟形式正则化矩阵优化（基于迭代加权奇异值最小化）（2015）
[27] 梅里诺，D.I.，《矩阵分析主题》（1992），约翰霍普金斯大学出版社：约翰霍普金大学出版社巴尔的摩
[28] Nesterov，Y.，一种求解具有收敛速度的凸规划问题的方法\（O（1/k^2）\），Sov。数学。道克。，27, 3, 372-376 (1983) ·Zbl 0535.90071号
[29] Nesterov，Y.，《凸优化入门讲座：基础课程》（2013），施普林格：施普林格纽约
[30] 奥克斯，P。；陈，Y。；布罗克斯，T。；Pock，T.，iPiano：非凸优化的惯性近似算法，SIAM J.成像科学。，7, 2, 1388-1419 (2014) ·Zbl 1296.90094号
[31] Phan，D.N。；Nguyen，T.N.，非凸非光滑低阶极小化问题的加速IRNN-迭代重加权核范数算法，J.Compute。申请。数学。，396，6，第113602条pp.（2021）·Zbl 1469.90114号
[32] Polyak，B.T.，《加速迭代法收敛的一些方法》，苏联计算机出版社。数学。数学。物理。，4, 5, 1-17 (1964) ·Zbl 0147.35301号
[33] Recht，B。；法泽尔，M。；Parrilo，P.A.，通过核范数最小化保证线性矩阵方程的最小秩解，SIAM Rev.，52，3，471-501（2010）·Zbl 1198.90321号
[34] Rockafellar，R.T.，《凸分析》（1970），普林斯顿大学出版社：普林斯顿大学出版·Zbl 0193.18401号
[35] 沈毅。；Liu，X.，矩阵完成问题的交替最小化方法，离散Contin。动态。系统。，13, 6, 1757-1772 (2020) ·Zbl 1441.15020号
[36] Sun，T。；姜浩。；Cheng，L.Z.，图像处理中近端迭代重加权核范数算法的收敛性，IEEE Trans。图像处理。，26, 12, 5632-5644 (2017) ·Zbl 1409.94567号
[37] Toh，K.C。；Yun，S.W.，核范数正则化线性最小二乘问题的加速近似梯度算法，Pac。J.Optim。，6, 3, 615-640 (2010) ·Zbl 1205.90218号
[38] Trzasko，J。；Manduca，A.，通过同伦最小化实现高欠采样磁共振图像重建，IEEE Trans。医学成像，28，1，106-121（2009）
[39] 温，B。；陈晓杰。；Pong，T.K.，一类非凸非光滑极小化问题的外推近似梯度算法的线性收敛性，SIAM J.Optim。，27, 1, 124-145 (2017) ·Zbl 1359.90138号
[40] 温，Z.W。；Yin，W.T。；Zhang，Y.，用非线性逐次过松弛算法求解矩阵补全的低阶因式分解模型，Math。程序。计算。，4, 4, 333-361 (2012) ·Zbl 1271.65083号
[41] 吴振明。；Li，M.，一类非凸非光滑优化问题的广义惯性近端梯度法，计算。最佳方案。应用。，73, 4, 129-158 (2019) ·兹比尔1420.90054
[42] 吴振明。；Li，C.S。；Li，M。；Andrew，L.，一类非凸优化问题的带Bregman正则化的惯性近似梯度方法，J.Glob。最佳。，79, 617-644 (2021) ·Zbl 1466.90081号
[43] 谢毅。；顾S.H。；刘，Y。；左，W.M。；Zhang，W.S。；Zhang，L.，加权Schatten p-范数最小化在图像去噪和背景减法中的应用，IEEE Trans。图像处理。，25, 10, 4842-4857 (2016) ·Zbl 1408.94731号
[44] Yang，L.，一类非凸非光滑问题的带外推和线搜索的近似梯度法（2018）
[45] 姚，Q.M。；郭敬通（Kwok，J.T.）。；Wang，T.F。；Liu，T.Y.，带非凸正则化子的大尺度低秩矩阵学习，IEEE Trans。模式分析。机器。智力。，41, 11, 2628-2643 (2019)
[46] Zhang，C.H.，最小最大凹惩罚下的几乎无偏变量选择，《Ann.Stat.》，38，2，894-942（2010）·Zbl 1183.62120号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。