×
赵静;董巧丽;迈克尔·托·拉西亚斯。;王凤辉

非凸和非光滑问题的两步惯性Bregman交替最小化算法。 （英语） Zbl 07606099号

J.全球。最佳方案。 84，第4期，941-966（2022）.
摘要：本文提出了一种结合Bregman交替极小化算法和两步惯性力的算法，用于求解由两个非光滑函数和一个光滑函数组成的极小化问题。对于非凸和非光滑问题，我们给出了一般下降法的一个抽象收敛定理，该定理满足充分减少假设，并允许相对误差容限。我们的结果在目标函数满足Kurdyka-Łojasiewicz不等式的假设下成立。该算法满足抽象收敛定理的要求。只要目标函数的适当正则化满足Kurdyka-Łojasiewicz不等式，就可以获得收敛性。最后，数值结果表明了该算法的有效性。

引用于2文件

MSC公司：

47J06型 非线性不适定问题
49J52型 非平滑分析
65K10码 数值优化和变分技术
90C26型 非凸规划，全局优化
90立方 非线性规划

关键词：

非凸优化;惯性算法;布列格曼距离;Kurdyka-Łojasiewicz不等式;交替最小化

软件：

iPiano公司
PDF格式BibTeX公司 XML格式引用
\textit{J.Zhao}等人，J.Glob。最佳方案。84，第4号，941-966（2022；Zbl 07606099）
全文： 内政部

参考文献：

[1] Neumann，J.v.：《函数算符》，第22卷，《数学研究年鉴》，普林斯顿大学出版社，新泽西州普林斯顿（1950）·Zbl 0039.11701号
[2] 组合框，PL；Wajs，V.，通过近端正向反向分裂进行信号恢复，多尺度模型Sim，4，4，1168-1200（2005）·Zbl 1179.94031号 ·数字对象标识代码：10.1137/050626090
[3] Donoho，DL，压缩传感，IEEE Trans。通知。理论，41289-1306（2006）·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[4] 狮子，P.L.：关于施瓦兹交替法。三、 非重叠子域的变体。收录于：Chan，T.F.，Glowinski，R.，Périaux，J.，Widlund，O.（编辑）第三国际出版社，第202-231页。交响乐。偏微分方程的区域分解方法，SIAM，费城（1990）·Zbl 0704.65090号
[5] 维德罗，B。；Wallach，E.，自适应逆控制（1996），新泽西州恩格尔伍德克利夫斯：普伦蒂斯·霍尔，恩格尔伍德克里夫斯，新泽西
[6] Behmardi，B.，Raich，R.：关于主题模型中可证明的精确低阶恢复。In:IEEE统计信号处理研讨会（SSP）会议记录，尼斯，（2011），265-268
[7] Xu，H。；Caramanis，C。；Mannor，S.，《Outlier-robust PCA：高维案例》，IEEE Trans。通知。理论。，59, 546-572 (2013) ·Zbl 1364.62141号 ·doi:10.1109/TIT.2012.2212415
[8] Sra，S。；Nowozin，S。；SJ Wright，《机器学习优化》（2011），剑桥：麻省理工学院出版社，剑桥
[9] Wang，F。；曹伟。；Xu，Z.，非凸组合问题多块Bregman ADMM的收敛性，科学。中国信息科学。，61, 122101:1-122101:12 (2018) ·doi:10.1007/s11432-017-9367-6
[10] 李·G。；Pong，TK，非凸组合优化分裂方法的全局收敛性，SIAM J.Optim。，25, 4, 2434-2460 (2015) ·Zbl 1330.90087号 ·doi:10.1137/140998135
[11] 洪，M。；罗，ZQ；Razaviyayn，M.，一类非凸问题的交替方向乘子法的收敛性分析，SIAM J.Optim。，26, 337-364 (2016) ·兹比尔1356.49061 ·数字对象标识代码：10.1137/140990309
[12] 李·G。；Pong，TK，Douglas-Rachford分裂用于非凸优化，应用于非凸可行性问题，数学。程序。序列号。A、 159371-401（2016）·Zbl 1346.90584号 ·doi:10.1007/s10107-015-0963-5
[13] Clason，C。；Mazurenko，S。；Valkonen，T.，非凸问题一阶原对偶方法的加速和全局收敛，SIAM J.Optim。，29, 1, 933-963 (2019) ·Zbl 1414.49037号 ·doi:10.1137/18M1170194
[14] 吴，Z。；李，M。；王，DZW；Han，D.，可分离非凸极小化问题的对称交替方向乘法器方法，亚太地区，J.Oper。第34、6、1750030号决议（2017年）·Zbl 1383.90028号
[15] 温，B。；陈，X。；Pong，TK，带外推的近似凸差分算法，计算。最佳方案。申请。，69, 297-324 (2018) ·Zbl 1401.90175号 ·doi:10.1007/s10589-017-9954-1
[16] 刘，Z。；吴，C。；Zhao，Y.，非Lipschitz（l_p-l_q）最小化的一种新的全局收敛算法，高级计算。数学。，45, 1369-1399 (2019) ·Zbl 1415.49022号 ·doi:10.1007/s10444-019-09668-y
[17] 李，M。；Wu，Z.，一类非凸优化问题广义分裂方法的收敛性分析，J.Optim。理论应用。，183, 2, 535-565 (2019) ·Zbl 1428.90120号 ·doi:10.1007/s10957-019-01564-1
[18] Attouch，H。；博尔特，J。；Redont，P。；Soubeyran，A.，非凸问题的近似交替最小化和投影方法：基于Kurdyka-Łojasiewicz不等式的方法，数学。操作。研究，35，2，438-457（2010）·Zbl 1214.65036号 ·doi:10.1287/门.1100.0449
[19] 博尔特，J。；萨巴赫，S。；Teboulle，M.，非凸和非光滑问题的近似交替线性化最小化，数学。程序。序列号。A、 146、459-494（2014）·Zbl 1297.90125号 ·doi:10.1007/s10107-013-0701-9
[20] Polyak，BT，《加速迭代法收敛的一些方法》，苏联计算机。数学。数学。物理。，4, 1-17 (1964) ·Zbl 0147.35301号 ·doi:10.1016/0041-5553（64）90137-5
[21] Ochs，P。；陈，Y。；布罗克斯，T。；Pock，T.，iPiano：非凸优化的惯性近似算法，SIAM J.成像科学。，7, 2, 1388-1419 (2014) ·Zbl 1296.90094号 ·数字对象标识代码：10.1137/130942954
[22] 博伊，RI；Csetnek，ER，非光滑和非凸优化问题的惯性Tseng型近似算法，J.Optim。理论应用。，171, 2, 600-616 (2016) ·Zbl 1349.90688号 ·doi:10.1007/s10957-015-0730-z
[23] Zhang，Y。；He，S.，非凸和非光滑问题的惯性近似交替极小化，J.不等式。申请。，2017, 232 (2017) ·兹比尔1376.49022 ·doi:10.1186/s13660-017-1504-y
[24] Pock，T。；Sabach，S.，非凸和非光滑问题的惯性近端交替线性化最小化（iPALM），SIAM J.成像科学。，9, 1756-1787 (2017) ·Zbl 1358.90109号 ·doi:10.1137/16M1064064
[25] 高，X。；蔡，X。；Han，D.，一类非凸优化问题的Gauss-Seidel型惯性近端交替线性化极小化，J.Global Optim。，76, 863-887 (2020) ·Zbl 1476.90256号 ·doi:10.1007/s10898-019-00819-5
[26] Polyak，B.T.：《优化导论》，Optimization Software Inc.，出版部：纽约（1987）
[27] Liang，J.，Fadili，J.M.，Peyré，G.：用于非凸优化的多步惯性前向背向分裂方法，《神经信息处理系统的进展》，第29期，2016年会议，（2016），4042-4050页。高级神经信息处理。系统
[28] Poon，C.，Liang，J.：一阶方法几何和自适应加速度。arXiv:2003.03910号
[29] Mordukhovich，B.：变分分析和广义微分，I：基础理论。Grundlehren der Mathematicschen Wissenschaften，第330卷。柏林施普林格-弗拉格出版社（2006年）
[30] 博尔特，J。；Danilidis，A。；Lewis，A.，非光滑子分析函数的Łojasiewicz不等式及其在次梯度动力系统中的应用，SIAM J.Optim。，17, 4, 1205-1223 (2006) ·Zbl 1129.26012号 ·doi:10.1137/050644641
[31] Rockafellar，RT公司；Wets，R.，变分分析，Grundlehren der Mathematischen Wissenschaften（1998），柏林：施普林格出版社，柏林·Zbl 0888.49001号
[32] Łojasiewicz，S.，Une propriétét e拓扑des sous-ensemples analytiques réels，收录于《巴黎地区方程》（巴黎：国家科学研究中心，巴黎，1963，87-89（1962）·Zbl 0234.57007号
[33] Kurdyka，K.，《关于o-极小结构中可定义函数的梯度》，《傅里叶研究年鉴》，48，769-783（1998）·Zbl 0934.32009 ·doi:10.5802/aif.1638
[34] Xu，Y。；Yin，W.，正则化多凸优化的块坐标下降法及其在非负张量分解和完成中的应用，SIAM J.成像科学。，6, 1758-1789 (2013) ·Zbl 1280.49042号 ·doi:10.137/120887795
[35] 谢永平；Kao，Y-C；马哈巴迪（RK）；Yurtsever，A。；基里利迪斯，A。；Cevher，V.，非凸矩阵分解的非欧几里德梯度下降框架，IEEE Trans。信号处理，66，5917-5926（2018）·Zbl 1415.94129号 ·doi:10.1109/TSP.2018.2870353
[36] 澳大利亚银行。；Teboulle，M.，凸优化和圆锥优化的内部梯度和近似方法，SIAM J.Optim。，16, 697-725 (2006) ·Zbl 1113.90118号 ·doi:10.1137/S1052623403427823
[37] 澳大利亚银行。；Teboulle，M.，不可微凸极小化和变分不等式的非欧几里德距离投影次梯度方法，数学。计划，120，27-48（2009）·Zbl 1190.90118号 ·doi:10.1007/s10107-007-0147-z
[38] Bauschke，HH；道明尼苏达州；Lindstrom，SB，Bregman-Moreau包络正则化，SIAM J.Optim。，28, 3208-3228 (2018) ·Zbl 1409.90138号 ·doi:10.1137/17M1130745
[39] 博尔特，J。；萨巴赫，S。；特布尔，M。；Vaisbound，Y.，超越凸性和Lipschitz梯度连续性的一阶方法及其在二次反问题中的应用，SIAM J.Optim。，28, 2131-2151 (2018) ·Zbl 1402.90118号 ·doi:10.1137/17M1138558
[40] Bauschke，HH；博尔特，J。；陈，J。；特布尔，M。；Wang，X.，关于无强凸性和Lipschitz梯度连续性的非欧几里德梯度方法的线性收敛性，J.Optim。理论应用。，182, 1068-1087 (2019) ·Zbl 1429.65121号 ·doi:10.1007/s10957-019-01516-9
[41] Attouch，H。；博尔特，J。；Svaiter，BF，半代数和驯服问题下降方法的收敛性：近似算法，前向-后向分裂，正则高斯-赛德尔方法，数学。程序。序列号。A、 137，91-129（2013）·Zbl 1260.49048号 ·doi:10.1007/s10107-011-0484-9
[42] Suntrayuth，P。；路易斯安那州Jolaoso；Cholamjak，P.，求解伪单调变分不等式问题的新Bregman投影方法，J.Appl。数学。计算。(2021) ·Zbl 07532895号 ·doi:10.1007/s12190-021-01581-2
[43] Hieu，DV；Cholamjak，P.，变分不等式的Bregman距离修正外梯度法，应用。分析。，101, 2, 655-670 (2022) ·Zbl 1492.65177号 ·doi:10.1080/00036811.2020.1757078
[44] 徐，ZB；XY Chang；Xu，FM，（L_{1/2}）正则化：阈值表示理论和快速求解器，IEEE Trans。神经网络。学习系统。，23, 1013-1027 (2012)
[45] 曾杰。；徐，Z。；张，B.，通过BCR和约化牛顿技术的基于加速正则化的SAR成像，信号处理。，93, 7, 1831-1844 (2013) ·doi:10.1016/j.sigpro.2012.12.017
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。