×

线性收敛的非凸近端增量聚合梯度法。 (英语) Zbl 1429.90057号

摘要:在本文中,我们研究了最小化(L)-光滑非凸分量函数和适当闭凸函数之和的近似增量聚合梯度算法。通过利用(L)-光滑性和误差界条件,我们可以证明该方法仍然具有一些期望的线性收敛性,即使对于非凸极小化也是如此。实际上,我们证明了生成的迭代序列全局收敛于平稳点集。此外,我们给出了一个显式的可计算步长阈值,以保证目标值和迭代序列都是线性收敛的。

MSC公司:

90C26型 非凸规划,全局优化
90C06型 数学规划中的大尺度问题
90立方厘米 随机规划
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Combettes,P.L.,Wajs,V.R.:通过近端正向-反向分裂进行信号恢复。多尺度模型。模拟。4(4), 1168-1200 (2005) ·Zbl 1179.94031号 ·数字对象标识代码:10.1137/050626090
[2] Vanli,N.D.,Gurbuzbalaban,M.,Ozdaglar,A.:近端增量聚合梯度方法的全局收敛速度。SIAM J.Optim公司。28(2), 1282-1300 (2018) ·Zbl 1390.90524号 ·doi:10.1137/16M1094415
[3] Aytekin,A.、Feyzmahdavian,H.R.、Johansson,M.:参数服务器异步优化算法的分析与实现。arXiv预印arXiv:1610.05507(2016)·Zbl 1359.90080号
[4] Zhang,H.,Guo,L.,Dai,Y.,Peng,W.:Bregman距离增长条件下线性收敛的近似增量聚合梯度法。arXiv预印arXiv:1711.01136(2017)·Zbl 1469.90108号
[5] 张,X.,彭,W.,张,H.,朱,W.:惯性近端增量聚合梯度法。arXiv预印arXiv:1712.00984(2017)
[6] Attouch,H.,Bolt,J.,Redont,P.,Soubeyran,A.:非凸问题的近似交替最小化和投影方法:基于Kurdyka-Łojasiewicz不等式的方法。数学。操作。第35(2)号决议,438-457(2010年)·Zbl 1214.65036号 ·doi:10.1287/门.1100.0449
[7] Attouch,H.,Bolt,J.,Svaiter,B.F.:半代数和驯服问题下降方法的收敛性:近似算法,前向-后向分裂,正则高斯-赛德尔方法。数学。程序。137(1-2),91-129(2013)·Zbl 1260.49048号 ·doi:10.1007/s10107-011-0484-9
[8] Bolt,J.,Sabach,S.,Teboulle,M.:非凸和非光滑问题的近似交替线性化最小化。数学。程序。146(1-2), 459-494 (2014) ·Zbl 1297.90125号 ·doi:10.1007/s10107-013-0701-9
[9] Wen,B.,Chen,X.,Pong,T.K.:一类非凸非光滑最小化问题的带外推法的近端梯度算法的线性收敛性。SIAM J.Optim公司。27(1), 124-145 (2017) ·Zbl 1359.90138号 ·doi:10.1137/16M1055323
[10] Luo,Z.Q.,Tseng,P.:关于凸本质光滑极小化下降法的线性收敛性。SIAM J.控制优化。30(2), 408-425 (1992) ·Zbl 0756.90084号 ·doi:10.1137/0330025
[11] Luo,Z.Q.,Tseng,P.:关于线性约束凸极小化对偶上升法的收敛速度。数学。操作。第18(4)号决议,846-867(1993)·Zbl 0804.90103号 ·doi:10.1287/门184.446
[12] Beck,A.,Teboulle,M.:一种线性收敛的基于双基的梯度投影算法,用于二次约束凸最小化。数学。操作。第31(2)号决议,398-417(2006)·Zbl 1278.90289号 ·doi:10.1287/门1060.0193
[13] Tseng,P.,Yun,S.:用于线性约束平滑优化和支持向量机训练的坐标梯度下降方法。计算。最佳方案。申请。47(2), 179-206 (2010) ·Zbl 1226.90062号 ·doi:10.1007/s10589-008-9215-4
[14] Tseng,P.,Yun,S.:非光滑可分离最小化的坐标梯度下降法。数学。程序。117(1-2), 387-423 (2009). https://doi.org/10.1007/s10107-007-0170-0 ·Zbl 1166.90016号 ·doi:10.1007/s10107-007-0170-0
[15] Huang,Y.,Dong,Y.:前向-后向分裂的新特性和实用近似算法。申请。数学。计算。237, 60-68 (2014) ·Zbl 1336.65101号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。