×
杰罗姆·博尔特;陈，郑;爱德华·鲍威尔

凸复合问题的多重逼近线性化方法。 （英语） 兹比尔1445.90081

数学。程序。 182，编号1-2（A），1-36（2020）.
摘要：组合最小化涉及以非光滑方式聚合的平滑函数的集合。在凸设置中，我们根据每个平滑分量的主曲率将其线性化，从而设计了一种算法。由此产生的方法称为Multiprox方法，它包括连续求解简单问题（例如，约束二次问题），这些问题也可以包含一些邻近算子。为了研究该方法的复杂性和收敛性，我们需要证明一种新型的限定条件，并了解乘数对复杂性界的影响。我们得到了包含新类型常数项的形式\（O（\frac{1}{k}）\）的显式复杂性结果。我们方法的一个显著特点是能够处理涉及移动约束的神谕。我们的方法足够灵活，可以包括移动球方法、近端Gauss-Newton方法或前向-后向分裂方法，对于这些方法，我们可以恢复已知的复杂度结果或建立新的结果。我们通过几个数值实验表明，对于复杂几何体的问题，使用多个近似项是如何起决定性作用的。

引用于1审查
引用于6文件

MSC公司：

90C25型 凸面编程
90立方 非线性规划
90立方厘米 数学规划中的极小极大问题

关键词：

复合优化;凸优化;复杂性;一阶方法;近端高斯-纽顿方法;近似线性法

软件：

取消锁定BoX;YALMIP公司;莫塞克
PDF格式BibTeX公司 XML格式引用
\textit{J.Bolte}等人，数学。程序。182，编号1--2（A），1-36（2020；Zbl 1445.90081）
全文： 内政部 arXiv公司

参考文献：

[1] 澳大利亚银行。；Teboulle，M.，凸和圆锥优化的内部梯度和近端方法，SIAM J.Optim。，16, 3, 697-725 (2006) ·Zbl 1113.90118号
[2] 澳大利亚银行。；Shefi，R。；Teboulle，M.，一类光滑约束极小化问题的运动球近似方法，SIAM J.Optim。，20, 6, 3232-3259 (2010) ·Zbl 1229.90085号
[3] Auslender，A.，用于非线性、半定和二阶锥规划的扩展序列二次约束二次规划算法，J.Optim。理论应用。，156, 2, 183-212 (2013) ·Zbl 1290.90060
[4] Bauschke，HH；Combettes，PL，Hilbert空间中的凸分析和单调算子理论（2017），纽约：Springer，纽约·Zbl 1359.26003号
[5] 贝克A，A。；Teboulle，M.，线性反问题的快速迭代收缩阈值算法，SIAM J.成像科学。，2, 1, 183-202 (2009) ·Zbl 1175.94009号
[6] 博尔特，J。；Pauwels，E.，半代数和驯化程序的优化-最小化程序和SQP方法的收敛性，数学。操作。决议，41，2，442-465（2016）·Zbl 1338.65156号
[7] Burke，JV，复合不可微优化问题的下降法，数学。程序。，33, 3, 260-279 (1985) ·Zbl 0581.90084号
[8] 伯克，合资公司；Ferris，MC，凸组合优化的高斯-纽顿方法，数学。程序。，17179-194年（1995年）·Zbl 0846.90083号
[9] Cartis，C。；古尔德，NI；Toint，PL，关于复合函数最小化的评估复杂性及其在非凸非线性规划中的应用，SIAM J.Optim。，1721-1739年4月21日（2011年）·Zbl 1236.90118号
[10] Cartis，C。；古尔德，N。；Toint，P.，关于在约束非线性优化中寻找一阶临界点的复杂性，数学。程序。，144, 1, 93-106 (2014) ·Zbl 1301.68154号
[11] 组合框，PL；Wajs，VR，近端前向-后向分裂信号恢复，多尺度模型。模拟。，4, 4, 1168-2000 (2005) ·Zbl 1179.94031号
[12] 组合框，PL；Pesquet，J-C，《信号处理中的近似分裂方法，科学与工程中反问题的定点算法》，优化及其应用，185-212（2011），纽约：Springer，纽约·Zbl 1242.90160号
[13] 组合，PL，结构化单调包含系统：对偶性，算法和应用，SIAM J.Optim。，23, 4, 2420-2447 (2013) ·兹比尔1314.47105
[14] 组合框，PL；Eckstein，J.，单调包含的异步块迭代原始-对偶分解方法，数学。程序。，168, 1-2, 645-672 (2018) ·Zbl 1514.47095号 ·doi:10.1007/s10107-016-1044-0
[15] Drusvyatskiy，D。；Lewis，AS，误差界，二次增长和近似方法的线性收敛，数学。运营研究，43，3，919-948（2018）·Zbl 1440.90046号 ·doi:10.1287/门.2017.0889
[16] Drusvyatskiy，D.，Paquette，C.：最小化凸函数和光滑映射组合的效率。数学。程序。（2018）。2007年10月10日/10107-018-1311-3·Zbl 1431.90111号
[17] Eckstein，J.，《使用Bregman函数的非线性近点算法及其在凸规划中的应用》，数学。操作。第18号、第1号、第202-226号决议（1993年）·Zbl 0807.47036号
[18] Fletcher，R.：复合不可微优化问题的模型算法。In：Sorensen，D.C.，Wets，R.J.B.（编辑）优化中的非微分和变分技术。数学规划研究，第17卷。施普林格，柏林，海德堡（1982）·Zbl 0478.90063号
[19] 希里亚特·乌鲁蒂，J-B；Lemarechal，C.，凸分析与最小化算法I（1993），纽约：Springer，纽约·Zbl 0795.49001号
[20] Hiriart-Urruti，J.B.：关于凸复合函数的Legendre-Bencel变换的注释。摘自：Alart，P.，Maisonneuve，O.，Rockafellar R.T.（编辑）《非光滑力学与分析》，第35-46页。美国施普林格出版社（2006）
[21] 勒鲁，北。；施密特，M。；Bach，F.，《有限训练集指数收敛率的随机梯度法》，《高级神经信息处理》。系统。，25, 2663-2671 (2012)
[22] 莱维汀，ES；Polyak，BT，约束最小化方法，苏联计算。数学。数学。物理。，6、5、1-50（1966年）
[23] 路易斯，AS；Wright，SJ，复合最小化的近似方法，数学。程序。数学。程序。，158, 1-2, 501-546 (2016) ·Zbl 1345.49041号 ·doi:10.1007/s10107-015-0943-9
[24] 李，C。；Ng，KF，凸组合优化高斯-纽顿方法的优化函数和收敛性，SIAM J.Optim。，18, 2, 613-642 (2007) ·Zbl 1153.90012号
[25] 李，C。；Wang，X.，关于凸组合优化的Gauss-Newton方法的收敛性，数学。程序。，91, 2, 349-356 (2002) ·Zbl 1049.90132号
[26] 狮子，P-L；Mercier，B.，两个非线性算子之和的分裂算法，SIAM J.Numer。分析。，16, 6, 964-979 (1979) ·Zbl 0426.6500号
[27] Lofberg，J.：YALMIP：MATLAB中用于建模和优化的工具箱。In:IEEE计算机辅助控制系统设计国际研讨会（2004年）
[28] Martinet，B.，Revue française d’informatique et de recherche opérationnelle，série rouge，Brève communication。正则化方程变量内尔近似级数，4，3，154-158（1970）·Zbl 0215.21103号
[29] Moreau，J-J，Proximitéet dualitédans un espace hilbertien，法国社会数学公报。，93, 273-299 (1965) ·Zbl 0136.12101号
[30] Moreau，J-J，与希尔伯特空间中移动凸集相关的演化问题，J.Differ。Equ.、。，26, 3, 347-374 (1977) ·Zbl 0356.34067号
[31] Mosek Aps：MATLAB手册的Mosek优化工具箱。第7版，第1版（2016年）。https://HrBwww.yumpu.com/en/document/view/54768342/the-mosek-optimization-toolbox-for-matlab-manuaHrBl-version-70-revision-141/32
[32] 内斯特罗夫，Y。；Nemirovskii，A.，《凸规划中的内点多项式算法》（1994），费城：工业和应用数学学会，费城·Zbl 0824.90112号
[33] Nesterov，Y.，凸规划入门讲座，第一卷：基础课程（2004），纽约：Springer，纽约
[34] 内米洛夫斯基，A。；Yudin，D.，最优化中的问题复杂性和方法效率（1983），纽约：Wiley，纽约·Zbl 0501.90062号
[35] Nocedal，J。；Wright，S.，《数值优化》（2006），纽约：Springer，纽约·Zbl 1104.65059号
[36] JM奥尔特加；Rheinboldt，WC，多变量非线性方程的迭代解（2000），费城：SIAM，费城·Zbl 0949.65053号
[37] Passty，GB，遍历收敛到Hilbert空间中单调算子和的零，J.Math。分析。申请。，72, 2, 383-390 (1979) ·Zbl 0428.47039号
[38] Pauwels，E.，复合优化中收敛分析的值函数方法，Oper。Res.Lett.公司。，44, 6, 790-795 (2016) ·Zbl 1408.90283号
[39] Pshenichnyi，BN，线性化方法，优化，18，2，179-196（1987）·兹比尔0679.90067
[40] Rockafellar，RT，增广拉格朗日和近点算法在凸规划中的应用，数学。操作。第1、2、97-116号决议（1976年）·Zbl 0402.90076号
[41] Rockafellar，RT公司；Wets，R.，变分分析（1998），纽约：Springer，纽约·Zbl 0888.49001号
[42] Rosen，JB，非线性规划的梯度投影方法。第一部分线性约束，J.Soc.Ind.Appl。数学。，8, 1, 181-217 (1960) ·Zbl 0099.36405号
[43] Rosen，JB，非线性规划的梯度投影法。第二部分。非线性约束，J.Soc.Ind.Appl。数学。，9, 4, 514-532 (1961) ·Zbl 0231.90048号
[44] Salzo，S。；Villa，S.，近端Gauss-Newton方法的收敛性分析，计算。最佳方案。申请。，53, 2, 557-589 (2012) ·Zbl 1282.90236号
[45] 施密特，M。；Le Roux，N。；巴赫，F.，用随机平均梯度最小化有限和，数学。程序。，162, 1-2, 83-112 (2017) ·Zbl 1358.90073号
[46] Shefi，R。；Teboulle，M.，在一个光滑不等式约束上最小化非光滑目标的对偶方法，数学。程序。，159, 1-2, 137-164 (2016) ·Zbl 1356.90109号
[47] Solodov，SQP方法在没有任何迭代序列有界性假设的情况下的全局收敛性，数学。程序。，118, 1, 1-12 (2009) ·Zbl 1176.90579号
[48] Tseng，P.，分裂算法在凸规划和变分不等式分解中的应用，SIAM J.控制优化。，29, 1, 119-138 (1991) ·Zbl 0737.90048号
[49] 南部维拉。；Salzo，S。；巴尔达萨雷。；Verri，A.，《加速和不精确前向支持算法》，SIAM J.Optim。，23, 3, 1607-1633 (2013) ·Zbl 1295.90049号
[50] Ye，Y.，《内点算法：理论与分析》（1997），纽约：Yinyu Ye Wiley&Sons出版社，纽约·Zbl 0943.90070号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。