×

求解线性约束非凸组合规划的二次惩罚加速非精确逼近点方法的复杂性。 (英语) Zbl 1504.90101号

摘要:本文分析了求解线性约束非凸组合规划的二次惩罚加速非精确逼近点方法的迭代复杂性。更具体地说,目标函数的形式是(f+h),其中,(f)是梯度为Lipschitz连续的可微函数,(h)是可能具有无界域的闭凸函数。该方法基本上包括应用加速不精确近点方法近似求解与线性约束问题相关的二次惩罚子问题序列。近似点法的每个子问题依次用加速复合梯度法(ACG)近似求解。结果表明,所提出的方案在最多\(\mathcal{O}(\rho^{-3}))次ACG迭代中生成\(\rho)-近似平稳点。最后,给出了数值结果,表明了该方法的有效性。

MSC公司:

90C26型 非凸规划,全局优化
90立方 非线性规划
90C60型 数学规划问题的抽象计算复杂性
第47页第22页 变体和其他类型的夹杂物
65克10 数值优化和变分技术

软件:

NC-OPT公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] H.Attouch和J.Bolt,关于含有解析特征的非光滑函数的近似算法的收敛性,数学。程序。,116(2009),第5-16页·Zbl 1165.90018号
[2] H.Attouch、J.Bolte和B.F.Svaiter,半代数和驯服问题下降方法的收敛性:近似算法、前向背向分裂和正则化高斯-赛德尔方法,数学。程序。,137(2011),第91-129页·Zbl 1260.49048号
[3] H.Attouch和J.Peypouquet,Nesterov的加速前向后退法的收敛速度实际上比(1/k^2)快、SIAM J.Optim.、。,26(2016),第1824-1834页·Zbl 1346.49048号
[4] N.Aybat和G.Iyengar,压缩感知的一阶平滑惩罚方法、SIAM J.Optim.、。,21(2011),第287-313页·兹比尔1219.90123
[5] Y.Carmon、J.C.Duchi、O.Hinder和A.Sidford,非凸优化的加速方法,预打印,https://arxiv.org/abs/1611.00756, 2017. ·Zbl 1400.90250号
[6] E.Chouzenoux、J.Pesquet和A.Repetti,块坐标可变度量的前向后退算法、J.Global Optim.、。,66(2016),第457-485页·Zbl 1351.90128号
[7] D.Drusvyatskiy和C.Paquette,凸函数和光滑映射的最小组合效率,预打印,https://arxiv.org/abs/1605.00125, 2016. ·Zbl 1431.90111号
[8] P.Frankel、G.Garrigos和J.Peypouquet,Kurdyka-Łojasiewicz函数的变尺度分裂方法及一般收敛速度,J.Optim。理论应用。,165(2015),第874-900页·Zbl 1316.49039号
[9] S.Ghadimi和G.Lan,非凸非线性随机规划的加速梯度法,数学。程序。,156(2016),第59-99页·Zbl 1335.62121号
[10] S.Ghadimi、G.Lan和H.Zhang,非线性规划的广义一致优化方法,预打印,https://arxiv.org/abs/1508.07384, 2015.
[11] Y.He和R.D.C.Monteiro,求解复合鞍点和双层Nash均衡问题的加速块分解一阶方法、SIAM J.Optim.、。,25(2015),第2182-2211页·Zbl 1326.90107号
[12] Y.He和R.D.C.Monteiro,一类复合凸凹鞍点问题的HPE型加速算法、SIAM J.Optim.、。,26(2016),第29-56页·Zbl 1329.90179号
[13] J.Hiriart-Urruti和C.Lemareíchal,凸分析与最小化算法二、 格兰德伦数学。威斯。306,柏林施普林格,1993年·Zbl 0795.49002号
[14] 洪先生,用近端原对偶方法分解线性约束的非凸问题:算法、收敛性和应用,预打印,https://arxiv.org/abs/1604.00543, 2016.
[15] B.Jiang、T.Lin、S.Ma和S.Zhang,结构化非凸非光滑优化:算法和迭代复杂性分析,计算。最佳方案。申请。,72(2019年),第115-157页·Zbl 1411.90274号
[16] O.Kolossoski和R.D.C.Monteiro,凹凸鞍点问题的加速非欧几里德混合近端外梯度型算法,最佳。方法软件。,32(2017),第1244-1272页·Zbl 1375.90236号
[17] G.Lan和R.D.C.Monteiro,凸规划一阶罚函数方法的迭代复杂性,数学。程序。,138(2013),第115-139页·Zbl 1282.90129号
[18] G.Lan和R.D.C.Monteiro,凸规划一阶增广拉格朗日方法的迭代复杂性,数学。程序。,155(2016),第511-547页·Zbl 1348.90654号
[19] H.Li和Z.Lin,非凸规划的加速近似梯度法,高级神经信息处理。系统。28,Curran Associates,纽约州Red Hook,2015年,第379-387页。
[20] C.Molinari、J.Peypouquet和F.Roldan,线性约束优化问题的交替前向-后向分裂,最佳。莱特。(2019), https://doi.org/10.1007/s11590-019-01388-y。 ·Zbl 1445.90083号
[21] R.D.C.Monteiro和B.F.Svaiter,迭代和遍历平均混合近邻外梯度法的复杂性、SIAM J.Optim.、。,20(2010年),第2755-2787页·兹比尔1230.90200
[22] R.D.C.Monteiro和B.F.Svaiter,凸优化的加速混合近邻外梯度法及其对二阶方法的启示、SIAM J.Optim.、。,23(2013),第1092-1125页·Zbl 1298.90071号
[23] I.Necoara、A.Patrascu和F.Glineur,锥凸规划的一阶非精确拉格朗日和惩罚方法的复杂性,最佳。方法软件。,34(2019),第305-335页·Zbl 1407.90256号
[24] M.O.Neill和S.J.Wright,加速梯度法在非凸函数临界点附近的行为,预打印,https://arxiv.org/abs/1706.07993, 2017.
[25] Y.内斯特罗夫,最小化复合函数的梯度方法,数学。程序。,140(2013),第125-161页·Zbl 1287.90067号
[26] Y.E.Nesterov,凸优化入门讲座:基础课程,Kluwer Academic,马萨诸塞州波士顿,2004年·Zbl 1086.90045号
[27] Y.Ouyang、Y.Chen、G.Lan和E.Pasiliao Jr。,一种加速线性化交替方向乘法器方法,SIAM J.成像科学。,8(2015),第644-681页·Zbl 1321.90105号
[28] C.Paquette、H.Lin、D.Drusvyatskiy、J.Mairal和Z.Harchaoui,基于梯度的非凸优化的催化剂加速,预打印,https://arxiv.org/abs/1703.10993, 2017.
[29] A.Patrascu、I.Necoara和Q.Tran-Dinh,约束凸优化的自适应非精确快速增广拉格朗日方法,最佳。莱特。,11(2017),第609-626页·Zbl 1368.90151号
[30] M.V.Solodov和B.F.Svaiter,使用最大单调算子扩大的混合近似外梯度-最大点算法,设定值分析。,7(1999),第323-345页·Zbl 0959.90038号
[31] 曾荫权,凹凸优化的加速近似梯度法,预打印,https://www.mit.edu/dimitrib/PTseng/papers/apgm.pdf,2008年。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。