×
Necoara，我。;于内斯特罗夫。;F.格利纳。

非强凸优化一阶方法的线性收敛性。 （英语） Zbl 1412.90111号

数学。程序。 175，编号1-2（A），69-107（2019）.
摘要：证明光滑凸优化一阶方法线性收敛的标准假设是目标函数的强凸性，这一假设在许多实际应用中都不成立。本文推导了求解光滑非强凸约束优化问题的几种一阶方法的线性收敛速度，即涉及一个具有Lipschitz连续梯度的目标函数，该目标函数满足一些放松的强凸条件。特别地，在光滑约束凸优化的情况下，我们给出了强凸性条件的几种松弛形式，并证明了它们对于投影梯度法、快速梯度法和可行下降法等几种一阶方法的线性收敛性是足够的。我们还提供了满足我们提出的强凸性条件松弛的函数类的例子。最后，我们证明了所提出的松弛强凸性条件涵盖了求解线性系统、线性规划和线性约束凸问题的对偶公式等重要应用。

引用于76文件

理学硕士：

90C25型 凸面编程
90C06型 数学规划中的大尺度问题
65千5 数值数学规划方法

软件：

SCS公司
PDF格式BibTeX公司 XML格式引用
\textit{I.Necoara}等人，《数学》。程序。175，编号1--2（A），69-107（2019；Zbl 1412.90111）
全文： 内政部 arXiv公司

参考文献：

[1] Leventhal，D.，Lewis，A.S.：线性约束的随机方法：收敛速度和条件。数学。操作。第35（3）号决议，641-654（2010年）·Zbl 1216.15006号
[2] Liu，J.，Wright，S.，Re，C.，Bittorf，V.，Sridhar，S.：异步并行随机坐标下降算法。J.马赫。学习。第16（1）号决议，285-322（2015）·Zbl 1337.68286号
[3] Nesterov，Y.：凸优化入门讲座：基础课程。Kluwer，Dordrecht（2004）·兹比尔1086.90045
[4] Nemirovski，A.，Juditsky，A.，Lan，G.，Shapiro，A.：随机规划的稳健随机近似方法。SIAM J.Optim公司。19（4），1574-1609（2009）·Zbl 1189.90109号
[5] Wright，S.：坐标下降算法。数学。程序。151(1), 3-34 (2015) ·Zbl 1317.49038号
[6] Burke，J.V.，Deng，S.：弱尖锐极小值重温第三部分：可微凸包含的误差界。数学。程序。116(1-2), 37-56 (2009) ·Zbl 1163.90016号
[7] Lewis，A.S.，Pang，J.S.：凸不等式系统的误差界。在：第章：广义凸性，广义单调性-最新结果。柏林施普林格（1998）·Zbl 0953.90048号
[8] Yangy，T.，Lin，Q.：一类非光滑非强凸优化的具有线性收敛速度的随机梯度方法。技术代表（2015）。网址：www.arxiv.org
[9] Luo，Z.-Q.，Tseng，P.：可行下降方法的误差界和收敛性分析：一种通用方法。安·Oper。第46（1）号决议，157-178（1993）·Zbl 0793.90076号
[10] Necoara，I.，Clipici，D.：复合最小化的并行随机坐标下降法：收敛分析和误差界。SIAM J.Optim公司。26(1), 197-226 (2016) ·Zbl 1329.90108号
[11] Wang，P.W.，Lin，C.J.：凸优化可行下降方法的迭代复杂性。J.马赫。学习。第15（4）号决议，1523-1548（2014）·Zbl 1319.90051号
[12] Zhang，H.，Cheng，L.：限制强凸性及其在凸优化梯度型方法收敛性分析中的应用。最佳方案。莱特。9(5), 961-979 (2015) ·Zbl 1350.90029号
[13] Beck，A.，Shtern，S.：非强凸函数的线性收敛逐步条件梯度。数学。程序。164(1-2), 1-27 (2017) ·Zbl 1370.90010号
[14] Drusvyatskiy，D.，Lewis，A.：近似方法的误差界、二次增长和线性收敛。技术代表，（2016）。（arXiv:1602.06661）·Zbl 1440.90046号
[15] Zhou，Z.，So，A.：结构化凸优化问题误差界的统一方法。数学。程序。165(2), 689-728 (2017) ·Zbl 1380.65109号
[16] 霍夫曼，A.J.：关于线性不等式组的近似解。《国家研究杂志》。伯尔。站立。49(4), 263-265 (1952)
[17] Klatte，D.，Thiere，G.：线性方程和不等式解的误差界。数学。方法操作。第41（2）号决议，191-214（1995）·Zbl 0823.65055号
[18] Nesterov，Y.：最小化复合函数的梯度方法。数学。程序。140(1), 125-161 (2013) ·Zbl 1287.90067号
[19] O'Donoghue，B.，Candes，E.：加速梯度方案的自适应重启。找到。计算。数学。15(3), 715-732 (2013) ·Zbl 1320.90061号
[20] Bubeck，S.：凸优化：算法和复杂性。找到。趋势马赫。学习。8(3-4), 231-357 (2015) ·Zbl 1365.90196号
[21] O'Donoghue，B.，Chu，E.，Parikh，N.，Boyd，S.：通过算子分裂和齐次自对偶嵌入实现二次曲线优化。J.优化。理论应用。169(3), 1042-1068 (2016) ·Zbl 1342.90136号
[22] Lin，H.，Mairal，J.，Harchaoui，Z.：一阶优化的通用催化剂。In：神经信息处理系统的进展，3384-3392（2015）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。