阿诺德·诺伊梅尔 OSGA：一种具有最佳复杂度的快速次梯度算法。 （英语） Zbl 1346.90671号 数学。程序。 158，第1-2（A）、1-21号（2016）. 摘要：本文提出了一种在简单的、不一定是有界凸的有限维域中近似最小化凸函数的算法，假设只有函数值和次梯度可用。除了强凸性参数外，不需要关于目标函数的全局信息（如果只知道凸性，可以将其置零）。达到给定精度所需的最坏情况下的迭代次数与维数无关，并且除常数因子外，在目标函数的各种平滑度假设下，最可能的迭代次数。 引用于1审查引用于10文件 MSC公司： 90C25型 凸面编程 90立方厘米60 数学规划问题的抽象计算复杂性 49立方米 基于非线性规划的数值方法 65千5 数值数学规划方法 第68季度25 算法和问题复杂性分析 关键词：复杂性界限;凸优化;最优次梯度法;大规模优化;内斯特罗夫最优方法;非光滑优化;最优一阶方法;平滑优化;强凸 软件：ParNes公司;TFOCS公司;OSGA公司 PDF格式BibTeX公司 XML格式引用 \textit｛A.Neumaier｝，数学。程序。158，编号1--2（A），1--21（2016；Zbl 1346.90671） 全文： 内政部 arXiv公司 参考文献： [1] Ahookhosh，M.：应用于大规模线性反问题的最优次梯度算法，已提交。http://arxiv.org/abs/1402.7291 (2014) ·Zbl 1231.90313号 [2] Ahookhosh，M.，Neumaier，A.：通过最佳仿射次梯度算法实现的高维凸优化。在：ROKS研讨会，83-84（2013） [3] Ahookhosh，M.，Neumaier，A.：一种带子空间搜索的最优次梯度算法，用于代价高昂的凸优化问题。提交。http://www.optimization-online.org/DB_FILE/2015/04/4852 (2015) ·Zbl 1412.90105号 [4] Ahookhosh，M.，Neumaier，A.：求解具有复杂性的非光滑凸优化\[O（\varepsilon^{-1/2}）O\]（ε-1/2）。提交。http://www.optimizationonline.org/DB_HTML/2015/05/4900.HTML (2015) ·Zbl 1391.90466号 [5] Ahookhosh，M.，Neumaier，A.：大规模有界约束凸优化的最优次梯度算法。提交。http://arxiv.org/abs/1501.01497 (2015) ·Zbl 1380.90215号 [6] Ahookhosh，M.，Neumaier，A.：简单域中大规模凸优化的最优次梯度算法。提交。http://arxiv.org/abs/1501.01451 (2015) ·Zbl 1411.90261号 [7] Auslider，A.，Teboulle，M.：凸和圆锥优化的内部梯度和近似方法。SIAM J.Optim公司。16, 697-725 (2006) ·Zbl 1113.90118号 ·doi:10.1137/S1052623403427823 [8] Axelsson，O.，Lindskog，G.：关于共轭梯度法的收敛速度。数字。数学。48, 499-523 (1986) ·Zbl 0564.65017号 ·doi:10.1007/BF01389448 [9] Aybat，N.S.，Iyengar，G.：压缩传感的一阶增广拉格朗日方法。SIAM J.Optim公司。22(2), 429-459 (2012) ·Zbl 1251.90303号 ·doi:10.1137/100786721 [10] Beck，A.，Ben-Tal，A.，Guttmann-Beck，N.，Terumeshvili，L.：解决非光滑约束凸问题的CoMirror算法。操作。Res.Lett公司。38, 493-498 (2010) ·Zbl 1202.90209 ·doi:10.1016/j.orl.2010.08.005 [11] Beck，A.，Teboulle，M.：线性反问题的快速迭代收缩阈值算法。SIAM J.成像科学。2, 183-202 (2009) ·Zbl 1175.94009号 ·doi:10.1137/080716542 [12] Becker，S.R.，CandèS，E.J.，Grant，M.C.：凸锥问题的模板及其在稀疏信号恢复中的应用。数学。程序。计算。3, 165-218 (2011) ·Zbl 1257.90042号 ·doi:10.1007/s12532-011-0029-5 [13] Chen，J.，Burer，S.：一类大规模线性规划的一阶平滑技术。SIAM J.Optim公司。24, 598-620 (2014) ·Zbl 1301.65042号 ·doi:10.1137/110854400 [14] Devolder，O.，Glineur，F.，Nesterov，Y.：具有不精确预言的光滑凸优化的一阶方法。数学。程序。146, 37-75 (2014) ·兹比尔1317.90196 ·doi:10.1007/s10107-013-0677-5 [15] Fountoulakis，K.，Gondzio，J.，Zhlobich，P.：压缩传感问题的无矩阵内点法。数学。程序。计算。6, 1-31 (2014) ·Zbl 1304.90137号 ·doi:10.1007/s12532-013-0063-6 [16] Gonzaga，C.C.，Karas，E.W.：针对可微凸规划微调Nesterov的最速下降算法。数学。程序。138, 141-166 (2013) ·Zbl 1297.90118号 ·doi:10.1007/s10107-012-0541-z [17] Gonzaga，C.C.，Karas，E.W.，Rossetto，D.R.：约束可微凸优化的最优算法。SIAM J.Optim公司。1939-1955年（2013年）·Zbl 1288.65087号 ·数字对象标识代码：10.1137/10836602 [18] Gu，M.，Lim，L.-H.，Wu，C.J.：PARNES：精确恢复稀疏和近似稀疏信号的快速收敛算法。数字。算法。64, 321-347 (2013) ·Zbl 1284.65055号 ·doi:10.1007/s11075-012-9668-5 [19] Juditsky，A.，Nesterov，Y.：一致凸最小化的确定性和随机原对偶次梯度算法。斯托克。系统。4(1), 44-80 (2014) ·Zbl 1297.90097号 ·doi:10.1214/10-SSY010 [20] Lan，G.：光滑和非光滑凸优化的丛级一致优化方法。数学规划（2013）。doi:10.1007/s10107-013-0737-x·Zbl 1321.90104号 ·doi:10.1007/s10107-013-0737-x [21] Lan，G.，Lu，Z.，Monteiro，R.D.C.：锥规划的具有\[O（1/\varepsilon）O\]（1/ε）迭代复杂性的原对偶一阶方法。数学。程序。126, 1-29 (2011) ·Zbl 1208.90113号 ·doi:10.1007/s10107-008-0261-6 [22] Meng，X.，Chen，H.：加速Nesterov方法求解具有Lipschitz梯度的强凸函数，Arxiv预印本Arxiv:1109.6058（2011）·Zbl 1287.90067号 [23] Nemirovsky，A.S.，Yudin，D.B.：优化中的问题复杂性和方法效率。威利，纽约（1983年）·Zbl 0501.90062号 [24] Nesterov，Y.：一种求解具有收敛速度的凸规划问题的方法\[O（1，k^2）O\]（1，k2）（俄语），Doklady AN SSSR 269（1983），543-547。英语。翻译：苏联数学。多克。27(1983), 372-376 ·兹伯利0535.90071 [25] Nesterov，Y.：凸优化入门讲座：基础课程。Kluwer，Dordrecht（2004）·Zbl 1086.90045号 ·doi:10.1007/978-1-4419-8853-9 [26] Nesterov，Y.：非光滑函数的平滑最小化。数学。程序。103, 127-152 (2005) ·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5 [27] Nesterov，Y.：线性规划问题的凸集舍入和有效梯度方法。最佳方案。方法。柔和。23, 109-128 (2008) ·Zbl 1192.90119号 ·doi:10.1080/10556780701550059 [28] Nesterov，Y.：相对尺度下的无约束凸极小化。数学。操作。第34号决议，180-193（2009年）·Zbl 1214.65035号 ·doi:10.1287/门.1080.0348 [29] Nesterov，Y.：凸问题的原对偶次梯度方法。数学。程序。120, 221-259 (2009) ·Zbl 1191.90038号 ·doi:10.1007/s10107-007-0149-x [30] Nesterov，Y.：最小化复合目标函数的梯度方法。数学。程序。140, 125-161 (2013) ·Zbl 1287.90067号 ·doi:10.1007/s10107-012-0629-5 [31] Nesterov，Y.：凸优化问题的通用梯度方法。数学。规划（2014年）。doi:10.1007/s10107-014-0790-0·Zbl 1327.90216号 ·doi:10.1007/s10107-014-0790-0 [32] Richtarik，P.：相对尺度下凸最小化的改进算法。SIAM J.Optim公司。21, 1141-1167 (2011) ·Zbl 1231.90313号 ·doi:10.1137/090747142 [33] Tseng，P.：关于凹凸优化的加速近似梯度法，技术报告，数学。华盛顿大学系。http://pages.cs.wisc.edu/brecht/cs726docs/Tseng。APG（2008） [34] Yu，J.，Vishvanathan，S.V.N.，Günter，S.，Schraudolph，N.N.：机器学习中非光滑凸优化问题的准牛顿方法。J.马赫。学习。第1145-1200号决议（2010年）·Zbl 1242.90296号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。