×

具有不精确预言的光滑凸优化的一阶方法。 (英语) Zbl 1317.90196号

引入了有限维空间中闭凸集上凸函数的一阶不精确预言的新概念。导出了预言机的各种性质,并给出了几个例子。特别地,证明了预言符适用于光滑凸优化问题的目标函数,其中目标函数由另一个优化问题定义,例如,与平滑技术、Moreau-Yosida正则化和增广Lagrangians有关。其次,当光滑凸优化问题中的目标函数带有不精确预言符时,导出了经典原始梯度法和对偶梯度法以及快速梯度法的效率估计。特别地,研究了目标函数所需精度与预言机所需精度之间的关系。研究的结果是,如果有一个不精确的一阶预言,FGM就不一定比CGM优越,因为如图所示,FGM更容易遭受错误累积。新的预言也与其他最近给出的不精确预言进行了比较。最后,证明了当非光滑和弱光滑凸问题具有新的一阶预言机时,它们可以用光滑凸优化的一阶方法来求解。

MSC公司:

90C06型 数学规划中的大规模问题
90C25型 凸面编程
90立方厘米60 数学规划问题的抽象计算复杂性
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Baes,M.:估计序列方法:扩展和近似。IFOR内部报告,瑞士苏黎世ETH(2009年)
[2] Correa,R.,Lemarechal,C.:凸极小化的一些算法的收敛性。数学。程序。序列号。A 62,261-275(1993)·Zbl 0805.90083 ·doi:10.1007/BF01585170
[3] D'Aspremont,A.:使用近似梯度进行平滑优化。SIAM J.Optim公司。1171-1183年(2008年)·Zbl 1180.90378号 ·数字对象标识代码:10.1137/060676386
[4] Devolder,O.,Glineur,F.,Nesterov,Y.:大规模线性约束凸优化的双重平滑技术。SIAM J.Optim公司。22(2), 702-727 (2012) ·Zbl 1257.90047号
[5] Hintermuller,M.:基于近似次梯度的近端束方法。计算。优化。申请。20, 245-266 (2001) ·Zbl 1054.90053号 ·doi:10.1023/A:1011259017643
[6] Kiwiel,K.:具有近似次梯度线性化的近似束方法。SIAM J.Optim公司。16, 1007-1023 (2006) ·Zbl 1104.65055号 ·数字对象标识代码:10.1137/040603929
[7] Khachiyan,L。;内米洛夫斯基,A。;内斯特罗夫,Y。;Elster,H.(ed.),凸规划的优化方法和线性规划的多项式方法,75-115(1993),柏林
[8] Lan,G.:随机组合优化的一种优化方法。数学。程序。序列号。A 133(1-2),365-397(2012)·兹伯利1273.90136 ·doi:10.1007/s10107-010-0434-y
[9] Nedic,A.,Bertsekas,D.:次梯度方法中确定性噪声的影响。数学。程序。序列号。A 125,75-99(2010年)·兹比尔1205.90225 ·doi:10.1007/s10107-008-0262-5
[10] Nemirovskii,A.,Nesterov,Y.:光滑凸最小化的最佳方法。Zh公司。维克斯。材料Fiz。(俄语)25(3),356-369(1985)·Zbl 0591.90072号
[11] Nemirovskii,A.,Yudin,D.:优化中的问题复杂性和方法效率。威利,纽约(1983年)·Zbl 0501.90062号
[12] Nesterov,Y.:一种收敛速度为\[{O}(\frac{1}{k^2})O\](1k2)的无约束凸极小化方法。Doklady AN SSSR 269、543-547(1983)
[13] Nesterov,Y.:关于光滑凸函数最小化优化方法的构造方法。科诺姆。i.Mat.Metody(俄语)24,509-517(1988)·Zbl 0659.90068号
[14] Nesterov,Y.:凸优化入门讲座:基础课程。Kluwer,Dordrecht(2004)·Zbl 1086.90045号 ·doi:10.1007/978-1-4419-8853-9
[15] Nesterov,Y.:非光滑函数的平滑最小化。数学。程序。序列号。A 103,127-152(2005)·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[16] Nesterov,Y.:非光滑凸极小化中的过度间隙技术。SIAM J.Optim公司。16, 235-249 (2005) ·Zbl 1096.90026号 ·doi:10.1137/S1052623403422285
[17] Nesterov,Y.:平滑技术及其在半定优化中的应用。数学。程序。A 110,245-259(2007)·Zbl 1126.90058号 ·doi:10.1007/s10107-006-0001-8
[18] Nesterov,Y.:最小化复合目标函数的梯度方法。数学。程序。序列号。B.doi:10.1007/s10107-012-0629-5(2012)·Zbl 1126.90058号
[19] Polyak,B.T.:优化导论。优化软件公司,纽约(1987)·Zbl 0708.90083号
[20] Shor,N.Z.:不可微函数的最小化方法。计算数学中的斯普林格级数。施普林格,柏林(1985)·兹比尔0561.90058 ·doi:10.1007/978-3642-82118-9
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。