×

关于具有极值距离松弛的凸函数极小化方法的性质。 (英语。俄文原件) Zbl 1434.90139号

自动。远程控制 80,编号1,102-111(2019); Avtom翻译。Telemekh公司。2019年,第1126-137号(2019)。
小结:我们提出了一种次梯度极小化方法,类似于求解方程组的最小迭代方法,它继承了二次函数的后一种收敛特性。对于某一组参数,所提出的算法与先前已知的分段线性函数极小化方法一致,并且是B.T.Polyak开发的极值距离松弛的极小化算法家族的一个元素,其中,步长是根据函数的预定义最小值计算的。我们将此方法的参数与函数同质性程度的约束联系起来,并获得其在凸函数上的收敛速度估计。我们证明了在某些函数类上,它以几何级数的速度收敛。我们还讨论了这种方法解决高维问题的计算能力。

MSC公司:

90C25型 凸面编程
90摄氏52度 减少梯度类型的方法

软件:

NESUN公司
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Shor,N.Z.,梯度下降法在解决网络运输问题中的应用,Proc。理论与应用问题研讨会。网络。操作人员。基辅研究所:Nauch。《苏维埃·波·基伯内蒂克·苏联》,1962年,第1期,第9-17页。
[2] Polyak,B.T.,《解决极端问题的一种通用方法》,Dokl。苏联,1967年,第174卷,第1期,第33-36页。
[3] Polyak,B.T.,Vvedenie v optimizatsiyu(优化导论),莫斯科:瑙卡,1983年·Zbl 0652.49002号
[4] Wolfe,P.,《关于最小化不可微函数的共轭子梯度方法的注记》,数学。程序。,1974年,第7卷,第1期,第380-383页·Zbl 0296.90039号 ·doi:10.1007/BF01585533
[5] Lemarechal,C.,Davidon方法对不可微问题的扩展,数学。程序。研究,1975年,第3卷,第95-109页·Zbl 0358.90051号 ·doi:10.1007/BFb0120700
[6] Nemirovskii,A.S.和Yudin,D.B.,Slozhnost‘zadach i effektivnost’metodov optimizatsii(问题的复杂性和优化方法的效率),莫斯科:瑙卡,1979年·兹比尔0501.90061
[7] Shor,N.Z.,《Metody minimizatsii nedifferentisruemykh funktsii i ikh prilozheniya(不可微函数的最小化方法及其应用)》,基辅:Naukova Dumka,1979年·Zbl 0524.49002号
[8] Krutikov,V.N.和Petrova,T.V.,在次梯度方向上空间扩张的最小化松弛方法,Ekonom。Mat.Metody,2003年,第39卷,第1期,第106-119页·Zbl 1075.90560号
[9] Krutikov,V.N.和Gorskaya,T.A.,《度量矩阵的二阶修正松弛次梯度方法家族》,Ekonom。Mat.Metody,2009年,第45卷,第4期,第37-80页。
[10] Nurminskii,E.A.和Tien,D.,带约束记忆的共轭子梯度方法,Autom。《远程控制》,2014年,第75卷,第4期,第646-656页·Zbl 1297.90180号 ·doi:10.1134/S0005117914040055
[11] V.N.Krutikov和Ya Vershinin。N.,解决高维非光滑最小化问题的多步子梯度方法,Vestn。托木斯克。戈斯。马特·梅赫大学。,2014年,第3期,第5-19页·Zbl 07604747号
[12] Krutikov,V.N。;亚·凡尔什宁。N.,基于训练关系对修正下降向量的子梯度最小化方法(2014)·兹伯利07604747
[13] Gol'shtein,E.G.、Nemirovskii,A.S.和Nesterov,Yu。E.,水平方法,其推广和应用,Ekonom。Mat.Metody,1995年,第31卷,第3期,第164-180页·Zbl 0853.90091号
[14] 于内斯特罗夫。E.,非光滑函数的平滑最小化,数学。程序。,2005年,第103卷,第1期,第127-152页·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[15] 于内斯特罗夫。,凸优化问题的通用梯度法,数学。程序。,序列号。A、 2015年,第152卷,第381-404页·Zbl 1327.90216号 ·doi:10.1007/s10107-014-0790-0
[16] A.V.Gasnikov和Yu Nesterov。E.,《随机组合优化问题的通用方法》,电子版,2016年。https://arxiv.org/ftp/arxiv/papers/1604/1604.05275.pdf
[17] 于内斯特罗夫。,大规模优化问题的次梯度方法(2013)·Zbl 1297.90120号
[18] Polyak,B.T.,非光滑函数的最小化,Zh。维奇尔。Mat.Mat.Fiz.,材料Fiz。,1969年,第9卷,第3期,第507-521页。
[19] Samoilnko,N.S.、Krutikov,V.N.和Meshechkin,V.V.,《次梯度法一种变体的研究》,Vestn。科默。戈斯。大学,2015年,第5(2)期,第55-58页。
[20] Fadeev,D.K.和Fadeeva,D.K.Vychislitel'nye metody lineinoi algebry(线性代数的计算方法),莫斯科:Fizmatgiz,1963年。
[21] 沃沃丁,V.V.和库兹涅佐夫,Yu。A.,Matritsy i vychisleniya(矩阵与计算),莫斯科:瑙卡,1984年·Zbl 0537.65024号
[22] Camerini,P.、Fratta,L.和Maffioli,F.,《通过改进梯度技术改进松弛方法》,数学。程序。,1975年,第3期,第26-34页·Zbl 0357.90031号 ·doi:10.1007/BFb0120697
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。