×

相对光滑凸优化的一阶方法及其应用。 (英语) Zbl 1392.90090号

摘要:发展和分析光滑凸优化一阶方法的常用方法假设目标函数的梯度是一致光滑的,且具有某些Lipschitz常数。然而,在许多情况下,可微凸函数(f(\cdot))不是一致光滑的,例如,在(D)最优设计中,其中(f(x):=-\ln\det(HXH^T))和(x:=\mathbf D\mathrm{iag}(x)),甚至是单变量设置。在本文中,我们提出了“相对光滑”和相对强凸性的概念,它是相对于用户特定的“参考函数”(h(\cdot))确定的(这对于算法来说应该是可计算的),并且我们证明了许多可微凸函数相对于相对简单的参考函数(h(\cdot))是相对光滑的。我们将两个标准算法——原始梯度方案和对偶平均方案——扩展到我们的新设置,并提供相关的计算保证。我们应用我们的新方法为D最优设计问题开发了一种新的一阶方法,并进行了相关的计算复杂性分析。我们的一些结果与最近的工作有一定的重叠[H.H.鲍斯科等,数学。操作。第42号决议,第2号,330-348(2017年;Zbl 1364.90251号)].

MSC公司:

90C25型 凸面编程
65千5 数值数学规划方法
65年第68季度 算法和问题复杂性分析
90C06型 数学规划中的大尺度问题

软件:

MVE公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] S.D.Ahipasaoglu、P.Sun和M.J.Todd,{计算最小体积封闭椭球体的修正Frank-Wolfe算法的线性收敛性},Optim。方法软件。,23(2008),第5-19页·Zbl 1146.90047号
[2] K.Anstreicher,{线性规划的大步长体积势约简算法},Ann.Oper。Res,62(1996),第521-538页·兹比尔0848.90080
[3] K.M.Anstreicher,{\it半定规划的体积障碍},数学。操作。研究,25(2000),第365-380页·Zbl 1073.90533号
[4] C.L.Atwood,《实验的优化和有效设计》,《数学年鉴》。统计人员。,40(1969年),第1570-1602页·Zbl 0182.51905号
[5] M.Avriel,{it非线性规划:分析与方法},普伦蒂斯·霍尔,恩格尔伍德·克利夫斯,新泽西州,1976年·Zbl 0361.90035号
[6] H.H.Bauschke,J.Bolte,M.Teboulle,{超越Lipschitz梯度连续性的下降引理:一阶方法重访与应用},数学。操作。研究,42(2017),第330-348页·Zbl 1364.90251号
[7] A.Belloni和R.M.Freund,《关于二阶可行性锥:原对偶表示和有效投影》,SIAM J.Optim。,19(2008),第1073-1092页·Zbl 1194.90123号
[8] C.Croux、G.Haesbroeck和P.J.Rousseeuw,{最小体积椭球估计器的位置调整},统计。计算。,12(2002),第191-200页。
[9] F.John,{以不平等为辅助条件的极端问题},载于《研究与论文》,在R.Courant 60岁生日时提交给他的论文,Interscience,纽约,1948年,第187-204页·Zbl 0034.10503中
[10] L.G.Khachiyan,{实数计算模型中多面体的四舍五入},数学。操作。研究,21(1996),第307-320页·Zbl 0856.68066号
[11] L.G.Khachiyan和M.J.Todd,{关于近似多面体的最大内接椭球体的复杂性},数学。程序。,61(1993),第137-159页·兹比尔0792.90088
[12] J.Kiefer和J.Wolfowitz,《两个极值问题的等价性》,Canad。数学杂志。,12(1960年),第363-365页·Zbl 0093.15602号
[13] E.M.Knorr、R.T.Ng和R.H.Zamar,{远程操作的稳健空间转换},《第七届ACM SIGKDD知识发现和数据挖掘国际会议论文集》,ACM,纽约,2001年,第126-135页。
[14] A.Nemirovsky和D.B.Yudin,{优化中的问题复杂性和方法效率},威利,纽约,1983年·Zbl 0501.90062号
[15] Y.Nesterov,{凸优化入门讲座:基础课程},Kluwer学术,波士顿,2003年·Zbl 1086.90045号
[16] Y.Nesterov,{非光滑函数的平滑最小化},数学。程序。,103(2005),第127-152页·Zbl 1079.90102号
[17] Y.Nesterov,{凸问题的原对偶次梯度方法},数学。程序。,120(2009),第221-259页·Zbl 1191.90038号
[18] Y.Nesterov,{\it最小化复合函数的梯度方法},数学。程序。,140(2013),第125-161页·Zbl 1287.90067号
[19] B.Polyak,《优化导论》,优化软件,纽约,1987年·Zbl 0625.62093号
[20] P.Sun和R.M.Freund,{覆盖椭球体的最小体积计算},Oper。Res.,52(2004),第690-706页·Zbl 1165.90571号
[21] M.J.Todd,《最小体积椭球体:理论与算法》,MOS-IAM系列。最佳方案。2016年,费城SIAM 23号·Zbl 1360.90006号
[22] P.Tseng,{\it On Accelerated Proximal Gradient Methods for凹凸优化},技术报告,麻省理工学院,剑桥,马萨诸塞州,2008年。
[23] P.M.Vaidya,{凸集上最小化凸函数的一种新算法},《第30届计算机科学基础年会论文集》,1989年,IEEE计算机学会,洛杉矶,1989,第338-343页。
[24] Y.Ye,{它是球面约束下最小化一般二次函数的一个新的复杂性结果},载于《全局优化的最新进展》,C.Floudas和P.Pardalos主编,普林斯顿大学出版社,新泽西州普林斯顿,1992年,第19-31页。
[25] E.A.Yildirim,{关于椭球体的最小体积覆盖椭球体},SIAM J.Optim。,17(2006年),第621-641页·Zbl 1128.90048号
[26] C.Zalinescu,{一般向量空间中的凸分析},世界科学,新加坡,2002年·Zbl 1023.46003号
[27] Y.Zhang,{最大体积椭球问题的内点算法},计算与应用数学系,技术报告TR98-15,莱斯大学,休斯顿,德克萨斯州,1998年。
[28] Y.Zhou、Y.Liang和L.Shen,{it A Unified Approach to Proximal Algorithms using Bregman Distance},技术报告,雪城大学,雪城,纽约,2016。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。