×

凸约束优化问题的不精确变度量方法。 (英语) Zbl 1486.90186号

摘要:本文研究求解凸约束优化问题的非精确变尺度方法。在该方法的每次迭代中,通过不精确地最小化闭凸可行集上的严格凸二次函数来获得搜索方向。在这里,我们为搜索方向子问题提出了一个新的不精确性准则。在温和的假设下,我们证明了由新方法生成的序列的任何累积点都是所考虑问题的平稳点。为了说明新方法的实际优势,我们报告了一些数值实验。特别是,我们提出了一个应用程序,其中我们的不精确解概念非常有吸引力。

MSC公司:

90立方 非线性规划
90 C59 数学规划中的近似方法和启发式
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 伯金,EG;马丁内斯,JM;Raydan,M.,凸集上的非单调谱投影梯度法,SIAM J Optim,101196-1211(2000)·Zbl 1047.90077号
[2] 格里波,L。;Lampariello,F。;Lucidi,S.,牛顿法的非单调线搜索技术,SIAM J Numer Anal,23,4,707-716(1986)·Zbl 0616.65067号
[3] Barzilai,J。;Borwein,JM.,两点步长梯度法,IMA J Numer Ana,8,1,141-148(1988)·Zbl 0638.65055号
[4] 安德烈塔,M。;伯金,EG;Martínez,JM.,线性约束优化的活性集策略的部分谱投影梯度法,数值算法,53,23-52(2009)·Zbl 1185.65096号
[5] 伯金,EG;马丁内斯,JM;Raydan,M.,算法813:SPG-凸约束优化软件,ACM Trans Math Softw,27,3,340-349(2001)·Zbl 1070.65547号
[6] 伯金,EG;马丁内斯,JM;Raydan,M.,《光谱投影梯度法:回顾与展望》,J Stat Softw,60,3,1-21(2014)
[7] 铁芯,D。;Escalante,R。;González-Lima,M.,《关于谱投影梯度法在支持向量机中的应用》,《计算应用数学杂志》,28,327-364(2009)·Zbl 1229.46046号
[8] Gomes-Ruggiero,马萨诸塞州;马丁内斯,JM;Santos,SA.,非凸约束下最小化的不精确恢复谱投影梯度法,科学计算杂志,31,3,1628-1652(2009)·Zbl 1220.90123号
[9] 格雷罗,J。;Raydan,M。;Rojas,M.,图像恢复中大规模非负全正则化的混合优化方法,Inver Probl Sci En,21,741-766(2011)
[10] 刘杰。;Duan,Y.,约束方程的两种谱梯度投影方法及其线性收敛速度,《不等式应用》,2015,1,8(2015)·Zbl 1310.65066号
[11] 马丁内斯,JM;皮洛塔,EA;Raydan,M.,线性约束优化的谱梯度方法,J Optim Theor Appl,125629-651(2005)·Zbl 1079.90164号
[12] 王,C。;刘,Q。;杨,X.,非单调谱投影梯度法的收敛性,计算应用数学杂志,182,51-66(2005)·Zbl 1072.90052号
[13] 于,Z。;林,J。;Sun,J.,凸约束单调非线性方程的谱梯度投影法,应用数值数学,59,10,2416-2423(2009)·Zbl 1183.65056号
[14] 张,L。;Zhou,W.,求解非线性单调方程的谱梯度投影方法,计算机应用数学杂志,196,2478-484(2006)·Zbl 1128.65034号
[15] 伯金,EG;马丁内斯,JM;Raydan,M.,凸集上的非精确谱投影梯度法,IMA J Numer Anal,23,539-559(2003)·Zbl 1047.65042号
[16] 安德烈亚尼(Andreani,R.)。;伯金,EG;Martínez,JM,线性不等式优化的谱投影梯度和可变度量方法,IMA J Numer Anal,25221-252(2005)·Zbl 1072.90051号
[17] Boyle,JP,Dykstra,RL。一种在Hilbert空间中寻找凸集交集投影的方法。收录人:Dykstra R、Robertson T和Wright FT,编辑。有序限制统计推断的进展。纽约州纽约市:斯普林格;1986年,第28-47页·Zbl 0603.49024号
[18] JC.邓恩。,由隐式步长规则生成的条件梯度序列的收敛速度,SIAM J Control Optim,18,5,473-487(1980)·Zbl 0457.65048号
[19] M.弗兰克。;Wolfe,P.,二次规划的算法,Nav-Res-Logist Q,3,1-2,95-110(1956)
[20] Freund,R,Grigas,P。Frank-Wolfe方法的新分析和结果。数学课程。2014年,第1-32页·Zbl 1342.90101号
[21] Jaggi,M.重访Frank-Wolfe:无投影稀疏凸优化。第三十届机器学习国际会议论文集(ICML-13);2013年第28卷。第427-435页。
[22] 古尔德,NIM;Orban,D。;Toint,PL.,Cuter,约束和非约束测试环境,重访,ACM Trans Math Softw,29373-394(2003)·Zbl 1068.90526号
[23] Huyer,W。;Neumaier,A.,MINQ8:广义定约束不定二次规划,计算优化应用,69,351-381(2018)·Zbl 1400.90240号
[24] 盖拉特,J。;Marcotte,P.,对Wolfe的“离开步骤”的一些评论,《数学课程》,35,110-119(1986)·Zbl 0592.90074号
[25] Nocedal,J。;Wright,SJ.,《数值优化》(2006),美国纽约州纽约市:Springer·Zbl 1104.65059号
[26] MJD鲍威尔。半无限规划计算的对数屏障方法。收件人:Lipitakis EA,编辑。计算机数学及其应用的进展。1993年,第1-21页·Zbl 0801.65062号
[27] Woodgate,KG.,正半定对称P上F=PG的最小二乘解,线性代数应用,245171-190(1996)·Zbl 0856.90106号
[28] Gonçalves,D。;戈梅斯·鲁杰罗,M。;Lavor,C.,密度矩阵优化的投影梯度法,Optim Meth Softw,31,2,328-341(2016)·Zbl 1342.65143号
[29] 新泽西州海姆。,计算最近对称半正定矩阵,线性代数应用,103103-118(1988)·Zbl 0649.65026号
[30] Gonçalves,DS,Gonçalves,MLN,Oliveira,FR。约束非线性系统的不精确投影的Levenberg-Marquardt方法。2019年8月。arXiv:1908.06118。
[31] Toh,K-C.,凸二次SDP的不精确原对偶路径跟踪算法,数学程序,112,1,221-254(2008)·Zbl 1136.90027号
[32] Garber,D.谱面上的快速无投影凸优化。高级神经信息处理系统。2016年,第874-882页。
[33] Allen-Zhu,Z,Hazan,E,Hu,W,et al.轨迹球上Frank-Wolfe型算法的线性收敛性。高级神经信息处理系统。2017年,第6191-6200页。
[34] 丁,L,费,Y,徐,Q,等。谱Frank-Wolfe算法:严格互补和线性收敛。第37届机器学习国际会议论文集;2020
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。