×

关于矢量优化的Hager-Zhang共轭梯度法的推广。 (英文) Zbl 1446.90142号

小结:本文讨论了矢量优化的Hager-Zhang(HZ)非线性共轭梯度法的推广。在标量最小化的情况下,例如,只要线搜索满足标准Wolfe条件,该方法就会生成下降方向。我们首先表明,一般来说,即使使用精确的线搜索,矢量优化的HZ方法的直接扩展也不会产生下降(在矢量意义上)。通过使用足够精确的线搜索,我们提出了一种具有下降特性的自调整HZ方法。在标量极小化情况下,所提出的具有适当参数的HZ方法简化为经典方法。证明了新方案的全局收敛性,无需正则重启和任何凸假设。最后,给出了该方法的实际性能的数值实验,并与Hestenes-Stiefel共轭梯度法和最速下降法进行了比较。

MSC公司:

90C29型 多目标规划
90摄氏52度 降低梯度类型的方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 安萨里,文学硕士;Panda,G.,向量优化问题的修正拟Newton方法,optimization,64,11,2289-2306(2015)·Zbl 1327.90275号
[2] Bello Cruz,JY,向量优化问题的次梯度方法,SIAM J.Optim。,23, 4, 2169-2182 (2013) ·Zbl 1295.90065号
[3] 伯金,EG;Martínez,JM,约束优化的实用增广拉格朗日方法(2014),纽约:SIAM,纽约·Zbl 1339.90312号
[4] Bonnel,H。;安大略省Iusem;Svaiter,BF,矢量优化中的近似方法,SIAM J.Optim。,15, 4, 953-970 (2005) ·邮编1093.90054
[5] 曾,LC;Mordukhovich,理学学士;姚,JC,向量优化的带辅助变分不等式的混合近似逼近法,J.Optim。理论应用。,146, 2, 267-303 (2010) ·兹比尔1251.90388
[6] 曾,LC;姚,JC,向量优化中的近似近似方法,欧洲期刊Oper。研究,183,1,1-19(2007)·Zbl 1128.90053号
[7] Chuong,TD,向量优化有效解的广义近似法,Numer。功能。分析。最佳。,第32、8、843-857页(2011年)·Zbl 1232.49036号
[8] Chuong,TD,向量优化中高效解的类牛顿方法,计算。最佳方案。申请。,54, 3, 495-516 (2013) ·Zbl 1295.90068号
[9] Chuong,TD;Mordukhovich,理学学士;Yao,JC,向量优化有效解的混合近似近似近似算法,J.非线性凸分析。,12, 2, 257-285 (2011) ·Zbl 1223.49033号
[10] Chuong,TD;姚,JC,向量优化问题临界点的最速下降法,应用。分析。,91, 10, 1811-1829 (2012) ·Zbl 1252.49052号
[11] 戴,Y。;Kou,C.,一种具有优化特性和改进Wolfe线搜索的非线性共轭梯度算法,SIAM J.Optim。,23, 1, 296-320 (2013) ·兹比尔1266.49065
[12] 戴,YH;Yuan,Y.,一种具有强全局收敛性的非线性共轭梯度法,SIAM J.Optim。,10, 1, 177-182 (1999) ·Zbl 0957.65061号
[13] 达斯,I。;Dennis,J.,《正边界交集:非线性多准则优化问题中生成Pareto曲面的新方法》,SIAM J.Optim。,8, 3, 631-657 (1998) ·Zbl 0911.90287号
[14] Fletcher,R.,《实用优化方法,无约束优化》(1987),纽约:John Wiley&Sons出版社,纽约·Zbl 0905.65002号
[15] 弗莱彻,R。;Reeves,CM,共轭梯度函数最小化,计算。J.,7,2,149-154(1964)·Zbl 0132.11701号
[16] 弗利格,J。;格拉尼亚·德拉蒙德,LM;斯瓦特,BF,牛顿多目标优化方法,SIAM J.Optim。,20, 2, 602-626 (2009) ·Zbl 1195.90078号
[17] 弗利格,J。;Svaiter,BF,多准则优化的最速下降法,数学。方法操作。决议,51,3,479-494(2000)·Zbl 1054.90067号
[18] 福田,裕利安怡;Graña Drummond,LM,关于向量优化投影梯度法的收敛性,optimization,60,8-9,1009-1021(2011)·Zbl 1231.90331号
[19] 福田康夫,EH;Graña Drummond,LM,矢量优化的不精确投影梯度法,Comput。最佳方案。申请。,54, 3, 473-493 (2013) ·Zbl 1295.90069号
[20] Gilbert,JC;Nocedal,J.,共轭梯度优化方法的全局收敛性,SIAM J.Optim。,2, 1, 21-42 (1992) ·兹比尔0767.90082
[21] 格拉尼亚·德拉蒙德,LM;Iusem,AN,向量优化问题的投影梯度法,计算。最佳方案。申请。,28, 1, 5-29 (2004) ·Zbl 1056.90126号
[22] 格拉尼亚·德拉蒙德,LM;Raupp,FMP;Svaiter,BF,向量优化的二次收敛牛顿法,优化,63,5,661-677(2014)·Zbl 1302.90196号
[23] 格拉尼亚·德拉蒙德,LM;Svaiter,BF,向量优化的最速下降法,J.Compute。申请。数学。,175, 2, 395-414 (2005) ·Zbl 1058.90060号
[24] 格里波,L。;Lucidi,S.,Polak-Ribière共轭梯度法的全球收敛版本,数学。程序。,78, 3, 375-391 (1997) ·Zbl 0887.90157号
[25] 哈格,WW;Zhang,H.,一种新的保下降共轭梯度法和有效的线性搜索,SIAM J.Optim。,16, 1, 170-192 (2005) ·邮编1093.90085
[26] 哈格,WW;Zhang,H.,非线性共轭梯度法综述,Pac。J.Optim。,2, 1, 35-58 (2006) ·Zbl 1117.90048号
[27] 赫斯特内斯,MR;Stiefel,E.,《求解线性系统的共轭梯度方法》(1952),华盛顿特区:国家标准局研究杂志,华盛顿特区·Zbl 0048.09901号
[28] Hillermeier,C.,多目标优化的广义同伦方法,J.Optim。理论应用。,110, 3, 557-583 (2001) ·Zbl 1064.90041号
[29] Huband,S。;辛斯顿,P。;巴龙,L。;然而,L.,《多目标测试问题综述和可扩展测试问题工具包》,IEEE Trans。埃沃。计算。,10, 5, 477-506 (2006)
[30] Kim,I。;de Weck,O.,双目标优化的自适应加权和方法:Pareto前沿生成,结构。多磁盘。最佳。,29, 2, 149-158 (2005)
[31] 刘,DC;Nocedal,J.,《关于大规模优化的有限内存BFGS方法》,数学。程序。,45, 1, 503-528 (1989) ·Zbl 0696.90048号
[32] 卢·F。;Chen,CR,求解向量优化问题的类牛顿方法,应用。分析。,93, 8, 1567-1586 (2014) ·Zbl 1295.90072号
[33] Luc,D.T.:向量优化理论,经济学和数学系统讲义,第319卷。柏林施普林格(1989)
[34] 卢卡比奥·佩雷斯,LR;Prudentie,LF,向量优化的非线性共轭梯度方法,SIAM J.Optim。,2690-2720年3月28日(2018年)·Zbl 1401.90210号
[35] 卢卡比奥·佩雷斯,LR;Prudente,LF,向量优化的Wolfe线搜索算法,ACM Trans。数学。柔软。(2019) ·Zbl 1486.65066号 ·doi:10.145/3342104
[36] Miglierina,E。;Molho,E。;Recchioni,M.,《Box约束多目标优化:无先验尺度化的类梯度方法》,欧洲期刊Oper。决议,188,3662-682(2008)·Zbl 1144.90482号
[37] Mita,K。;福田,裕利安怡;Yamashita,N.,无约束多目标优化问题的非单调线搜索,J.Glob。最佳。,75, 1, 63-90 (2019) ·Zbl 1428.90155号
[38] 莫雷,JJ;Garbow,理学学士;Hillstrom,KE,测试无约束优化软件,ACM Trans。数学。软质。,7, 1, 17-41 (1981) ·Zbl 0454.65049号
[39] Y.Narushima。;Yabe,H.,无约束优化的充分下降共轭梯度法综述,SUT J.Math。,50, 2, 167-203 (2014) ·Zbl 1329.90142号
[40] Polak,E。;Ribière,G.,Note sur la convergence de méthodes de directionguées,Revue française d'informatique et de recherche opérationelle,série rouge,3,1,35-43(1969)·兹标0174.48001
[41] Polyak,BT,极值问题中的共轭梯度法,苏联计算机。数学。数学。物理。,9, 4, 94-112 (1969) ·Zbl 0229.49023号
[42] 普劳斯,M。;Naujoks,B。;鲁道夫,G。;Runarsson,TP;Beyer,HG公司;伯克,E。;梅雷洛·盖尔沃斯,JJ;LD惠特利;Yao,X.,简单多目标函数的Pareto集和EMOA行为,Nature-PPSN IX的并行问题解决,513-522(2006),柏林:Springer,柏林
[43] Qu,S。;Goh,M。;Chan,FT,求解多目标优化问题的拟牛顿方法,Oper。Res.Lett.公司。,39,5397-399(2011年)·Zbl 1235.90139号
[44] 舒茨,O。;Laumanns,M。;加利福尼亚州科埃洛·科埃洛;Dellnitz,M。;Talbi,EG,随机搜索算法到有限大小Pareto集近似的收敛性,J.Glob。最佳。,41, 4, 559-577 (2008) ·Zbl 1152.90598号
[45] 施,ZJ;沈,J.,刘-斯托里共轭梯度法的收敛性,欧洲期刊Oper。研究,182,2552-560(2007)·Zbl 1121.90125号
[46] Toint,P.L.:部分可分离优化的测试问题和常规PSPMIN的结果。比利时纳穆尔大学数学系技术报告(1983年)
[47] 维拉科塔,KD;Oliveira,PR,《向量优化中的内部近似方法》,欧洲期刊Oper。第214、3485-492号决议(2011年)·Zbl 1244.90244号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。