×

无约束优化的三项共轭梯度算法。 (英语) Zbl 1274.90372号

摘要:本文提出了一个三项共轭梯度算法的开发方案。该类算法的搜索方向有三个项,作为经典共轭梯度算法的修正计算,以满足下降和共轭条件。给出了该类三项共轭梯度算法的一个例子,它是对经典和著名的Hestenes和Stiefel算法或由Hager和Zhang共轭梯度算法改进的CG_DESCENT算法的改进,同时满足下降和共轭条件。这些属性独立于行搜索。此外,该算法可以看作是对无记忆BFGS准牛顿法的一种改进。最小值的新近似值是通过通用Wolfe线搜索获得的,目前使用的是Andrei开发的标准加速技术。提出的三项共轭梯度算法大大优于著名的Hestenes和Stiefel共轭梯度算法以及更精细的CG_DESCENT算法。MINPACK-2测试问题集合中的5个应用程序(含10^6个变量)证明,与CG_DESCENT相比,所建议的三项共轭梯度算法表现最佳。

MSC公司:

90立方 非线性规划
65K10码 数值优化和变分技术
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Al-Bayati,A.Y。;Sharif,W.H.,无约束优化的一种新的三项共轭梯度法,Can。科学杂志。工程数学。,1, 5, 108-124 (2010)
[2] Andrei,N.,无约束优化的带回溯的梯度下降加速算法,Numer。算法,42,63-73(2006)·兹比尔1101.65058
[3] Andrei,N.,无约束优化的缩放共轭梯度算法,计算。最佳方案。申请。,38401-416(2007年)·Zbl 1168.90608号
[4] Andrei,N.,无约束优化的尺度无记忆BFGS预条件共轭梯度算法,Optim。方法软件,22,561-571(2007)·Zbl 1270.90068号
[5] Andrei,N.,无约束优化测试函数集合,高级模型。选择。,10, 147-161 (2008) ·Zbl 1161.90486号
[6] Andrei,N.,无约束优化共轭梯度算法的加速,应用。数学。计算。,213, 361-369 (2009) ·Zbl 1172.65027号
[7] Andrei,N.,无约束优化的改进Polak-Ribière-Polyak共轭梯度算法,优化,601457-1471(2011)·Zbl 1233.90255号
[10] Beale,E.M.L.,共轭梯度的导数,(Lootsma,F.A.,非线性优化的数值方法(1972),学术出版社:伦敦学术出版社),39-43·Zbl 0279.65052号
[12] Cheng,W.,基于PRP的两项下降法,Numer。功能。分析。最佳。,28, 1217-1230 (2007) ·Zbl 1138.90028号
[13] Cimatti,G.,关于变分不等式支配的润滑理论问题,应用。数学。最佳。,3, 227-242 (1977) ·Zbl 0404.76036号
[14] Dai,Y.H。;廖立中,新共轭条件及相关非线性共轭梯度法,应用。数学。最佳。,43, 87-101 (2001) ·Zbl 0973.65050号
[15] Dai,Y.H。;Yuan,Y.,一种具有强全局收敛性的非线性共轭梯度法,SIAM J.Optim。,10, 177-182 (1999) ·Zbl 0957.65061号
[16] 邓,纽约。;Li,Z.,三项共轭梯度法的全局收敛性,Optim。方法软件,4273-282(1995)
[18] 弗莱彻,R。;Reeves,C.M.,共轭梯度函数最小化,计算。J.,7149-154(1964年)·Zbl 0132.11701号
[19] Glowinski,R.,非线性变分问题的数值方法(1984),Springer-Verlag:Springer-Verlag Berlin·Zbl 0575.65123号
[20] J.古德曼。;科恩,R。;Reyna,L.,优化设计中松弛变分问题的数值研究,计算。方法应用。机械。工程师,57,107-127(1986)·Zbl 0591.73119号
[21] 海格,W.W。;Zhang,H.,一种新的保下降共轭梯度法和有效的线性搜索,SIAM J.Optim。,16, 170-192 (2005) ·邮编1093.90085
[22] Hestenes,M.R。;Stiefel,E.L.,求解线性系统的共轭梯度方法,J.Res.Nat.Bur。支架。,49, 409-436 (1952) ·Zbl 0048.09901号
[23] 刘,Y。;Storey,C.,高效广义共轭梯度算法,第1部分:理论,JOTA,69,129-137(1991)·Zbl 0702.90077号
[25] Y.Narushima。;Yabe,H。;Ford,J.A.,无约束优化问题的具有充分下降性的三项共轭梯度法,SIAM J.Optim。,21, 1, 212-230 (2011) ·Zbl 1250.90087号
[26] Nazareth,L.,无需线搜索的共轭方向算法,J.Optim。西奥。申请。,23, 373-387 (1977) ·Zbl 0348.65061号
[27] Nitsche,J.C.C.,最小曲面讲座,1(1989),剑桥大学出版社·Zbl 0688.53001号
[28] Nocedal,J.,共轭梯度法和非线性优化,(Adams,L.;Nazareth,J.L.,线性和非线性共轭梯度相关方法(1996),SIAM),9-23·Zbl 0866.65037号
[30] Polyak,B.T.,极端问题中的共轭梯度法,苏联计算。数学。数学。物理。,9, 94-112 (1969) ·Zbl 0229.49023号
[32] Shanno,D.F.,关于新共轭梯度算法的收敛性,SIAM J.Numer。分析。,15, 1247-1257 (1978) ·Zbl 0408.90071号
[33] Shanno,D.F。;Phua,K.H.,算法500,无约束多元函数最小化,ACM Trans。数学。软件,287-94(1976)·Zbl 0319.65042号
[34] Wolfe,P.,上升法的收敛条件,SIAM Rev.,11226-235(1968)·Zbl 0177.20603号
[35] Wolfe,P.,上升法的收敛条件,(II):一些修正,SIAM Rev.,13,185-188(1971)·Zbl 0216.26901号
[36] 张,L。;周,W。;Li,D.H.,下降修正的Polak-Ribière-Polyak共轭梯度法及其全局收敛性,IMA J.Numer。分析。,26, 629-640 (2006) ·Zbl 1106.65056号
[37] 张,L。;周,W。;Li,D.H.,一些下降三项共轭梯度方法及其全局收敛性,Optim。方法软件,22,697-711(2007)·Zbl 1220.90094号
[39] 张,L。;Zhou,Y.,关于原三项Hestenes-Stiefel方法AMO-Adv.模型收敛性的注记。最佳。,14, 159-163 (2012) ·Zbl 1332.65089号
[40] Zoutendijk,G.,《非线性规划,计算方法》,(Abadie,J.,《整数与非线性规划》(1970年),北荷兰:北荷兰阿姆斯特丹),38-86·Zbl 0336.90057号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。