×

无约束优化的改进割线条件加速混合共轭梯度算法。 (英语) Zbl 1192.65074号

在之前的一篇论文中[Numer.Algorithms 47,No.2,143–156(2008;Zbl 1141.65041号)],作者提出了一种混合共轭梯度算法,作为Hestenes-Stiefel的凸组合[M.R.Hestenes先生E.施蒂费尔《国家研究杂志》。伯尔。站立。49, 409–435 (1952;Zbl 0048.09901号)]和代园[Y.H.戴Y.Yuan(元)、SIAM J.Optim.、。,10, 177–182 (1999;Zbl 0957.65061号)]算法,其中计算凸组合中的参数,以便与共轭梯度算法对应的方向可以是要遵循的最佳已知方向。本文提出了另一种用于无约束优化的混合共轭梯度算法,与使用经典割线条件的算法相比,该算法具有更好的性能和更强的鲁棒性。证明了该方法的收敛性。对750个无约束优化测试问题的数值实验表明,新算法优于经典的Hestenes-Stiefel和Dai-Yuan共轭梯度算法以及其他一些共轭梯度算法的混合变体。

MSC公司:

65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Andrei,N.:无约束优化共轭梯度算法的数值比较。螺柱。通知。控制16,333–352(2007)
[2] Andrei,N.:无约束优化测试函数集合。高级模型。最佳方案。10147–161(2008年)·Zbl 1161.90486号
[3] Andrei,N.:无约束优化的另一种混合共轭梯度算法。数字。算法47、143–156(2008)·Zbl 1141.65041号 ·doi:10.1007/s11075-007-9152-9
[4] Andrei,N.:无约束优化的混合共轭梯度算法。JOTA 141、249–264(2009年)·Zbl 1168.90017号 ·doi:10.1007/s10957-008-9505-0
[5] Andrei,N.:无约束优化共轭梯度算法的性能简介。收录:Floudas,C.A.,Pardalos,P.M.(编辑)优化百科全书,第二版。,第P卷,第2938–2953页。施普林格,纽约(2009)
[6] Andrei,N.:无约束优化共轭梯度算法的加速。申请。数学。计算。213, 361–369 (2009) ·Zbl 1172.65027号 ·doi:10.1016/j.amc.2009.03.020
[7] Aris,R.:渗透性催化剂中扩散和反应的数学理论。牛津(1975)·Zbl 0315.76052号
[8] Averick,B.M.、Carter,R.G.、Moré,J.J.、Xue,G.L.:MINPACK-2测试问题集。阿贡国家实验室数学和计算机科学部,预印本MCS-P153–0692(1992)
[9] Bongartz,I.,Conn,A.R.,Gould,N.I.M.,Toint,P.L.:CUTE:约束和非约束测试环境。ACM事务处理。数学。柔和。21, 123–160 (1995) ·Zbl 0886.65058号 ·doi:10.1145/200979.201043
[10] Cimatti,G.:关于由变分不等式支配的润滑理论问题。申请。数学。最佳方案。3, 227–242 (1977) ·Zbl 0404.76036号 ·doi:10.1007/BF01441967
[11] Dai,Y.H.:非线性共轭梯度法的新性质。数字。数学。89, 83–98 (2001) ·Zbl 1006.65063号 ·doi:10.1007/PL00005464
[12] Dai,Y.H.,Liao,L.Z.:新的共轭条件和相关的非线性共轭梯度方法。申请。数学。最佳方案。43, 87–101 (2001) ·Zbl 0973.65050号 ·doi:10.1007/s002450010019
[13] Dai,Y.H.,Yuan,Y.:一种具有强全局收敛性的非线性共轭梯度法。SIAM J.Optim公司。10177-182(1999年)·Zbl 0957.65061号 ·doi:10.1137/S1052623497318992
[14] Dai,Y.H.,Yuan,Y.:无约束优化的高效混合共轭梯度法。安·Oper。第103号、第33–47号决议(2001年)·兹比尔1007.90065 ·doi:10.1023/A:1012930416777
[15] Dai,Y.H.,Han,J.Y.,Liu,G.H.,Sun,D.F.,Yin,X.,Yuan,Y.:非线性共轭梯度法的收敛性质。SIAM J.Optim公司。10348–358(1999年)·Zbl 0957.65061号 ·doi:10.1137/S1052623497318992
[16] Daniel,J.W.:线性和非线性算子方程的共轭梯度法。SIAM J.数字。分析。4, 10–26 (1967) ·Zbl 0154.40302号 ·doi:10.1137/0704002
[17] Dolan,E.D.,Moré,J.J.:用性能曲线对优化软件进行基准测试。数学。程序。91, 201–213 (2002) ·邮编:1049.90004 ·doi:10.1007/s101070100263
[18] Fletcher,R.:《实用优化方法》,第1卷:无约束优化。威利,纽约(1987)·Zbl 0905.65002号
[19] Fletcher,R.,Reeves,C.:共轭梯度函数最小化。计算。J.7,149–154(1964)·Zbl 0132.11701号 ·doi:10.1093/comjnl/7.2.149
[20] Gilbert,J.C.,Nocedal,J.:优化共轭梯度法的全局收敛性。SIAM J.Optim公司。2, 21–42 (1992) ·Zbl 0767.90082号 ·doi:10.1137/0802003
[21] Glowinski,R.:非线性变分问题的数值方法。柏林施普林格(1984)·Zbl 0536.65054号
[22] Goodman,J.,Kohn,R.,Reyna,L.:优化设计中松弛变分问题的数值研究。计算。方法应用。机械。工程57、107–127(1986)·Zbl 0591.73119号 ·doi:10.1016/0045-7825(86)90073-3
[23] Hager,W.W.,Zhang,H.:一种新的共轭梯度法,具有保证下降和有效的线搜索。SIAM J.Optim公司。16, 170–192 (2005) ·邮编1093.90085 ·doi:10.1137/030601880
[24] Hager,W.W.,Zhang,H.:非线性共轭梯度方法综述。Pacific J.Optim公司。2, 35–58 (2006) ·Zbl 1117.90048号
[25] Hestenes,M.R.,Stiefel,E.L.:求解线性系统的共轭梯度方法。《国家研究杂志》。伯尔。站立。49, 409–436 (1952) ·Zbl 0048.09901号
[26] Hu,Y.F.,Storey,C.:共轭梯度法的全局收敛结果。J.优化。理论应用。71, 399–405 (1991) ·Zbl 0794.90063号 ·doi:10.1007/BF00939927
[27] Li,G.,Tang,C.,Wei,Z.:无约束优化的新共轭条件和相关的新共轭梯度方法。J.计算。申请。数学。202, 523–539 (2007) ·Zbl 1116.65069号 ·doi:10.1016/j.cam.2006.03.005
[28] Liu,D.C.,Nocedal,J.:关于大规模优化的有限内存BFGS方法。数学。程序。45, 503–528 (1989) ·Zbl 0696.90048号 ·doi:10.1007/BF0158916文件
[29] Liu,Y.,Storey,C.:高效广义共轭梯度算法,第1部分:理论。JOTA 69、129–137(1991)·Zbl 0724.90067号 ·doi:10.1007/BF00940464
[30] Nitsche,J.C.C.:最小曲面讲座,第1卷。剑桥大学出版社(1989)·Zbl 0688.53001号
[31] Nocedal,J.:共轭梯度法和非线性优化。摘自:Adams,L.,Nazareth,J.L.(编辑)《线性和非线性共轭梯度——相关方法》,第9-23页。SIAM,费城(1996)·Zbl 0866.65037号
[32] Perry,A.:一种改进的共轭梯度算法。西北大学经济与管理科学数学研究中心第229号讨论稿(1976年)
[33] Polak,E.,Ribière,G.:《Conjugue E方向收敛注释》,第16卷,第35-43页。法国信息研究所(Rev.Francaise Informat Recherche Operationelle,3e Année,1969)·兹标0174.48001
[34] Polyak,B.T.:极端问题中的共轭梯度法。苏联计算。数学。数学。物理学。9, 94–112 (1969) ·Zbl 0229.49023号 ·doi:10.1016/0041-5553(69)90035-4
[35] Powell,M.J.D.:共轭梯度法的重新启动程序。数学。程序。12241–254(1977年)·Zbl 0396.90072号 ·doi:10.1007/BF01593790
[36] Powell,M.J.D.:非凸最小化计算和共轭梯度法。In:数值分析(Dundee,1983)。《数学讲义》,第1066卷,第122-141页。柏林施普林格(1984)
[37] Touati-Ahmed,D.,Storey,C.:高效混合共轭梯度技术。J.优化。理论应用。64, 379–397 (1990) ·Zbl 0687.90081号 ·doi:10.1007/BF00939455
[38] Wolfe,P.:上升法的收敛条件。SIAM第11版,226–235(1969)·Zbl 0177.20603号 ·数字对象标识代码:10.1137/1011036
[39] Zhang,J.Z.,Deng,N.Y.,Chen,L.H.:无约束优化的新拟Newton方程和相关方法。J.优化。理论应用。102, 147–167 (1999) ·Zbl 0991.90135号 ·doi:10.1023/A:1021898630001
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。