×

无约束优化的混合共轭梯度算法。 (英语) Zbl 1168.90017号

摘要:提出并分析了一种新的混合共轭梯度算法。参数(beta_{k})是Polak-Ribière-Polyak和Dai-Yuan共轭梯度算法的凸组合,即(beta^N_k=(1-\theta_{k})beta^PRP_k+\theta_{k}\beta^DY_k)。凸组合中的参数(θ_{k})的计算方式是满足共轭条件,与线搜索无关。行搜索使用标准Wolfe条件。该算法生成下降方向,当迭代干扰时,方向满足充分下降条件。与使用750个无约束优化问题(其中一些来自CUTE库)的共轭梯度算法的数值比较表明,这种混合计算方案优于已知的混合共轭梯度算法。

MSC公司:

90摄氏52度 减少梯度类型的方法
90立方 非线性规划
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Hager,W.W.,Zhang,H.:非线性共轭梯度方法综述。派克靴。J.优化。2, 35–58 (2006) ·Zbl 1117.90048号
[2] Fletcher,R.,Reeves,C.:共轭梯度函数最小化。计算。J.7,149–154(1964)·Zbl 0132.11701号 ·doi:10.1093/comjnl/7.2.149
[3] Dai,Y.H.,Yuan,Y.:一种具有强全局收敛性的非线性共轭梯度法。SIAM J.Optim公司。10, 177–182 (1999) ·Zbl 0957.65061号 ·doi:10.1137/S1052623497318992
[4] Fletcher,R.:无约束优化。实用优化方法,第1卷。威利,纽约(1987)·Zbl 0905.65002号
[5] Polak,E.,Ribière,G.:关于共轭方向收敛性的注。修订版Fr.Inf.Rech。操作。3e Anneée 16,35-43(1969年)·Zbl 0174.48001号
[6] Poliak,B.T.:极值问题中的共轭梯度法。苏联计算机。数学。数学。物理。9, 94–112 (1969) ·Zbl 0229.49023号 ·doi:10.1016/0041-5553(69)90035-4
[7] Hestenes,M.R.,Stiefel,E.L.:求解线性系统的共轭梯度方法。《国家研究杂志》。伯尔。站立。49, 409–436 (1952) ·兹比尔0048.09901
[8] Liu,Y.,Storey,C.:高效广义共轭梯度算法,第1部分:理论。J.优化。理论应用。69, 129–137 (1991) ·doi:10.1007/BF00940464
[9] Touati-Ahmed,D.,Storey,C.:高效混合共轭梯度技术。J.优化。理论应用。64, 379–397 (1990) ·doi:10.1007/BF00939455
[10] Hu,Y.F.,Storey,C.:共轭梯度法的全局收敛结果。J.优化。理论应用。71, 399–405 (1991) ·兹比尔0794.90063 ·doi:10.1007/BF00939927
[11] Gilbert,J.C.,Nocedal,J.:优化共轭梯度法的全局收敛性。SIAM J.Optim公司。2, 21–42 (1992) ·Zbl 0767.90082号 ·doi:10.1137/0802003年
[12] Dai,Y.H.,Yuan,Y.:无约束优化的高效混合共轭梯度法。安·Oper。第103号、第33–47号决议(2001年)·兹比尔1007.90065 ·doi:10.1023/A:1012930416777
[13] Dolan,E.D.,Moré,J.J.:用性能曲线对优化软件进行基准测试。数学。程序。91, 201–213 (2002) ·邮编:1049.90004 ·doi:10.1007/s101070100263
[14] Bongartz,I.,Conn,A.R.,Gould,N.I.M.,Toint,P.L.:CUTE:约束和非约束测试环境。ACM事务处理。数学。柔和。21223-160(1995年)·Zbl 0886.65058号 ·doi:10.1145/200979.201043
[15] Andrei,N.:无约束优化测试函数集合。高级模型。最佳方案。10, 147–161 (2008) ·Zbl 1161.90486号
[16] Powell,M.J.D.:重新启动共轭梯度法的程序。数学。程序。2, 241–254 (1977) ·Zbl 0396.90072号 ·doi:10.1007/BF01593790
[17] 袁毅:共轭梯度法分析。最佳方案。方法软件。2, 19–29 (1993) ·doi:10.1080/10556789308805532
[18] Powell,M.J.D.:非凸最小化计算和共轭梯度法。《数值分析》,邓迪,1983年。《数学讲义》,第1066卷,第122-141页。柏林施普林格(1984)
[19] Dai,Y.H.:共轭梯度法分析。中国科学院计算数学与科学/工程计算研究所博士论文(1997)
[20] Dai,Y.H.:非线性共轭梯度法的新性质。数字。数学。89, 83–98 (2001) ·兹比尔1006.65063 ·doi:10.1007/PL00005464
[21] Dai,Y.H.,Liao,L.Z.,Li,D.:关于共轭梯度法的重启程序。数字。算法35、249–260(2004)·Zbl 1137.90669号 ·doi:10.1023/B:NUMA.000021761.10993.6e
[22] Shanno,D.F.,Phua,K.H.:算法500,无约束多元函数的最小化。ACM事务处理。数学。柔和。187-94年2月(1976年)·Zbl 0319.65042号 ·数字对象标识代码:10.1145/355666.355673
[23] Birgin,E.,Martínez,J.M.:无约束优化的谱共轭梯度法。申请。数学。最佳方案。43, 117–128 (2001) ·Zbl 0990.90134号 ·doi:10.1007/s00245-001-0003-0
[24] Andrei,N.:无约束优化的缩放共轭梯度算法。计算。最佳方案。申请。38, 401–416 (2007) ·Zbl 1168.90608号 ·doi:10.1007/s10589-007-9055-7
[25] Andrei,N.:无约束优化的尺度无记忆BFGS预条件共轭梯度算法。最佳方案。方法软件。22, 561–571 (2007) ·Zbl 1270.90068号 ·网址:10.1080/1055678060082260
[26] Andrei,N.:用于无约束优化的缩放BFGS预处理共轭梯度算法。申请。数学。莱特。20, 645–650 (2007) ·Zbl 1116.90114号 ·doi:10.1016/j.aml.2006.06.015
[27] Kiwiel,K.C.,Murty,K.:最小化拟凸函数的最速下降法的收敛性。J.优化。理论应用。89(1), 221–226 (1996) ·兹比尔0866.90094 ·doi:10.1007/BF02192649
[28] Dai,Y.H.,Han,J.Y.,Liu,G.H.,Sun,D.F.,Yin,X.,Yuan,Y.:非线性共轭梯度法的收敛性质。SIAM J.Optim公司。10, 348–358 (1999) ·Zbl 0957.65061号 ·doi:10.1137/S1052623497318992
[29] Dai,Y.H.,Liao,L.Z.:新的共轭条件和相关的非线性共轭梯度方法。申请。数学。最佳方案。43, 87–101 (2001) ·Zbl 0973.65050号 ·doi:10.1007/s002450010019
[30] Hager,W.W.,Zhang,H.:一种新的共轭梯度法,具有保证下降和有效的线搜索。SIAM J.Optim公司。16, 170–192 (2005) ·邮编1093.90085 ·doi:10.1137/030601880
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。