×

无约束优化共轭梯度算法的加速。 (英语) Zbl 1172.65027号

提出了一种加速共轭梯度法的新方法。该方法基于对Wolfe线搜索条件计算的步长(alpha_k)的修正,通过一个正参数(eta_k)来改进主要应用于大规模无约束优化的经典共轭梯度算法的性能。结果表明,对于一致凸函数,加速算法的收敛性仍然是线性的,但函数值的减少明显改善。使用750个无约束优化问题与共轭梯度算法进行了数值比较,结果表明加速计算方案优于相应的共轭梯度算法。

MSC公司:

65千5 数值数学规划方法
90立方 非线性规划
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Andrei,N.,无约束优化的带回溯的梯度下降加速算法,数值算法,42,63-73(2006)·兹比尔1101.65058
[2] Andrei,N.,无约束优化共轭梯度算法的数值比较,信息学与控制研究,16,333-352(2007)
[3] Andrei,N.,无约束优化的缩放共轭梯度算法,计算优化与应用,38,401-416(2007)·Zbl 1168.90608号
[4] Andrei,N.,无约束优化的尺度无记忆BFGS预条件共轭梯度算法,优化方法与软件,22561-571(2007)·Zbl 1270.90068号
[5] Andrei,N.,用于无约束优化的缩放BFGS预条件共轭梯度算法,《应用数学快报》,20645-650(2007)·Zbl 1116.90114号
[6] Andrei,N.,《无约束优化测试函数集》,《高级建模与优化》,《电子国际期刊》,10147-161(2008)·Zbl 1161.90486号
[7] Armijo,L.,具有Lipschitz连续一阶偏导数的函数的最小化,太平洋数学杂志,6,1-3(1966)·兹比尔0202.46105
[8] 邦加兹,I。;A.R.康涅狄格州。;新墨西哥州古尔德。;Toint,P.L.,CUTE:约束和非约束测试环境,ACM数学软件汇刊,21123-160(1995)·Zbl 0886.65058号
[9] 博伊德,S。;Vandenberghe,L.,《凸优化》(2004),剑桥大学出版社·Zbl 1058.90049号
[10] Dai,Y.H。;廖立中,新共轭条件及相关非线性共轭梯度法,应用数学与优化,43,87-101(2001)·Zbl 0973.65050号
[11] Dai,Y.H。;Yuan,Y.,一种具有强全局收敛性的非线性共轭梯度法,SIAM优化杂志,10177-182(1999)·Zbl 0957.65061号
[12] 丹尼斯·J·E。;Schnabel,R.B.,《无约束优化和非线性方程的数值方法》(1983),普伦蒂斯·霍尔:普伦蒂塞·霍尔恩格尔伍德悬崖,新泽西州·Zbl 0579.65058号
[13] Dolan,E。;Moré,J.J.,《带性能曲线的基准优化软件》,《数学规划》,91,201-213(2002)·邮编:1049.90004
[14] Fletcher,R.,《实用优化方法》(1987),威利出版社:威利纽约·Zbl 0905.65002号
[15] Goldstein,A.A.,《关于最陡下降》,《SIAM控制杂志》,3147-151(1965)·Zbl 0221.65094号
[16] 海格,W.W。;Zhang,H.,一种新的保下降共轭梯度法和有效的线搜索,SIAM优化杂志,16,170-192(2005)·邮编1093.90085
[17] 海格,W.W。;Zhang,H.,非线性共轭梯度法综述,《太平洋优化杂志》,235-58(2006)·Zbl 1117.90048号
[18] Lemaréchal,C.,《线搜索视图》(Auslander,A.;Oettli,W.;Stoer,J.,《优化与最优控制》(1981),施普林格:施普林格柏林),59-78·Zbl 0458.65054号
[19] 刘博士。;Nocedal,J.,《关于大规模优化的有限内存BFGS方法》,《数学规划》,45503-528(1989)·兹比尔0696.90048
[20] J.J.Moré,D.J.Thuente,《保证充分减少的在线搜索算法》,数学和计算机科学部预印本MCS-P153-0590,阿贡国家实验室,阿贡,1990年。;J.J.Moré,D.J.Thuente,《保证充分减少的在线搜索算法》,数学和计算机科学部预印本MCS-P153-0590,阿贡国家实验室,阿贡,1990年。
[21] Polak,E。;Ribière,G.,Concugue e方向收敛注释,Rev.Francaise Informat Recherche Operationelle,3e Anne,16,35-43(1969)·Zbl 0174.48001号
[22] Polyak,B.T.,极端问题中的共轭梯度法,苏联计算数学和数学物理,9,94-112(1969)·Zbl 0229.49023号
[23] 波特拉,F.A。;石毅,无约束优化的高效线搜索算法,优化理论与应用杂志,85,677-704(1995)·Zbl 0831.90106号
[24] Powell,M.J.D.,无需精确搜索的最小化变尺度算法的一些全局收敛性,SIAM-AMS Proceedings,Philadelphia,953-72(1976)·Zbl 0338.65038号
[25] Shanno,D.F。;Phua,K.H.,Algorithm 500,无约束多元函数最小化,ACM数学软件交易,287-94(1976)·Zbl 0319.65042号
[26] Wolfe,P.,上升方法的收敛条件,SIAM评论,11226-235(1968)·Zbl 0177.20603号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。