×

兹马思-数学第一资源

基于自标度无记忆Broyden-Fletcher-Goldfarb-Shanno方法的共轭梯度算法。(英语) Zbl 1445.90100
摘要:本文提出了三种新的计算具有参数的无记忆Broyden-Fletcher-Goldfarb-Shanno搜索方向中标度参数的新方法。前两种方法是基于自标度无记忆Broyden-Fletcher-Goldfarb-Shanno迭代矩阵的行列式或迹对其特征值进行聚类。第三种方法是基于最小测度函数R、 H.伯德J、 诺克达尔[SIAM J.Numer.Anal.26号,第3期,727–739(1989年;Zbl 0676.65061)]. 对于这三种算法,都建立了充分下降条件。步长使用标准的Wolfe线搜索计算。在标准的Wolfe线搜索下,建立了这些算法的全局收敛性。利用80个不同结构和复杂度的无约束优化试验问题,证明了基于行列式、迭代矩阵迹或最小化测度函数的自标度无记忆算法的性能优于CG_下降法(1.4版)用Wolfe线搜索[W、 W.黑格H、 张,暹罗·J·擎天柱。第16期,第1期,第170-192页(2005年;Zbl 1093.90085)],提出了一种具有标度参数的自标度无记忆BFGS算法S、 奥伦E、 斯皮迪戈[数学程序.10,70–90(1976年;Zbl 0342.90045)]以及S、 奥伦D、 G.伦伯格[管理科学,理论20845-862(1974年;Zbl 0316.90064)],LBFGS由D、 C.刘J、 诺克达尔[数学程序,45,3(B),503–528(1989年;零担0696.90048)]以及标准BFG。与基于行列式或迭代矩阵迹的相同算法相比,基于最小化Byrd和Nocedal[loc.cit.]的度量函数的自缩放无记忆算法性能稍好。
理学硕士:
90立方厘米 非线性规划
PDF格式 BibTeX公司 XML 引用
全文: 内政部
参考文献:
[1] Al Baali,M.,一类自标度拟牛顿算法的数值经验,J.Optim。理论应用,96,3533-553(1998)·中银0907.90240
[2] Andrei,N.:Critica Raţiunii算法优化fărăRestricţii。【无约束优化算法推理批判】。Editura Academiei Rom ne,Bucureşti(2009年)
[3] Andrei,N.,无约束优化共轭梯度算法的加速,应用。数学。计算机,213,2361-369(2009)·Zbl 1172.65027
[4] Andrei,N.,一种新的无约束优化三项共轭梯度算法。算法,68305-321(2015)·Zbl 1321.65092号
[5] 李国平,等,大规模无约束优化的自适应共轭梯度算法,计算机。申请。数学,29283-91(2016)·Zbl 1321.90124号
[6] Andrei,N.,《大规模无约束优化共轭梯度算法中特征值与奇异值的研究》,Optim。方法软件,32,3534-551(2017)·Zbl 1368.49057
[7] 无约束优化问题集:无约束优化。第7/2018号技术报告,11月17日,罗马尼亚布加勒斯特信息学研究所。(2018年)
[8] 奥克塞尔松。;Lindskog,G.关于预处理共轭梯度法的收敛速度,Numer。数学,48499-523(1986)·Zbl 0564.65017
[9] 巴贝伊.卡法基.自标度无记忆拟牛顿修正公式参数的最优性,J.Optim。理论应用,167,191-101(2015)·Zbl 1327.90394号
[10] Babaie Kafaki,S.,无记忆BFGS更新公式的修正标度参数,数值算法,72,2,425-433(2016)·Zbl 1342.90227
[11] 伯金,E。;马丁内斯,JM,无约束优化的谱共轭梯度法,应用。数学。Optim.,43,2117-128(2001年)·Zbl 0990.90134
[12] 邦加茨,I。;连接,AR;古尔德,尼姆;Toint,PL,CUTE:约束和非约束测试环境,ACM TOMS,21123-160(1995)·邮政编码:0886.65058
[13] Broyden,CG,一类双秩极小化算法的收敛性。一、 一般考虑,J.Inst.Math。申请书,6,76-90(1970年)·Zbl 0223.65023
[14] 伯德,R。;Nocedal,J.,用于分析拟牛顿法的工具及其在无约束最小化中的应用,暹罗J.Numer。《分析》,26727-739(1989)·Zbl 0676.65061
[15] 戴,耶;王,Y。;雅戈尔亚州;Yang,C.,第8章:非线性共轭梯度法的收敛性分析,计算反问题的优化和正则化及其应用,157-181(2010),柏林:高等教育出版社,北京和斯普林格,柏林
[16] 戴,耶;寇,CX,一种具有最优性质的非线性共轭梯度算法和改进的Wolfe线搜索,SIAM J.Optim.,23,1296-320(2013)·Zbl 1266.49065
[17] 戴,耶;廖立志,新共轭条件及相关非线性共轭梯度法,应用。数学。Optim.,43,87-101(2001年)·Zbl 0973.65050
[18] 丹尼斯,杰伊;Wolkowicz,H.,尺寸和最小变化割线法,暹罗J.Numer。分析,30,5,1291-1314(1993)·Zbl 0802.65081
[19] 多兰,埃德;Moré,JJ,带性能配置文件的基准优化软件,数学。计划,91201-213(2002)·Zbl 1049.90004号
[20] 弗莱彻,R.,《变尺度算法的新方法》,计算机。J、 ,13317-322(1970年)·Zbl 0207.17402
[21] 弗莱彻,R.,拟牛顿公式的新变分结果,暹罗J.Optim.,1,18-21(1991)·Zbl 0752.90064
[22] 吉尔伯特,JC;Nocedal,J.,用于优化的共轭梯度法的全局收敛性,SIAM J.Optim.,2,21-42(1992)·Zbl 0767.90082
[23] Goldfarb,D.,一个由变分均值数学推导的变量度量方法。计算机,23,23-26(1970)·Zbl 0196.18002
[24] 黑格,女皇;张H,一种新的保证下降的共轭梯度法和一种有效的线搜索法,暹罗J.Optim.,16170-192(2005)·Zbl 1093.90085
[25] 黑格,女皇;Zhang,H.,算法851:CG_下降,保证下降的共轭梯度法,ACM Trans。数学。《软件》,第32、113-137页(2006年)·Zbl 1346.90816
[26] 黑格,女皇;Zhang,H.,有限记忆共轭梯度法,SIAM J.Optim.,23,4,2150-2168(2013)·Zbl 1298.90129号
[27] 赫斯滕斯先生;Stiefel,E.,求解线性系统的共轭梯度法,J.Res.Natl。伯尔。第49页,第409-436页(1952年)·Zbl 0048.09901
[28] Kaporin,IE,共轭梯度法的新收敛结果和预处理策略,Numer。线性代数,1179-210(1994)·65ZB0237
[29] 克拉泽,D。;伙伴,SV;Steuerwalt,M.,共轭梯度法的分块分裂,计算。《流体》,11255-279(1983)·Zbl 0526.76003
[30] 刘,哥伦比亚特区;Nocedal,J.,《有限内存BFGS方法在大型优化中的应用》,数学。程序,45503-528(1989)·零担0696.90048
[31] 吕恩伯格,DG,线性和非线性规划导论(1984),阅读:Addison-Wesley出版公司,阅读
[32] Nocedal,J.,用有限存储更新拟牛顿矩阵,数学。计算机,35773-782(1980)·Zbl 0464.65037
[33] 诺塞达尔,J。;袁元义,自标度拟牛顿法分析,数学。程序,61,19-37(1993)·Zbl 0794.90067
[34] 奥伦,SS;自标度变尺度算法的最佳条件,数学。程序,10,70-90(1976)·Zbl 0342.90045
[35] Oren,SS,自标度可变度量(SSVM)算法。第二部分:实施与实验,管理。《科学》,205863-874(1974)·Zbl 0316.90065
[36] 奥伦,SS;卢恩伯格,DG,自标度可变度量(SSVM)算法,第一部分:一类算法标度的准则和充分条件,Manag。《科学》,20845-862(1974)·Zbl 0316.90064
[37] Perry,A:一类具有两步可变度量记忆的共轭梯度算法。讨论论文269,经济与管理科学数学研究中心。美国伊利诺伊州西北大学(1977年)
[38] 鲍威尔,MJD;Griffiths,DF,非凸极小化计算和共轭梯度法,数值分析(Dundee,1983),数学课堂讲稿,122-141(1984)
[39] 陈野,DF,函数极小化拟牛顿方法的条件化,数学。计算机,24647-656(1970)·Zbl 0225.65073
[40] Shanno,DF,不精确搜索的共轭梯度法,数学。操作。第3244-256号决议(1978年)·Zbl 0399.90077
[41] 《共轭梯度法的一些超线性收敛结果》,SIAM J.Numer。分析,17,14-17(1980)·Zbl 0447.65021
[42] Wolfe,P.,上升法的收敛条件,暹罗修订版,11226-235(1969)·Zbl 0177.20603
[43] Wolfe,P.,上升法的收敛条件。二: 一些更正,暹罗修订版,13185-188(1971)·Zbl 0216.26901
[44] 佐丁迪克。;Abadie,J.,非线性规划,计算方法,整数和非线性规划,38-86(1970),阿姆斯特丹:北荷兰,阿姆斯特丹
此参考列表基于出版商或数字数学图书馆提供的信息。它的项被试探性地匹配到zbMATH标识符,并且可能包含数据转换错误。它试图尽可能准确地反映原始论文中列出的参考文献,而不要求匹配的完整性或精确性。