×

一类具有充分下降和共轭条件的修正三项Hestenes-Stiefel共轭梯度法。 (英语) Zbl 1522.90266号

小结:为了加强Zhang等人提出的三项Hestenes-Stiefel共轭梯度法,我们建议对其进行修改。为此,通过考虑Dai-Liao方法,将Zhang等方法的第三项乘以一个可自适应确定的正参数。为了对搜索方向的参数进行适当的选择,我们进行了矩阵分析,从而保证了该方法的充分下降性。下面讨论凸和非凸成本函数的收敛性分析。最终,数值测试揭示了所提出方法的性能效率。

MSC公司:

90C53型 拟Newton型方法
90C06型 数学规划中的大尺度问题
90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿米尼,K。;Faramarzi等人。;Pirfalah,N.,一种具有最优性质的改进Hestenes-Stiefel共轭梯度法,Optim。方法软件。,34, 4, 770-782 (2019) ·Zbl 1461.65114号 ·doi:10.1080/10556788.2018.1457150
[2] 阿米尼法德,Z。;Babaie-Kafaki,S.,Dai-Liao对下降混合非线性共轭梯度法的推广及其在信号处理中的应用,Numer。算法,89,3,1369-1387(2021)·Zbl 1484.65132号 ·doi:10.1007/s11075-021-01157-y
[3] 阿米尼法德,Z。;Babaie-Kafaki,S.,戴廖共轭梯度法的矩阵分析,ANZIAM J.,61,2,195-203(2019)·Zbl 1415.90146号 ·doi:10.1017/S1446181119000063
[4] Andrei,N.,用于大规模无约束优化的自适应共轭梯度算法,J.Compute。申请。数学。,292, 83-91 (2016) ·Zbl 1321.90124号 ·doi:10.1016/j.cam.2015.07.003
[5] Andrei,N.,带特征值聚类的Dai-Liao共轭梯度算法,Numer。算法,77,4,1273-1282(2018)·Zbl 06860411号 ·doi:10.1007/s11075-017-0362-5
[6] Babaie-Kafaki,S。;Ghanbari,R.,Dai-Liao共轭梯度法的一个世系,Optim。方法软件。,29, 3, 583-591 (2014) ·Zbl 1285.90063号 ·doi:10.1080/10556788.2013.833199
[7] Babaie-Kafaki,S。;Ghanbari,R.,具有最优参数选择的Dai Liao非线性共轭梯度方法,Eur.J.Oper。研究,234,3,625-630(2014)·Zbl 1304.90216号 ·doi:10.1016/j.ejor.2013.11.012
[8] Babaie-Kafaki,S。;Ghanbari,R.,基于尺度无记忆BFGS更新的一类自适应Dai-Liao共轭梯度法,4OR,15,1,85-92(2017)·Zbl 1360.90293号 ·doi:10.1007/s10288-016-0323-1
[9] Beale,EML,共轭梯度的推导。In:非线性优化的数值方法,Numer。算法,42,1,63-73(1972)
[10] Bojari,S。;Eslahchi,MR,非凸优化的两类具有充分下降性的缩放三项共轭梯度法,Numer。算法,83,3901-933(2020)·Zbl 1436.90109号 ·doi:10.1007/s11075-019-00709-7
[11] Bojari,S.,Eslahchi,M.R.:大型非线性单调方程组的五参数类无导数谱共轭梯度方法。国际期刊计算。方法(2022)·Zbl 07714912号
[12] 曹,J。;Wu,J.,共轭梯度算法及其在图像恢复中的应用,应用。数字。数学。,152, 243-252 (2020) ·Zbl 07173173号 ·doi:10.1016/j.apnum.2019.12.002
[13] 戴,YH;Lia,LZ,新共轭条件及相关非线性共轭梯度法,应用。数学。最佳。,43, 1, 87-101 (2001) ·Zbl 0973.65050号 ·doi:10.1007/s002450010019
[14] Dolan,ED;Moré,JJ,带性能配置文件的基准优化软件,数学。程序。,91, 2, 201-213 (2002) ·邮编:1049.90004 ·doi:10.1007/s101070100263
[15] 侗族,XL;刘,硬件;他,YB;杨,XM,具有充分下降条件和共轭条件的修正Hestenes-Stiefel共轭梯度法,J.Compute。申请。数学。,281, 239-249 (2015) ·Zbl 1309.65074号 ·doi:10.1016/j.cam.2014.11.058
[16] Eslahchi,MR;Bojari,S.,用于大规模优化的新的充分下降谱三项共轭梯度类的全局收敛,Optim。方法。软质。,37, 3, 830-843 (2022) ·Zbl 1502.90170号 ·doi:10.1080/10556788.2020年1843167
[17] 排除,L。;菲施巴赫,J。;科瓦奇,A。;Oezelt,H。;Gusenbauer,M。;Schrefl,T.,微磁能最小化的预处理非线性共轭梯度法,计算。物理学。通信,235179-186(2019)·Zbl 07682898号 ·doi:10.1016/j.cpc.2018.09.04
[18] Gilbert,JC;Nocedal,J.,共轭梯度优化方法的全局收敛性,SIAM J.Optim。,2, 1, 21-42 (1992) ·Zbl 0767.90082号 ·doi:10.1137/0802003年
[19] 古尔德,NIM;欧尔班博士。;马桶、PhL、CUTEr:一个有约束和无约束的测试环境,再次访问,ACM Trans。数学。软质。,29, 4, 373-394 (2003) ·Zbl 1068.90526号 ·数字对象标识代码:10.1145/962437.96243439
[20] 哈格,WW;Zhang,H.,算法851:CG-descent,一种保证下降的共轭梯度法,ACM-Trans。数学。软质。,32, 1, 113-137 (2006) ·Zbl 1346.90816号 ·doi:10.145/1132973.1132979
[21] 哈格,WW;Zhang,H.,一种新的保下降共轭梯度法和有效的线性搜索,SIAM J.Optim。,16, 1, 170-192 (2005) ·邮编1093.90085 ·doi:10.1137/030601880
[22] 赫斯特内斯,MR;Stiefel,E.,求解线性系统的共轭梯度方法,J.Res.Natl。伯尔。支架。,49, 6, 409-436 (1952) ·Zbl 0048.09901号 ·doi:10.6028/jres.049.044
[23] Khoshsimaye-Bargard,M。;Ashrafi,A.,基于无记忆BFGS更新的新下降光谱Polak-Ribière-Polyak方法,计算。申请。数学。,40, 8, 1-17 (2021) ·Zbl 1476.65112号 ·doi:10.1007/s40314-021-01662-9
[24] 李,L。;谢,X。;高,T。;Wang,J.,一种改进的基于共轭梯度的Elman神经网络,Cogn。系统。研究,68,62-72(2021)·doi:10.1016/j.cogsys.2021.02.001
[25] 诺西达尔,J。;Wright,SJ,数值优化(2006),纽约:Springer,纽约·兹比尔1104.65059
[26] Perry,A.,一种改进的共轭梯度算法,Oper。第26号、第6号、第1073-1078号决议(1978年)·Zbl 0419.90074号 ·doi:10.1287/opre.26.6.1073
[27] Powell,M.J.D:非凸最小化计算和共轭梯度法。摘自:《数值分析》(邓迪,1983年),《数学课堂讲稿》,第1066卷,第122-141页。柏林施普林格(1984)·Zbl 0531.65035号
[28] Powell,MJD,非线性优化算法的收敛性,SIAM Rev.,28,4,487-500(1986)·Zbl 0624.90091号 ·doi:10.1137/1028154
[29] 铃木,K。;Y.Narushima。;Yabe,H.,使用割线条件并为无约束优化生成下降搜索方向的全局收敛三项共轭梯度法,J.Optim。理论应用。,153, 3, 733-757 (2012) ·Zbl 1262.90170号 ·doi:10.1007/s10957-011-960-x
[30] Sun,W。;Yuan,YX,最优化理论与方法:非线性规划(2006),纽约:Springer,纽约·邮编1129.90002
[31] 薛伟。;万,P。;李强。;钟,P。;Yu,G。;Tao,T.,机器学习中大规模数据分析的在线共轭梯度算法,AIMS数学。,6, 2, 1515-1537 (2021) ·兹比尔1485.65062 ·doi:10.3934/每小时2021092
[32] 姚,S。;冯(Q.Feng)。;李,L。;Xu,J.,一类全局收敛的三项dai-liao共轭梯度法,应用。数字。数学。,151, 354-366 (2020) ·Zbl 1436.90139号 ·doi:10.1016/j.apnum.2019.12.026
[33] 张,L。;周,W。;Li,D.,一些下降三项共轭梯度法及其全局收敛性,Optim。方法。软质。,22, 4, 697-711 (2007) ·Zbl 1220.90094号 ·doi:10.1080/10556780701223293
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。