×

通过避免搜索方向矩阵的最大放大方向,为Dai-Liao族共轭梯度法选择最佳参数。 (英语) Zbl 1425.90134号

小结:基于对Dai-Liao共轭梯度法进行的奇异值分析表明,当梯度近似于搜索方向矩阵的最大放大倍数方向时,该方法可能会出现一些计算错误,并且收敛性可能很难出现。因此,我们得到了一个计算代廖参数的公式,该公式使搜索方向矩阵的最大放大方向与梯度正交。我们简要讨论了相应的Dai-Liao方法在目标函数上有无凸性假设的全局收敛性。对CUTEr集合的一组测试问题进行的数值实验表明,在Dolan-Moré性能曲线意义上,所建议的Dai-Liao参数的自适应选择是切实有效的。

MSC公司:

90元53 拟牛顿型方法
65千5 数值数学规划方法
65英尺35英寸 矩阵范数、条件、缩放的数值计算
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Andrei N(2007)无约束优化共轭梯度算法的数值比较。螺柱通知控制16(4):333-352
[2] Andrei N(2011)无约束优化共轭梯度算法中的开放问题。公牛马来人数学科学社34(2):319-330·Zbl 1225.49030号
[3] Andrei N(2016)大规模无约束优化的自适应共轭梯度算法。计算机应用数学杂志292(1):83-91·Zbl 1321.90124号
[4] Andrei N(2017)带特征值聚类的Dai-Liao共轭梯度算法。数字算法77:1273-1282。https://doi.org/10.1007/s11075-017-0362-5 ·Zbl 06860411号 ·doi:10.1007/s11075-017-0362-5
[5] Babaie-Kafaki S(2014)关于Hager-Zhang共轭梯度法的充分下降条件。4或12(3):285-292·Zbl 1307.65084号
[6] Babaie-Kafaki S,Ghanbari R(2014)具有最佳参数选择的Dai-Liao非线性共轭梯度法。欧洲运营研究杂志234(3):625-630·Zbl 1304.90216号
[7] Babaie-Kafaki S,Ghanbari R(2014)Dai-Liao共轭梯度法的一个世系。Optim Methods Softw软件29(3):583-591·Zbl 1285.90063号
[8] Babaie-Kafaki S,Ghanbari R(2014)两种具有充分下降性质的修正三项共轭梯度法。Optim Lett 8(8):2285-2297·Zbl 1309.90097号
[9] Babaie-Kafaki S,Ghanbari R(2015)两种最佳Dai-Liao共轭梯度法。优化64(11):2277-2287·兹比尔1386.65158
[10] Babaie-Kafaki S,Ghanbari R(2017a)基于尺度无记忆BFGS更新的一类自适应Dai-Liao共轭梯度方法。4或15(1):85-92·Zbl 1360.90293号
[11] Babaie-Kafaki S,Ghanbari R(2017b)基于尺度无记忆BFGS更新的Dai-Liao共轭梯度法的一类下降四项推广。工业管理优化杂志3(2):649-658·Zbl 1365.65159号
[12] Babaie-Kafaki S,Ghanbari R(2017c)具有充分下降性质的Hestenes-Stiefel和Polak-Ribière-Polyak共轭梯度法的推广。公牛伊朗数学Soc 43(7):2437-2448·Zbl 1405.90142号
[13] Babaie-Kafaki S,Ghanbari R(2017d)两种自适应Dai-Liao非线性共轭梯度法。伊朗科学技术学报42:1505-1509。https://doi.org/10.1007/s40995-017-0271-4 ·Zbl 1397.90401号 ·doi:10.1007/s40995-017-0271-4
[14] Babaie-Kafaki S,Ghanbari R,Mahdavi-Amiri N(2010)基于修正正割方程的两种新共轭梯度法。计算机应用数学杂志234(5):1374-1386·兹比尔1202.65071
[15] Dai YH,Han JY,Liu GH,Sun DF,Yin HX,Yuan YX(1999)非线性共轭梯度法的收敛性。SIAM J Optim公司10(2):348-358·Zbl 0957.65062号
[16] Dai YH,Kou CX(2013)具有最优性质和改进Wolfe线搜索的非线性共轭梯度算法。《SIAM J Optim》23(1):296-320·Zbl 1266.49065号
[17] Dai YH,Liao LZ(2001)新共轭条件及相关非线性共轭梯度法。应用数学优化43(1):87-101·Zbl 0973.65050号
[18] Dolan ED,MoréJJ(2002)《性能曲线基准优化软件》。数学课程91(2):201-213·邮编:1049.90004
[19] Fatemi M(2016)一种用于无约束优化的新的高效共轭梯度方法。计算机应用数学杂志300(1):207-216·Zbl 1382.65170号
[20] Fatemi M(2016)Dai-Liao族共轭梯度法的最佳参数。最优化理论应用杂志169(2):587-605·Zbl 1368.90131号
[21] Fatemi M,Babaie-Kafaki S(2016)基于惩罚方案的Dai-Liao方法的两个扩展,具有足够的离散属性。公牛计算应用数学4(1):7-19·Zbl 1398.65136号
[22] Ford JA,Narushima Y,Yabe H(2008)无约束最小化的多步非线性共轭梯度法。计算优化应用程序40(2):191-216·Zbl 1181.90221号
[23] Gilbert JC,Nocedal J(1992)优化共轭梯度法的全局收敛性。SIAM J Optim 2(1):21-42·兹比尔0767.90082
[24] Gould NIM,Orban D,Toint PhL(2003)CUTEr:约束和非约束测试环境,重温。ACM Trans数学软件29(4):373-394·Zbl 1068.90526号
[25] Hager WW,Zhang H(2005)一种新的保证下降的共轭梯度法和有效的线搜索。SIAM J Optim 16(1):170-192·邮编1093.90085
[26] Hager WW,Zhang H(2006)算法851:CG\[-\]-下降,一种具有保证下降的共轭梯度方法。ACM Trans数学软件32(1):113-137·Zbl 1346.90816号
[27] Hager WW,Zhang H(2006)非线性共轭梯度法综述。Pac J Optim 2(1):35-58·Zbl 1117.90048号
[28] Hestenes MR,Stiefel E(1952)求解线性系统的共轭梯度方法。J Res Natl Bur标准49(6):409-436·Zbl 0048.09901号
[29] Li G,Tang C,Wei Z(2007)无约束优化的新共轭条件和相关新共轭梯度法。计算应用数学杂志202(2):523-539·兹比尔1116.65069
[30] Livieris IE,Pintelas P(2012)基于修正正割方程的下降Dai-Liao共轭梯度法及其全局收敛性。ISRN计算数学2012:8文章ID 435495·Zbl 1245.65067号
[31] Narushima Y,Yabe H(2012)基于正割条件的共轭梯度法,为无约束优化生成下降搜索方向。计算机应用数学杂志236(17):4303-4317·Zbl 1258.65059号
[32] Nocedal J,Wright SJ(2006)《数值优化》。纽约州施普林格·Zbl 1104.65059号
[33] Perry A(1976)一种改进的共轭梯度算法。运营研究26(6):1073-1078·Zbl 0419.90074号
[34] Peyghami MR,Ahmadzadeh H,Fazli A(2015)Dai-Liao族中一类新的高效且全局收敛的共轭梯度方法。Optim Methods Softw软件30(4):843-863·兹比尔1328.90143
[35] Powell MJD(1986)非线性优化算法的收敛特性。SIAM版本28(4):487-500·Zbl 0624.90091号
[36] 孙伟,袁永新(2006)优化理论与方法:非线性规划。纽约州施普林格·邮编1129.90002
[37] Watkins DS(2002)矩阵计算基础。纽约威利·Zbl 1005.65027号
[38] Zhou W,Zhang L(2006)基于MBFGS割线条件的非线性共轭梯度法。Optim Methods Softw软件21(5):707-714·Zbl 1112.90096号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。