×
刁新柳;刘洪伟;刘泽贤

基于修正割线方程的子空间极小化共轭梯度法求解无约束优化问题。 （英文） Zbl 1463.90206号

计算。申请。数学。 39，第4号，第251号文件，第21页（2020）.
摘要：本文提出并分析了一种基于修正正割方程的子空间极小化共轭梯度法。对于经典的子空间最小化共轭梯度法，搜索方向是通过最小化二维子空间中目标函数的近似二次模型得到的。通常，上述二次模型中的近似Hessian矩阵需要满足标准割线方程，而我们考虑满足修正割线方程的近似Hesian矩阵。我们给出了一些规则，如果满足这些规则，我们选择标准割线方程，否则我们选择修改后的方程。在一些额外的条件下，我们可以证明所提出的方向满足充分下降性。我们还提出了一种改进的非单调Wolfe线搜索方法，并在温和的假设下证明了所提方法对于一般非线性函数的全局收敛性。与著名的CG下降（5.3）进行了数值比较[W.W.黑格和H.张，SIAM J.Optim。16，第1期，170–192（2005年；邮编1093.90085)]和SMCG（）BB[H.刘和Z.刘，J.Optim。理论应用。180，第3期，879–906（2019年；Zbl 1409.49031号)]并表明该算法是非常有前途的。

MSC公司：

90立方厘米 非线性规划
90C06型 数学规划中的大规模问题
65千5 数值数学规划方法

关键词：

子空间最小化;共轭梯度法;修正割线方程;改进的非单调Wolfe线搜索;全球收敛

引文：

邮编1093.90085;Zbl 1409.49031号

软件：

切割机;12月6日
PDF格式BibTeX公司 XML格式引用
\textit{X.Diao}等人，计算。申请。数学。39，第4号，第251号论文，21页（2020年；Zbl 1463.90206）
全文： 内政部

参考文献：

[1] Andrei，N.，《无约束优化测试函数集》，Adv Model Optim，10，147-161（2008）·Zbl 1161.90486号
[2] Andrei，N.，无约束优化的加速子空间最小化三项共轭梯度算法，数值算法，65，4，859-874（2014）·兹比尔1301.65041 ·doi:10.1007/s11075-013-9718-7
[3] Babaie-Kafaki，S.，自适应共轭条件和相关非线性共轭梯度方法，国际J计算方法，11，4，1350092（2014）·Zbl 1359.65097号 ·doi:10.1142/S021987621350928
[4] Babaie-Kafaki，S。；Reza，G.，具有最佳参数选择的Dai-Liao非线性共轭梯度法，《欧洲运营研究杂志》，234，3，625-630（2014）·Zbl 1304.90216号 ·doi:10.1016/j.ejor.2013.11.012
[5] Barzilai，J。；Borwein，JM，两点步长梯度法，IAM数值分析杂志，8，1，141-148（1988）·Zbl 0638.65055号 ·doi:10.1093/imanum/8.1.141
[6] 南卡罗来纳州贝拉维亚。；Morini，B.，大型有界约束非线性方程的子空间信赖域方法，SIAM J Numer Ana，44，4，1535-1555（2006）·Zbl 1128.65033号 ·doi:10.1137/040611951
[7] 比格拉里，F。；马萨诸塞州哈桑；Leong，WJ，通过高阶张量模型的新拟Newton方法，J Comput Appl Math，235，8，2412-2422（2011）·Zbl 1211.65068号 ·doi:10.1016/j.cam.2010.10.041
[8] 戴，YH；Kou，CX，一种具有最优性质和改进Wolfe线搜索的非线性共轭梯度算法，SIAM J Optim，23，1，296-320（2013）·兹比尔1266.49065 ·数字对象标识代码：10.1137/100813026
[9] 戴，YH；Kou，CX，A Barzilai-Borwein共轭梯度法，科学中国数学，59，8，1511-1524（2016）·Zbl 1352.49031号 ·doi:10.1007/s11425-016-0279-2
[10] 戴，YH；Lia，LZ，新共轭条件及相关非线性共轭梯度法，应用数学优化，43，1，87-101（2001）·Zbl 0973.65050号 ·doi:10.1007/s002450010019
[11] 戴，YH；Yuan，YX，一种具有强全局收敛性的非线性共轭梯度法，SIAM J Optim，10，1，177-182（1999）·Zbl 0957.65061号 ·doi:10.137/S1052623497318992
[12] Dolan，ED；Moré，JJ，《带性能曲线的基准优化软件》，《数学程序》，91，2，201-213（2002）·邮编：1049.90004 ·doi:10.1007/s101070100263
[13] 埃韦，JB；Gill，PE，信任区域步骤的子空间最小化方法，SIAM J Optim，20，3，1439-1461（2009）·Zbl 1195.49042号 ·doi:10.1137/08072440X
[14] Fatemi，M.，无约束优化的一种新的有效共轭梯度方法，计算机应用数学杂志，300207-216（2016）·Zbl 1382.65170号 ·doi:10.1016/j.cam.2015.12.035
[15] 弗莱彻，R。；Reeves，CM，共轭梯度函数最小化，计算J，7，2，149-154（1964）·Zbl 0132.11701号 ·doi:10.1093/comjnl/7.2.149
[16] 古尔德，NIM；Orban，D。；Toint、PhL、CUTEr和SifDec:约束和非约束测试环境，重温，ACM Trans Math Softw，29，4，373-394（2003）·Zbl 1068.90526号 ·数字对象标识代码：10.1145/962437.96243439
[17] 哈格，WW；Zhang，HC，一种新的保下降共轭梯度法和有效的线性搜索，SIAM J Optim，16，1，170-192（2005）·邮编1093.90085 ·doi:10.1137/030601880
[18] 哈格，WW；Zhang，HC，有限记忆共轭梯度法，SIAM J Optim，23，4，2150-2168（2013）·Zbl 1298.90129号 ·数字对象标识代码：10.1137/120898097
[19] 赫斯特内斯，MR；Stiefel，EL，求解线性系统的共轭梯度方法，J Res Natl Bur Stand，49，6，409-436（1952）·Zbl 0048.09901号 ·doi:10.6028/jres.049.044
[20] 李，M。；刘，HW；Liu，ZX，无约束优化的一种新的基于非单调线搜索的子空间最小化共轭梯度法，数值算法，79，1195-219（2018）·Zbl 1395.90225号 ·doi:10.1007/s11075-017-0434-6
[21] 刘，ZX；Liu，HW，大规模无约束优化的近似最优步长高效梯度法，数值算法，78，1，21-39（2018）·Zbl 1397.90270号 ·doi:10.1007/s11075-017-0365-2
[22] 刘，HW；Liu，ZX，无约束优化的高效Barzilai-Borwein共轭梯度法，最优化理论应用杂志，180，3，879-906（2019）·Zbl 1409.49031号 ·doi:10.1007/s10957-018-1393-3
[23] Nocedal，J。；Wright，SJ，数值优化（1999），纽约：Springer，纽约·Zbl 0930.65067号 ·doi:10.1007/b98874
[24] Polyak，BT，极端问题中的共轭梯度法，苏联计算数学数学物理，9，4，94-112（1969）·Zbl 0229.49023号 ·doi:10.1016/0041-5553（69）90035-4
[25] Rivaie，M。；Mamat，M。；Abashar，A.，一类新的具有精确和不精确线搜索的非线性共轭梯度系数，应用数学计算，2681152-1163（2015）·兹比尔1410.90203
[26] DA塔扎纳；Peyghami，MR，基于修正正割条件的无约束优化问题的新正则有限内存BFGS型方法，J Glob Optim，63，4，709-728（2015）·Zbl 1337.90043号 ·doi:10.1007/s10898-015-0310-7
[27] 魏，HJ；Yang，WH，A黎曼子空间有限记忆SR1信任域方法，Optim-Lett，10，8，1705-1723（2016）·Zbl 1364.90319号 ·doi:10.1007/s11590-015-0977-1
[28] 魏，Z。；Li，G.等人。；Qi，L.，无约束优化问题的新拟Newton方法，应用数学计算，175，2，1156-1188（2006）·Zbl 1100.65054号
[29] 袁YX（2014）非线性优化子空间方法综述。摘自：首尔国际数学大会会议记录，第807-827页·兹比尔1388.65040
[30] 袁，YX，无约束优化的一种改进的BFGS算法，IAM J Numer Ana，11，3，325-332（1991）·Zbl 0733.65039号 ·doi:10.1093/imanum/11.3325
[31] Yuan，YX，大型非线性方程和非线性最小二乘的子空间方法，Optim Eng，10，2，207-218（2009）·兹比尔1171.65040 ·doi:10.1007/s11081-008-9064-0
[32] 元，YX；Stoer，J.，共轭梯度算法的子空间研究，Z Angew Math Mech，75，1，69-77（1995）·Zbl 0823.65061号 ·doi:10.1002/zamm.19950750118
[33] 张，JZ；Xu，CX，带修正拟Newton方程的拟Newton方法的性质和数值性能，计算应用数学杂志，137，2，269-278（2001）·兹比尔1001.65065 ·doi:10.1016/S0377-0427（00）00713-5
[34] 张，JZ；邓，纽约州；Chen，LH，无约束优化的新拟Newton方程及相关方法，最优化理论应用杂志，102，1，147-167（1999）·Zbl 0991.90135号 ·doi:10.1023/A:1021898630001
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。