×
姚胜伟;宁、凉朔

一种基于自缩放无记忆BFGS矩阵的自适应三项共轭梯度方法。 （英语） Zbl 1382.90116号

J.计算。申请。数学。 332, 72-85 (2018).
摘要：共轭梯度法由于其简单性和低内存需求，被广泛用于求解大规模无约束优化问题。本文提出了一种三项共轭梯度法。搜索方向由包含正参数的对称Perry矩阵给出。该参数的值通过最小化该矩阵与Frobenius范数中的自缩放无记忆BFGS矩阵的距离来确定。生成方向的充分下降性与线搜索无关。在一般非凸函数的Wolfe线搜索下，建立了该方法的全局收敛性。数值实验表明，该方法具有良好的应用前景。

引用于11文件

MSC公司：

90元53 拟牛顿型方法
90立方 非线性规划
49立方米 基于非线性规划的数值方法
2015财年65 矩阵特征值和特征向量的数值计算

关键词：

无约束优化;共轭梯度法;自缩放无记忆BFGS矩阵;全球收敛

软件：

ACGSSV公司;CGOPT公司
PDF格式BibTeX公司 XML格式引用
\textit{S.Yao}和\textit{L.Ning}，J.Compute。申请。数学。33272--85（2018年；Zbl 1382.90116）
全文： 内政部

参考文献：

[1] Nesterov，Y.，《大规模优化问题的子梯度方法》，数学。程序。，146, 1-2, 275-297 (2014) ·Zbl 1297.90120号
[2] Y.Nesterov，求解收敛速度为o（1/k2）的凸规划问题的一种方法，27（2）（1983）372-376。；Y.Nesterov，求解收敛速度为o（1/k2）的凸规划问题的一种方法，27（2）（1983）372-376·Zbl 0535.90071号
[3] 哥伦比亚特区贡扎加。；Karas，E.W.，微调Nesterov的可微凸规划最速下降算法，数学。程序。，138, 1-2, 141-166 (2013) ·兹比尔1297.90118
[4] 奥多诺休，B。；Candés，E.，《加速梯度方案的自适应重启》，Found。计算。数学。，15, 3, 715-732 (2015) ·Zbl 1320.90061号
[5] Polyak，B.T.，《加速迭代法收敛的一些方法》，苏联计算机出版社。数学。数学。物理。，4, 5, 1-17 (1964) ·Zbl 0147.35301号
[6] Nocedal，J。；Wright，S.，《数值优化》（2006），Springer Science&Business Media·Zbl 1104.65059号
[7] Sun，W。；袁永新，《优化理论与方法：非线性规划》，第1卷（2006），施普林格科学与商业媒体·邮编1129.90002
[8] Wolfe，P.，上升法的收敛条件，SIAM Rev.，11，2，226-235（1969）·兹标0177.20603
[9] Wolfe，P.，上升法的收敛条件。二： 一些更正，SIAM Rev.，13，2，185-188（1971）·Zbl 0216.26901号
[10] 弗莱彻，R。；Reeves，C.M.，共轭梯度函数最小化，计算。J.，7，2，149-154（1964）·兹伯利0132.11701
[11] 赫斯滕斯，M.R。；Stiefel，E.，求解线性系统的共轭梯度方法，第49卷（1952年），美国国家统计局·Zbl 0048.09901号
[12] Polak，E。；Ribiere，G.，《共轭方向方法的收敛性注释》，Rev.Fr.Rech。操作。序列号。《鲁日》，3，1，35-43（1969）·Zbl 0174.48001号
[13] Polyak，B.T.，极值问题中的共轭梯度法，苏联计算机。数学。数学。物理。，9, 4, 94-112 (1969) ·兹伯利0229.49023
[14] Dai，Y.-H。；Yuan，Y.，一种具有强全局收敛性的非线性共轭梯度法，SIAM J.Optim。，10, 1, 177-182 (1999) ·兹比尔0957.65061
[15] Dai，Y.-H。；Liao，L.-Z.，新共轭条件及相关非线性共轭梯度法，应用。数学。最佳。，43, 1, 87-101 (2001) ·Zbl 0973.65050号
[16] 海格，W.W。；Zhang，H.，一种新的保下降共轭梯度法和有效的线性搜索，SIAM J.Optim。，16, 1, 170-192 (2005) ·邮编1093.90085
[17] Dai，Y.-H。；Kou，C.-X.，一种具有优化性质和改进的wolfe线搜索的非线性共轭梯度算法，SIAM J.Optim。，23, 1, 296-320 (2013) ·Zbl 1266.49065号
[18] Kou，C.，一种改进的具有最优性质的非线性共轭梯度法，Sci。中国数学。，57, 3, 635-648 (2014) ·Zbl 1303.90101号
[19] 李，D.-H。；Fukushima，M.，一种改进的bfgs方法及其在非凸极小化中的全局收敛性，J.Compute。申请。数学。，129, 1, 15-35 (2001) ·Zbl 0984.65055号
[20] 魏，Z。；李·G。；Qi，L.，无约束优化问题的新拟牛顿方法，应用。数学。计算。，175, 2, 1156-1188 (2006) ·Zbl 1100.65054号
[21] 张杰。；Xu，C.，修正拟牛顿方程的拟牛顿方法的性质和数值性能，J.Compute。申请。数学。，137, 2, 269-278 (2001) ·Zbl 1001.65065号
[22] 李·G。；唐，C。；Wei，Z.，无约束优化的新共轭条件和相关的新共轭梯度法，J.Compute。申请。数学。，202，2，523-539（2007年）·兹比尔1116.65069
[23] Yabe，H。；Takano，M.，带修正正割条件的非线性共轭梯度法的全局收敛性，计算。最佳方案。申请。，28, 2, 203-225 (2004) ·兹比尔1056.90130
[24] 周，W。；Zhang，L.，基于mbfgs割线条件的非线性共轭梯度法，Optim。方法软件。，21, 5, 707-714 (2006) ·Zbl 1112.90096号
[25] Babaie-Kafaki，S。；Ghanbari，R.，具有最佳参数选择的dai-liao非线性共轭梯度法，欧洲J.Oper。研究，234，3，625-630（2014）·Zbl 1304.90216号
[26] Fatemi，M.，共轭梯度法dai-liao族的最佳参数，J.Optim。理论应用。，169, 2, 587-605 (2016) ·Zbl 1368.90131号
[27] Babaie-Kafaki，S。；Ghanbari，R.，《两种最佳dai-liao共轭梯度法》，《优化》，64，11，2277-2287（2015）·兹比尔1386.65158
[28] Perry，A.，《技术注释：一种改进的共轭梯度算法》，Oper。第26号、第6号、第1073-1078号决议（1978年）·兹伯利0419.90074
[29] Babaie-Kafaki，S。；Ghanbari，R.，dai-liao共轭梯度法的一个世系，Optim。方法软件。，2014年3月29日，583-591·Zbl 1285.90063号
[30] Andrei，N.，关于无约束优化的三项共轭梯度算法，应用。数学。计算。，219, 11, 6316-6327 (2013) ·Zbl 1274.90372号
[31] Andrei，N.，无约束优化的简单三项共轭梯度算法，J.Compute。申请。数学。，241, 19-29 (2013) ·Zbl 1258.65056号
[32] Andrei，N.，无约束优化的一种新的三项共轭梯度算法，Numer。算法，68，2，305-321（2015）·Zbl 1321.65092号
[33] Andrei，N.，基于自缩放无记忆BFGS更新的加速自适应perry共轭梯度算法，J.Compute。申请。数学。，325, 149-164 (2017) ·Zbl 1365.65158号
[34] Dolan，E.D。；Moré，J.J.，《性能曲线基准优化软件》，数学。程序。，91, 2, 201-213 (2002) ·邮编：1049.90004
[35] Andrei，N.，无约束优化测试函数集合，高级模型。最佳。，147-161年10月1日（2008年）·Zbl 1161.90486号
[36] Broyden，C.G.，一类双秩最小化算法的收敛性1。一般考虑，IMA J.Appl。数学。，6, 1, 76-90 (1970) ·Zbl 0223.65023号
[37] Fletcher，R.，可变度量算法的新方法，计算。J.，13，3，317-322（1970）·Zbl 0207.17402号
[38] Goldfarb，D.，由变分平均值导出的一系列变分度量方法，数学。计算。，24, 109, 23-26 (1970) ·Zbl 0196.18002号
[39] Shanno，D.F.，函数最小化的拟牛顿方法条件，数学。计算。，24, 111, 647-656 (1970) ·Zbl 0225.65073号
[40] J.Perry等，一类具有两步可变度量存储器的共轭梯度算法，讨论论文269。；J.Perry等人，一类具有两步可变度量存储器的共轭梯度算法，讨论论文269。
[41] Shanno，D.，关于新共轭梯度算法的收敛性，SIAM J.Numer。分析。，15, 6, 1247-1257 (1978) ·Zbl 0408.90071号
[42] Zoutendijk，G.，非线性规划，计算方法，整数非线性规划。，143, 1, 37-86 (1970) ·Zbl 0336.90057号
[43] 吉尔伯特，J.C。；Nocedal，J.，共轭梯度优化方法的全局收敛性，SIAM J.Optim。，2, 1, 21-42 (1992) ·Zbl 0767.90082号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。