×
内库莱·安德烈

无约束优化的双参数自缩放无记忆BFGS方法。 （英语） Zbl 1445.90101号

计算。申请。数学。 39，第3号，第159号论文，第14页（2020年）.
摘要：提出了一种用于无约束优化的双参数自缩放无记忆BFGS方法。在该方法中，自缩放无记忆BFGS矩阵的前两项用一个正参数缩放，而第三项用另一个正参量缩放。确定缩放前两项的第一个参数，对无记忆BFGS矩阵的特征值进行聚类。第二个参数缩放第三项，作为最小化函数的Hessian的预条件，结合共轭条件的最小化，将自缩放无记忆BFGS矩阵的大特征值左移。步长由Wolfe线搜索条件决定。假设极小化函数一致凸，证明了该方法的全局收敛性。在80个无约束优化测试函数集上的初步计算实验表明，该算法比Oren和Luenberger以及Oren和Spedicato的自缩放BFGS更新更有效、更鲁棒。根据CPU时间指标，CG-DESCENT表现最佳。与L-BFGS的比较表明，我们的算法更有效。

引用于2文件

MSC公司：

90立方 非线性规划
65千5 数值数学规划方法

关键词：

无约束优化;自缩放无记忆BFGS方法;全球收敛;数值比较

软件：

L-BFGS公司;切割机;SCALCG公司;可爱的
PDF格式BibTeX公司 XML格式引用
\textit{N.Andrei}，计算。申请。数学。39，第3号，第159号论文，第14页（2020年；Zbl 1445.90101）
全文： 内政部

参考文献：

[1] Al-Baali，M.，一类具有不精确线搜索的自缩放方法的全局和超线性收敛，计算优化应用，9191-203（1998）·Zbl 0904.90127号 ·doi:10.1023/A:1018315205474
[2] Al-Baali，M.，一类自缩放准牛顿算法的数值经验，《最优化理论应用杂志》，96，533-553（1998）·Zbl 0907.90240号 ·doi:10.1023/A:1022608410710
[3] Andrei，N.，无约束优化的有限差分Hessian/矢量乘积近似加速共轭梯度算法，计算机应用数学杂志，230570-582（2009）·Zbl 1170.65046号 ·doi:10.1016/j.cam.2008.12.024
[4] Andrei，N.，大型无约束优化共轭梯度算法中特征值与奇异值的研究，Optim Methods Softw，32，534-551（2017）·Zbl 1368.49057号 ·doi:10.1080/10556788.2016.1225211
[5] Andrei，N.，无约束优化的自适应缩放BFGS方法，数值算法，77，2，413-432（2018）·兹比尔1383.65059 ·doi:10.1007/s11075-017-0321-1
[6] Andrei N（2018b）一组无约束优化测试问题。2018年5月2日第4号技术报告。布加勒斯特信息学研究所，第1-10页
[7] 邦加兹，I。；连接器，AR；古尔德，NIM；Toint，PL，CUTE：约束和非约束测试环境，ACM TOMS，21，123-160（1995）·Zbl 0886.65058号 ·doi:10.1145/200979.201043
[8] Dolan，ED；Moré，JJ，《带性能曲线的基准优化软件》，《数学程序》，91，201-213（2002）·邮编：1049.90004 ·doi:10.1007/s101070100263
[9] 哈格，WW；Zhang，H.，一种新的保下降共轭梯度法和有效的线性搜索，SIAM J Optim，16170-192（2005）·邮编1093.90085 ·doi:10.1137/030601880
[10] Huang，HY，函数最小化二次收敛算法的统一方法，J Optim理论应用，6405-423（1970）·Zbl 0184.20202号 ·doi:10.1007/BF00927440
[11] 刘，DC；Nocedal，J.，《关于大规模优化的有限记忆BFGS方法》，《数学程序》，45，503-528（1989）·Zbl 0696.90048号 ·doi:10.1007/BF01589116
[12] Nocedal，J.，用有限存储更新拟牛顿矩阵，Math Comput，35773-782（1980）·Zbl 0464.65037号 ·doi:10.1090/S0025-5718-1980-0572855-7
[13] Nocedal，J.，无约束优化算法理论，《数值学报》，1199-242（1992）·Zbl 0766.65051号 ·doi:10.1017/S0962492900002270
[14] Nocedal，J。；袁永新，自标度拟牛顿法分析，数学程序，61,19-37（1993）·Zbl 0794.90067号 ·doi:10.1007/BF01582136
[15] 奥伦，SS；Luenberger，DG，自缩放可变度量（SSVM）算法，第一部分：缩放一类算法的标准和充分条件，Manag Sci，20，845-862（1974）·Zbl 0316.90064号 ·doi:10.1287/mnsc.20.5.845
[16] 奥伦，SS；Spedicato，E.，《自缩放变量度量算法的优化条件》，《数学程序》，10，70-90（1976）·Zbl 0342.90045号 ·doi:10.1007/BF01580654
[17] Perry JM（1977）一类带有两步变量存储器的共轭梯度算法。讨论论文269，西北大学经济与管理科学数学研究中心，埃文斯顿
[18] Shanno，DF，带不精确搜索的共轭梯度法，《数学运算研究》，3244-256（1978）·Zbl 0399.90077号 ·doi:10.1287/门3.3.244
[19] 沙诺，DF；Phua，KH，矩阵条件和非线性优化，数学程序，14149-160（1978）·Zbl 0371.90109号 ·doi:10.1007/BF01588962
[20] Sun，W。；袁，YX，优化理论与方法。非线性编程（2006），纽约：Springer Science+Business Media，纽约·邮编1129.90002
[21] Wolfe，P.，上升法的收敛条件，SIAM Rev，11，226-235（1969）·Zbl 0177.20603号 ·doi:10.1137/1011036
[22] Wolfe，P.，上升法的收敛条件。二： 一些更正，SIAM Rev，13，185-188（1971）·Zbl 0216.26901号 ·数字对象标识代码：10.1137/1013035
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。