×
刘东川（Liu，Dong C.）。;豪尔赫·诺塞达尔

关于用于大规模优化的有限内存BFGS方法。 （英语） Zbl 0696.90048号

数学。程序。，序列号。B类 45，第3期，503-528（1989）。
作者研究了几种用于求解光滑、无约束、特别是大型问题的优化算法的数值性能。他们将基于有限BFGS更新的自己的代码与A.巴克利和A.勒尼尔[ACM Trans.Math.Software 11，103-119（1985；Zbl 0562.65043号)]，这需要额外的共轭梯度步骤，使用两种共轭梯度方法和A.灰库和Ph.L.厕所[in：非线性优化，北约Conf.，Ser.，Ser.II，301-312（1982；Zbl 0563.90085号); 数学。程序。28, 25-49 (1984;Zbl 0561.65045号)和数字。数学。39, 429-448 (1982;Zbl 0505.65018号)]. 结果基于16个测试问题，其中维度在50到1000之间变化。数值试验的结论是，在函数求值次数和执行时间方面，作者的方法比Buckley和LeNir的方法更快。该方法还优于共轭梯度法，在稠密问题上与分区拟牛顿法相比具有竞争力，但在分区问题上表现较差。此外，还评估了尺度效应，并对凸问题进行了收敛性分析。
审核人：K·希特科夫斯基

引用于8评论
引用于623文件

MSC公司：

90立方 非线性规划
90C06型 数学规划中的大尺度问题
65千5 数值数学规划方法
90摄氏52度 减少梯度类型的方法

关键词：

大规模优化;计算研究;算法比较;光滑无约束问题;数值性能;共轭梯度法;分块拟牛顿法;缩放效应;收敛性分析

引文：

Zbl 0562.65043号;Zbl 0563.90085号;兹伯利0561.65045;Zbl 0505.65018号

软件：

L-BFGS公司;小背包;高铁;算法500;万亿;车辆08
PDF格式BibTeX公司 XML格式引用
\textit{D.C.Liu}和\textit{J.Nocedal}，数学。程序。45，第3（B）号，503--528（1989；Zbl 0696.90048）
全文： 内政部

参考文献：

[1] E.M.L.Beale，“超大非线性优化问题的算法”，载于：M.J.D.Powell，ed.，非线性优化1981（伦敦学术出版社，1981），第281-292页。
[2] A.Buckley，“组合共轭梯度拟Newton最小化算法”，《数学规划》15（1978）200-210·兹伯利0386.90051 ·doi:10.1007/BF01609018
[3] A.Buckley，“TOMS算法630的更新”，Rapports Techniques No.91，Institute National de Recherche en Informatique et en Automatique，Domaine Voluceau，Rocquencourt，B.P.105（Le Chesnay，1987）。
[4] A.Buckley和A.LeNir，“类QN变量存储共轭梯度”，《数学规划》27（1983）155-175·Zbl 0519.65038号 ·doi:10.1007/BF02591943
[5] A.Buckley和A.LeNir，“BBVSCG–函数最小化的变量存储算法”，《ACM数学软件交易》11/2（1985）103–119·Zbl 0562.65043号 ·doi:10.1145/214392.214395
[6] R.H.Byrd和J.Nocedal，“应用于无约束最小化的拟Newton方法分析工具”，《SIAM数值分析杂志》26（1989）727-739·Zbl 0676.65061号 ·doi:10.1137/0726042
[7] J.E.Dennis Jr.和R.B.Schnabel，无约束优化和非线性方程的数值方法（Prentice-Hall，1983）。
[8] J.E.Dennis Jr.和R.B.Schnabel，“无约束优化的观点”，收录于：G.L.Nemhauser、A.H.G.Rinnooy Kan和M.J.Todd，编辑，《运筹学和管理科学手册》，第1卷，优化（阿姆斯特丹北霍兰德，1989），第1-72页。
[9] R.Fletcher，《实用优化方法》，第1卷，无约束优化（Wiley，纽约，1980）·Zbl 0439.93001号
[10] J.C.Gilbert和C.Lemaréchal，“可变存储准Newton算法的一些数值实验”，IIASA工作文件WP-88，A-2361（Laxenburg，1988）·Zbl 0694.90086号
[11] P.E.Gill和W.Murray，“大规模非线性优化的共轭粒度方法”，《技术报告SOL 79-15》，斯坦福大学运筹学系（加利福尼亚州斯坦福，1979年）。
[12] P.E.Gill、W.Murray和M.H.Wright，《实用优化》（学术出版社，伦敦，1981年）。
[13] A.Griewank，“带凸分解的半光滑问题上分区BFGS的全局收敛性”，ANL/MCS-TM-105，阿贡国家实验室数学和计算机科学部（阿尔贡，IL，1987）。
[14] A.Griewank和Ph.L.Toint，“大型结构化优化问题的分区变量度量更新”，《数值数学》39（1982a）119-137·Zbl 0482.65035号 ·doi:10.1007/BF01399316
[15] A.Griewank和Ph.L.Toint，“分区准Newton更新的局部收敛分析”，《数值数学》39（1982b）429–448·Zbl 0505.65018号 ·doi:10.1007/BF01407874
[16] A.Griewank和Ph.L.Toint，“部分可分离优化问题的数值实验”，摘自：D.F.Griffiths，ed.，《数值分析：邓迪学报1983》，数学讲义，第1066卷（柏林斯普林格出版社，1984），第203-220页·兹比尔0531.65033
[17] D.C.Liu和J.Nocedal，“用于大规模优化的两种有限记忆方法的测试结果”，西北大学电气工程和计算机科学系NAM 04技术报告（伊利诺伊州埃文斯顿，1988年）。
[18] J.J.Moré、B.S.Garbow和K.E.Hillstrom，“测试无约束优化软件”，《ACM数学软件汇刊》7（1981）17-41·Zbl 0454.65049号 ·数字对象标识代码：10.1145/355934.355936
[19] S.G.Nash，“截断Newton方法的预处理”，SIAM科学与统计计算杂志6（1985）599-616·Zbl 0592.65038号 ·doi:10.1137/0906042
[20] L.Nazareth，“BFGS和共轭梯度算法之间的关系及其对新算法的影响”，SIAM数值分析杂志16（1979）794-800·Zbl 0424.65030号 ·doi:10.1137/0716059
[21] J.Nocedal，“用有限存储更新拟Newton矩阵”，《计算数学》35（1980）773-782·Zbl 0464.65037号 ·doi:10.1090/S0025-5718-1980-0572855-7
[22] D.P.O'Leary，“最小化多变量函数的离散牛顿算法”，《数学规划》23（1982）20–33·Zbl 0477.90055号 ·doi:10.1007/BF01583777
[23] J.D.Pearson，“最小化的可变度量方法”，《计算机期刊》12（1969）171-178·Zbl 0207.17301号 ·doi:10.1093/comjnl/12.2171
[24] J.M.Perry，“一类具有两步变量记忆的共轭梯度算法”，讨论论文269，西北大学经济与管理科学数学研究中心（伊利诺伊州埃文斯顿，1977年）。
[25] M.J.D.Powell，“在不进行精确线搜索的情况下最小化的可变度量算法的一些全局收敛特性”，见：R.W.Cottle和C.E.Lemke，eds.，《非线性编程》，SIAM-AMS Proceedings IX（SIAM，Philadelphia，PA，1976）·Zbl 0338.65038号
[26] M.J.D.Powell，“共轭梯度法的重新启动程序”，《数学规划》12（1977）241-254·Zbl 0396.90072号 ·doi:10.1007/BF01593790
[27] D.F.Shanno，“关于新共轭梯度算法的收敛性”，SIAM数值分析杂志15（1978a）1247-1257·Zbl 0408.90071号 ·doi:10.1137/0715085
[28] D.F.Shanno，“带有不精确搜索的共轭梯度法”，《运筹学数学研究3》（1978b）244–256·Zbl 0399.90077号 ·doi:10.1287/门3.3.244
[29] D.F.Shanno和K.H.Phua，“矩阵调节和非线性优化”，《数学规划》14（1978）149-160·Zbl 0371.90109号 ·doi:10.1007/BF01588962
[30] D.F.Shanno和K.H.Phua，“算法500的备注：无约束多元函数的最小化”，《ACM数学软件交易》6（1980）618-622·数字对象标识代码：10.1145/355921.355933
[31] T.Steihaug，“大规模优化中的共轭梯度法和信赖域”，SIAM数值分析杂志20（1983）626-637·Zbl 0518.65042号 ·doi:10.1137/0720042
[32] Ph.L.Toint，“在无约束优化中使用稀疏矩阵更新公式的一些数值结果”，《计算数学》32（1978）839-851·Zbl 0381.65036号 ·doi:10.1090/S0025-5718-1978-0483452-7
[33] Toint博士，“利用牛顿法实现高效稀疏性最小化”，载：I.S.Duff编辑，稀疏矩阵及其用途（学术出版社，纽约，1981年），第57-87页·Zbl 0463.65045号
[34] Toint博士，“部分可分离优化的测试问题和常规PSPMIN的结果”，报告编号83/4，纳穆尔大学数学系（纳穆尔，1983a）。
[35] Ph.L.Toint，“VE08AD，带有界变量的部分可分离优化例程”，Harwell Subroutine Library，a.E.R.E.（英国，1983b）。
[36] Toint博士，“大量变量的非线性优化观点”，第86/16号报告，纳穆尔大学数学系（纳穆尔，1986年）·兹比尔062390066
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。