×
乔瓦尼·法萨诺;罗马，马西莫

大规模优化中负曲率方向的迭代计算。 （英语） Zbl 1171.90549号

计算。最佳方案。申请。 38，第1期，81-104（2007）.
摘要：在本文中，我们讨论了在大规模优化框架内目标函数负曲率方向的迭代计算。特别是，目标函数负曲率的适当方向是保证收敛到二阶临界点的重要工具。然而，“适当”的负曲率方向往往需要与Hessian矩阵的最小特征值对应的特征向量有很好的相似性。因此，在大规模问题中，其计算可能是一项非常困难的任务。文献中提出的几种策略依赖矩阵分解来计算这种方向，因此它们在大规模环境中可能效率低下甚至不可行。另一方面，提出的迭代方法要么需要存储一个大矩阵，要么需要重新运行递归。基于这一指导原则，本文建议使用基于平面共轭梯度格式的迭代方法。在温和的假设下，我们为使用后一种方法在优化框架内计算足够的负曲率方向提供了理论依据。在我们的提案中，避免了任何矩阵存储，以及任何额外的重新运行。

引用于14文件

MSC公司：

90摄氏52度 减少梯度类型的方法
60 K10 更新理论的应用（可靠性、需求理论等）

关键词：

共轭梯度法;大规模优化;负曲率方向;收敛到二阶临界点

软件：

HSL-VF05型;万亿;切割机;GQTPAR公司;12月6日
PDF格式BibTeX公司 XML格式引用
\textit{G.Fasano}和\textit{M.Roma}，计算。最佳方案。申请。38，编号1，81--104（2007；Zbl 1171.90549）
全文： DOI程序

参考文献：

[1] Bank，R.，Chan，T.：非对称线性系统的复合步长双共轭梯度算法。数字。算法7，1-16（1994）·兹比尔0809.65025 ·doi:10.1007/BF02141258
[2] Boman，E.，Murray，W.：计算负曲率方向的迭代方法。1998年3月在铜山会议上发表。网址：www-sccm.stanford.edu/students/boman/papers.shtml
[3] Conn，A.R.，Gould，N.I.M.，Toint，P.L.：信托区域方法。MPS–SIAM优化系列。SIAM，费城（2000）·Zbl 0958.65071号
[4] Cullum，J.，Willoughby，R.：大型对称特征值计算的Lanczos算法。Birkhäuser，波士顿（1985）·Zbl 0574.65028号
[5] Dixon，L.，Ducksbury，P.，Singh，P.：一种新的三项共轭梯度法。技术报告130，英国赫特福德郡哈特菲尔德哈特菲尔德理工学院数值优化中心（1985）·Zbl 0556.90077号
[6] Facchinei，F.，Lucidi，S.：不等式约束优化中收敛到二阶平稳点。数学。操作。第93、746–766号决议（1998年）·Zbl 0977.90049号 ·doi:10.1287/门23.3.746
[7] Fasano，G.：在牛顿型算法中使用共轭方向进行大规模无约束优化。意大利罗马“La Sapienza”罗马大学博士论文（2001年）·Zbl 1053.90527号
[8] Fasano，G.：不定和奇异系统上的Lanczos共轭梯度法和伪逆计算。J.优化。理论应用。内政部10.1007/s10957-006-91193
[9] Fasano，G.：大规模无约束优化的平面共轭梯度算法，第1部分：理论。J.优化。理论应用。125, 523–541 (2005) ·Zbl 1079.90162号 ·doi:10.1007/s10957-005-2087-1
[10] Fasano，G.：用于大规模无约束优化的平面共轭梯度算法，第2部分：应用。J.优化。理论应用。125, 543–558 (2005) ·Zbl 1079.90163号 ·doi:10.1007/s10957-005-2088-0
[11] Fasano，G.，Roma，M.：《大规模优化中负曲率方向的迭代计算：理论和初步数值结果》，技术报告12-05，Dipartmento di Informatica e Sistemistica“A。Ruberti”，罗马，意大利（2005年）·Zbl 1171.90549号
[12] Ferris，M.，Lucidi，S.，Roma，M.：无约束优化的非单调曲线线搜索方法。计算。最佳方案。申请。6, 117–136 (1996) ·Zbl 0860.90111号
[13] Golub，G.，Van Loan，C.：矩阵计算，第三版。约翰·霍普金斯大学出版社，巴尔的摩（1996）·Zbl 0865.65009号
[14] Gould，N.I.M.、Lucidi，S.、Roma，M.、Toint，P.L.：使用Lanczos方法解决信任区域子问题。SIAM J.Optim公司。9, 504–525 (1999) ·Zbl 1047.90510号 ·doi:10.1137/S1052623497322735
[15] Gould，N.I.M.，Lucidi，S.，Roma，M.，Toint，P.L.：在无约束优化的线搜索方法中利用负曲率方向。最佳方案。方法软件。14, 75–98 (2000) ·Zbl 0988.90039号 ·网址：10.1080/10556780008805794
[16] Gould，N.I.M.，Orban，D.，Toint，P.：（mathsf{CUTEr}）（和（mathsf{SifDec}）），一个约束和非约束的测试环境，再次讨论。ACM事务处理。数学。柔和。29, 373–394 (2003) ·Zbl 1068.90526号 ·数字对象标识代码：10.1145/962437.96243439
[17] Hestenes，M.：最优化中的共轭方向方法。施普林格，纽约（1980）·Zbl 0439.49001号
[18] Liu，Y.，Storey，C.：高效广义共轭梯度算法，第1部分。J.优化。理论应用。69, 129–137 (1991) ·doi:10.1007/BF00940464
[19] Lucidi，S.，Rochetich，F.，Roma，M.：大规模无约束优化中截断牛顿方法的曲线稳定化技术。SIAM J.Optim公司。8, 916–939 (1998) ·Zbl 0912.90259号 ·doi:10.137/S1052623495295250
[20] Lucidi，S.，Roma，M.：新截断牛顿法在大规模无约束优化中的数值经验。计算。最佳方案。申请。7, 71–87 (1997) ·Zbl 0893.90154号 ·doi:10.1023/A:1008619812615
[21] McCormick，G.：修改了Armijo的负曲率步长规则。数学。程序。13, 111–115 (1977) ·Zbl 0367.90100号 ·doi:10.1007/BF01584328
[22] Miele，A.，Cantrell，J.：关于函数最小化的记忆梯度方法的研究。J.优化。理论应用。3, 459–470 (1969) ·Zbl 0165.22702号 ·doi:10.1007/BF00929359
[23] Moré，J.，Sorensen，D.：关于修正牛顿法中负曲率方向的使用。数学。程序。16, 1–20 (1979) ·Zbl 0394.9003号 ·doi:10.1007/BF01582091
[24] Moré，J.，Sorensen，D.：计算信赖域步骤。SIAM J.科学。统计计算。4, 553–572 (1983) ·Zbl 0551.65042号 ·doi:10.1137/0904038
[25] Nash，S.：截断Newton方法综述。J.计算。申请。数学。124, 45–59 (2000) ·Zbl 0969.65054号 ·doi:10.1016/S0377-0427（00）00426-X
[26] Paige，C.，Saunders，M.：线性方程组稀疏不定系统的解。SIAM J.数字。分析。12, 617–629 (1975) ·Zbl 0319.65025号 ·数字对象标识代码：10.1137/0712047
[27] Parlett，B.：对称特征值问题。计算数学Prentice-Hall系列。普伦蒂斯·霍尔（Prentice-Hall），恩格伍德悬崖（Englewood Cliffs）（1980）
[28] Shultz，G.，Schnabel，R.，Byrd，R.：一系列基于信任区域的无约束最小化算法。SIAM J.数字。分析。22, 47–67 (1985) ·Zbl 0574.65061号 ·doi:10.1137/0722003年
[29] Stoer，J.：用共轭梯度型方法求解大型线性方程组。收录：Bachem A.，Grötschel M.，Korte B.（编辑）数学编程。《最新技术》，第540-565页。施普林格，柏林/海德堡（1983）
[30] Trefethen，L.，Bau，D.：数值线性代数。SIAM，费城（1997）·Zbl 0874.65013号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。