×
徐伟;托马斯·科尔曼。;刘刚

非线性最小二乘最小化的割线方法。 （英语） Zbl 1245.90128号

计算。最佳方案。申请。 51，第1号，159-173（2012）.
摘要：多年来，准纽顿方法在设计有效的实用方法以数值求解非线性最小化问题和多维零寻优方面发挥了突出的作用。有大量文献概述了这些方法的特性并说明了它们的性能，如[J.E.Dennis，六月和R.B.施纳贝尔《无约束优化和非线性方程的数值方法》，《应用数学经典》。16.宾夕法尼亚州费城：SIAM，工业和应用数学学会。xv，378页（1996年；Zbl 0847.65038号)]. 此外，大多数现代优化库都包含一组准Newton代码，它们被广泛使用。准牛顿对实际非线性优化的贡献是没有挑战的。
本文提出并研究了一种有效的非线性最小二乘问题的拟牛顿（割线）方法，由于自动微分（AD）技术的选择性应用而变得实用。我们还观察到，AD技术可以提高标准准Newton（正定正割）方法对该问题的完全非线性最小化方法的效率，并且我们比较了这两种AD辅助方法。最后，我们将AD辅助方法与标准的全球化Gauss-Newton方法进行了比较。

引用于8文件

MSC公司：

90立方 非线性规划
90元53 拟Newton型方法

关键词：

非线性最小二乘问题;准牛顿法;自动微分

引文：

Zbl 0847.65038号

软件：

ADMAT公司;小背包;防盗箱
PDF格式BibTeX公司 XML格式引用
\textit{W.Xu}等人，计算。最佳方案。申请。51，第1号，159--173（2012；Zbl 1245.90128）
全文： DOI程序

参考文献：

[1] Broyden，C.G.：求解非线性联立方程的一类方法。数学。计算。19577–593（1965年）·Zbl 0131.13905号 ·doi:10.1090/S0025-5718-1965-0198670-6
[2] Broyden，C.G.：一类双秩最小化算法的收敛性。J.Inst.数学。申请。6, 76–90 (1970) ·Zbl 0223.65023号 ·doi:10.1093/imamat/6.1.76
[3] Broyden，C.G.：求解稀疏非线性系统的算法的收敛性。数学。计算。25, 285–294 (1971) ·Zbl 0227.65038号 ·doi:10.1090/S0025-5718-1971-0297122-5
[4] Coleman，T.F.，Jonsson，G.F.：使用自动微分有效计算结构化梯度。SIAM J.科学。计算。20, 1430–1437 (1999) ·Zbl 0934.65026号 ·doi:10.1137/S106482759797320794
[5] 科尔曼，T.F.，徐，W.：ADMAT-2.0。http://www.math.uwaterloo.ca/CandO_Dept/securedDownloadsWhitelist/index.shtml
[6] Conn，A.R.，Gould，N.I.M.，Toint，P.L.：信托区域方法。SIAM，费城（2000）·Zbl 0958.65071号
[7] Dennis，J.E.：关于类牛顿方法的收敛性。In:Rabinowitz，P.（ed.）非线性代数方程的数值方法。Gordon&amp；Breach，伦敦（1970）·Zbl 0252.65045号
[8] Dennis，J.E.，Schnabel，R.B.：无约束优化和非线性方程的数值方法。SIAM，费城（1996）·Zbl 0847.65038号
[9] Fletcher，R.：可变度量算法的新方法。计算。J.13，317–322（1970）·Zbl 0207.17402号 ·doi:10.1093/comjnl/13.3317
[10] Gay，D.M.：Broyden方法的一些收敛性质。SIAM J.数字。分析。16, 623–630 (1979) ·Zbl 0453.65034号 ·doi:10.1137/0716047
[11] Goldfarb，D.：通过变分方法导出的一系列可变度量更新。数学。计算。24, 23–26 (1970) ·Zbl 0196.18002号 ·doi:10.1090/S0025-5718-1970-0258249-6
[12] Golub，G.，Van Loan，C.：矩阵计算，第三版。约翰·霍普金斯大学出版社，巴尔的摩（1996）·Zbl 0865.65009号
[13] Griewank，A.，Corliss，G.F.（编辑）：算法的自动微分：理论、实现和应用。SIAM，费城（1991）·Zbl 0747.00030号
[14] Madsen，K.：非线性最小二乘的高斯-奈顿和准奈顿组合方法。NI-88-10报告，IMM，DTU（1988）
[15] Moré，J.J.、Grabow，B.S.、Hillstrom，K.E.：测试无约束优化软件。ACM事务处理。数学。柔和。7, 17–24 (1981) ·Zbl 0454.65049号 ·数字对象标识代码：10.1145/355934.355936
[16] Nielsen，H.B.：immoptibox–用于优化的MATLAB工具箱，IMM，丹麦技术大学（2006）。http://www2.imm.dtu.dk/hbn/immoptibox/
[17] Powell，M.J.D.：非线性方程的混合方法。收录于：Rabinowitz，P.（ed.）《非线性代数方程的数值方法》，第87–114页。Gordon and Breach，伦敦（1970）·Zbl 0277.65028号
[18] Shanno，D.F.：函数最小化的拟牛顿方法的条件。数学。计算。24, 647–656 (1970) ·Zbl 0225.65073号 ·doi:10.1090/S0025-5718-1970-0274029-X
[19] Wang，G.，Wei，Y.，Qiao，S.：广义逆：理论与计算。北京/纽约科学出版社（2004）·Zbl 1395.15002号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。