×

关于最小二乘最小化无导数算法的局部收敛性。 (英语) Zbl 1268.90043号

摘要:在H.张等[SIAM J.Optim.20,No.6,3555–3576(2010;Zbl 1213.65091号)],我们开发了一类无导数算法,称为DFLS,用于最小二乘最小化。本文建立并讨论了该算法的全局收敛性及其在有限计算预算内的优良数值性能。在这里,我们想建立零残差问题的算法的局部二次收敛性。测试了该算法对零和非零问题的渐近收敛性能。我们的数值实验表明,与不利用最小二乘问题的特殊结构或使用有限差分近似梯度的软件包相比,该算法在实现高精度解方面也很有希望。

MSC公司:

90C20个 二次规划
90 C56 无导数方法和使用广义导数的方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Conn,A.R.,Gould,N.I.M.,Toint,Ph.L.:信托区域方法。MPS-SIAM优化系列。SIAM,费城(2000)·Zbl 0958.65071号
[2] Conn,A.R.,Scheinberg,K.,Vicente,法律公告:一般无导数信任区域算法到一阶和二阶临界点的全局收敛性。SIAM J.Optim公司。20, 387–415 (2009) ·Zbl 1187.65062号 ·数字对象标识代码:10.1137/060673424
[3] Conn,A.R.,Scheinberg,K.,Vicente,法律公告:无导数优化中插值集的几何。数学。程序。111, 141–172 (2008) ·Zbl 1163.90022号 ·doi:10.1007/s10107-006-0073-5
[4] Conn,A.R.,Scheinberg,K.,Vicente,法律公告:无导数优化简介。MPS-SIAM优化系列。SIAM,费城(2009)·Zbl 1163.49001号
[5] Conn,A.R.,Scheinberg,K.,Vicente,法律公告:无导数优化中样本集的几何:多项式回归和欠定插值。IMA J.数字。分析。28, 721–748 (2008) ·Zbl 1157.65034号 ·doi:10.1093/imanum/drn046
[6] Dan,H.,Yamashita,N.,Fukushima,M.:局部误差界下不精确Levenberg-Marquardt方法的收敛性。最佳方案。方法软件。17, 605–626 (2002) ·Zbl 1030.65049号 ·doi:10.1080/1055678021000049345
[7] Fan,J.:局部误差约束条件下自适应Levenberg-Marquardt算法的收敛性。计算。最佳方案。申请。34, 47–62 (2006) ·Zbl 1111.90103号 ·doi:10.1007/s10589-005-3074-z
[8] Fan,J.,Yuan,Y.:关于无非奇异性假设的Levenberg-Marquardt方法的二次收敛性。计算74、23–39(2005)·Zbl 1076.65047号 ·doi:10.1007/s00607-004-0083-1
[9] Hager,W.W.,Zhang,H.:自适应不精确近点方法。计算。最佳方案。申请。39161-181(2008年)·Zbl 1147.90414号 ·doi:10.1007/s10589-007-9067-3
[10] Hager,W.W.,Zhang,H.:一类新的近点方法的渐近收敛性分析。SIAM J.控制优化。46, 1683–1704 (2007) ·Zbl 1154.90009号 ·数字对象标识代码:10.1137/060666627
[11] Hock,W.,Schittkowski,K.:非线性编程代码的测试示例。莱克特。注释经济。数学。系统。187 (1981) ·Zbl 0452.90038号
[12] Moré,J.J.:Levenberg-Marquardt算法、实现和理论。摘自:Watson,G.A.(编辑)《数值分析》。数学课堂讲稿,第630卷。柏林施普林格(1977)
[13] Powell,M.J.D.:无约束最小化无导数NEWUOA的发展。IMA J.数字。分析。28, 649–664 (2008) ·Zbl 1154.65049号 ·doi:10.1093/imanum/drm047
[14] Powell,M.J.D.:无导数无约束优化的NEWUOA软件。DAMTP(2004)·Zbl 1108.90005号
[15] Powell,M.J.D.:满足插值条件的二次模型的最小Frobenius范数更新。数学。程序。,序列号。B 100,183–215(2004)·Zbl 1146.90526号
[16] Powell,M.J.D.:关于无导数无约束极小化的信赖域方法。数学。程序。97, 605–623 (2003) ·Zbl 1106.90382号 ·doi:10.1007/s10107-003-0430-6
[17] Tseng,P.:优化中一些Newton型方法的误差界和超线性收敛性分析。摘自:Di Pillo,G.,Giannessi,F.(编辑)《非线性优化及相关主题》,第445-462页。Kluwer Academic,多德雷赫特(2000)·兹伯利0965.65091
[18] Yamashita,N.,Fukushima,M.:单调互补问题的真正超线性收敛的近点算法。SIAM J.Optim公司。11, 364–379 (2000) ·Zbl 1004.47031号 ·doi:10.1137/S105262349935949
[19] Yamashita,N.,Fukushima,M.:关于Levenberg-Marquardt方法的收敛速度。计算15,237–249(2001)·Zbl 1001.65047号
[20] Zhang,H.,Conn,A.R.,Scheinberg,K.:最小二乘最小化的无导数算法。SIAM J.Optim公司。(2010年,已接受)·Zbl 1213.65091号
[21] Zhang,H.,Conn,A.R.,Scheinberg,K.:带约束的最小二乘最小化的无导数算法(2010年,编制中)·Zbl 1213.65091号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。