×

数学ZBZ-数学第一资源

无导数高斯牛顿法。(英语) Zbl 07168037
小结:我们提出DFO-GN,一个解决非线性最小二乘问题的高斯-牛顿法的无导数版本。DFO-GN使用残值的线性插值来建立目标的二次模型,然后在一个典型的导数自由信赖域框架中使用。我们证明了DFO-GN是全局收敛的,并且最多需要\({\mathcal{O}(\epsilon^{-2})\)次迭代来达到公差范围内的近似一阶临界。我们提供了DFO-GN的实现,并将其与其他使用二次插值模型的最新无导数解算器进行了比较。数值计算表明,尽管DFO-GN只使用线性残差模型,但在客观评价方面,DFO-GN的性能与这些方法相当。此外,由于简化了插值过程,DFO-GN具有优越的运行时间和可扩展性。DFO-GN的实现可在https://github.com/numericalalgorithmsgroup/dfogn(https://doi.org/10.5281/zenodo.2629875)上找到。
理学硕士:
6505公里 数值数学规划方法
90立方厘米 非线性规划
90C56型 无导数方法和使用广义导数的方法
PDF格式 BibTeX公司 XML 引用
全文: 内政部
参考文献:
[1] Aoki,Y.,Hayami,B.,De Sterck,H.,Konagaya,A.:对欠定反问题的多个解进行抽样的聚类牛顿法:在药代动力学参数识别问题中的应用。暹罗科学杂志。计算机。36(1),B14-B44(2014)·Zbl 1290.65062
[2] Arter,W.,Osojnik,A.,Cartis,C.,Madho,G.,Jones,C.,Tobias,S.:分析常微分方程组的数据同化方法。参加:2018 IEEE国际电路与系统研讨会(ISCAS)(2018)
[3] Gou,和Leventel,基于梯度的同化方法。暹罗/ASA J.不确定。匡提夫。4(1),924-951(2016年)·Zbl 1358.90156
[4] Cartis,C.,Roberts,L.:无导数高斯-牛顿法。牛津大学数学研究所技术代表(2017年)。可在线优化
[5] Conn,A.R.,Gould,N.I.M.,Toint,P.L.:信赖域方法。MPS-SIAM优化系列。2000年(费城/暹罗)
[6] Conn,A.R.,Scheinberg,K.,Toint,P.L.:无导数无约束非线性优化的最新进展。数学。程序。79397-414(1997年)·Zbl 0887.90154
[7] Conn,A.R.,Scheinberg,K.,Vicente,L.N.:无导数优化中插值集的几何。数学。程序。111(1-2),141-172(2007年)·Zbl 1163.90022号
[8] Conn,A.R.,Scheinberg,K.,Vicente,L.N.:一般导数自由信赖域算法对一阶和二阶临界点的全局收敛性。暹罗·J·擎天柱。第20卷第1期,第387-415页(2009年)·Zbl 1187.65062
[9] Conn,A.R.,Scheinberg,K.,Vicente,L.N.:无导数优化简介,MPS-SIAM优化系列,第8卷。MPS/暹罗,费城(2009年)·Zbl 1163.49001号
[10] Conn,AR;Toint,PL;Pillo,G.(ed.);Gianessi,F.(ed.),无约束无导数优化的二次插值算法,27-47(1996),纽约
[11] Custódio,AL;Scheinberg,K.;Vicente,LN;Terlaky,T.(编辑);Anjos,MF(编辑);Ahmed,S.(编辑),《无导数优化的方法和软件》(2017),费城
[12] Garmanjani,R.,Júdice,D.,Vicente,L.N.:不使用导数的信赖域方法:最坏情况下的复杂性和非光滑情况。暹罗·J·擎天柱。1987年至2011年(2016年)26(4)·Zbl 1348.90572号
[13] Gould,N.I.M.,Orban,D.,Toint,P.L.:CUTEst:一个有约束和无约束的测试环境,具有用于数学优化的安全线程。计算机。擎天柱。申请。第60卷第3期,第545-557页(2015年)·Zbl 1325.90004号
[14] Gould,N.I.M.,Porcelli,M.,Toint,P.L.:更新自适应立方正则化算法中的正则化参数。计算机。擎天柱。申请。第53卷第1期,第1-22页(2012年)·Zbl 1259.90134
[15] Grapiglia,G.N.,Yuan,J.,Yuan,Yx:复合非光滑优化的一种导数自由信赖域算法。计算机。申请。数学35(2),475-499(2016)·Zbl 1371.49014
[16] Júdice,D.:不使用导数的信赖域方法:最坏情况下的复杂性和非光滑情况。科英布拉大学博士论文(2015)
[17] Kolda,T.G.,Lewis,R.M.,Torczon,V.:直接搜索优化:一些经典和现代方法的新视角。暹罗版次。第45卷第3期,第385-482页(2003年)·Zbl 1059.90146
[18] Lukšan,L.:大型稀疏非线性最小二乘的混合方法。J、 擎天柱。理论应用。89(3),575-595(1996年)·Zbl 0851.90118
[19] Moré,J.J.,Garbow,B.S.,Hillstrom,K.E.:测试无约束优化软件。ACM传输。数学。软。7(1),17-41(1981)·6504ZB54
[20] Moré,J.J.,Wild,S.M.:基准测试无导数优化算法。暹罗·J·擎天柱。第20卷第1期,第172-191页(2009年)·Zbl 1187.90319号
[21] Nocedal,J.,Wright,S.J.:数值优化,Springer运筹学和金融工程系列,第二版。斯普林格,纽约(2006)
[22] Oeuvray,R.,Bierlaire,M.:BOOSTERS:基于径向基函数的无导数算法。国际杂志模型。模拟。第29卷第1期,第26-36页(2009年)
[23] Powell,M.J.D.,通过线性插值对目标函数和约束函数建模的直接搜索优化方法,51-67(1994),Dordrecht·邮政编码:0826.90108
[24] 鲍威尔,M.J.D.:优化计算的直接搜索算法。编号行动。7287-336(1998年)·Zbl 0911.65050
[25] 鲍威尔,M.J.D.:UOBYQA:二次近似无约束优化。数学。程序。92(3),555-582(2002年)·Zbl 1014.65050
[26] Powell,M.J.D.:关于无导数无约束极小化的信赖域方法。数学。程序。97(3),605-623(2003年)·Zbl 1106.90382
[27] Powell,M.J.D.:满足插值条件的二次模型的最小Frobenius范数更新。数学。程序。第100卷第183-215页(2004年)·Zbl 1146.90526
[28] 鲍威尔,M.J.D.:无导数优化算法的观点。技术代表DAMTP 2007/NA03,剑桥大学(2007)
[29] Powell,M.J.D.:无导数约束优化的BOBYQA算法。技术代表DAMTP 2009/NA06,剑桥大学(2009)
[30] Ralston,M.L.,Jennrich,R.I.:Dud,非线性最小二乘的无导数算法。技术计量学20(1),7-14(1978)·Zbl 0422.65006
[31] Scheinberg,K.,Toint,P.L.:无导数无约束优化基于模型算法的自校正几何。暹罗·J·擎天柱。第20卷第6期,第3512-3532页(2010年)·Zbl 1209.65017
[32] Tange,O.:gnupallell:命令行的强大工具。;登录USENIX Mag.36(1),42-47(2011)
[33] Wild,S.M.:POUNDERS in TAO:用POUNDERS解决无导数非线性最小二乘问题。输入:Adv。趋势优化。《工程应用》,第40章,第529-539页。宾夕法尼亚州费城暹罗市(2017年)
[34] Wild,S.M.,Regis,R.G.,Shoemaker,C.A.:轨道:信赖域中径向基函数插值优化。暹罗科学杂志。计算机。第30卷第6期,第3197-3219页(2008年)·Zbl 1178.65065
[35] Wild,S.M.,Shoemaker,C.A.:无导数优化径向基函数信赖域算法的全局收敛性。暹罗版次。第55卷第2期,第349-371页(2013年)·Zbl 1270.65028
[36] Winfield,D.:通过数据表内插实现函数最小化。伊玛J.应用。数学。第12卷第3卷,第339-347页(1973年)·中银0274.90060
[37] Zhang,H.,Conn,A.R.:关于最小二乘极小化的无导数算法的局部收敛性。计算机。擎天柱。申请。第51卷第2期,第481-507页(2012年)·Zbl 1268.90043
[38] Zhang,H.,Conn,A.R.,Scheinberg,K.:最小二乘极小化的无导数算法。暹罗·J·擎天柱。第20卷第6期,第3555-3576页(2010年)·Zbl 1213.65091
[39] Zhang,Z:M.J.D.Powell教授的软件。http://mat.uc.pt/zhang/software.html(2017)
此参考列表基于出版商或数字数学图书馆提供的信息。它的项被试探性地匹配到zbMATH标识符,并且可能包含数据转换错误。它试图尽可能准确地反映原始论文中列出的参考文献,而不要求匹配的完整性或精确性。