×

非线性最小二乘问题的流动观点。 (英语) Zbl 1470.65117号

小结:正如非线性代数问题数值求解的阻尼牛顿法可以解释为牛顿流动方程的正向欧拉时间步长一样,非线性最小二乘问题的阻尼Gauß-Newton法等效于相应Gaué-Newton流动方程的正向欧拉时间步长。与牛顿法、最速下降法和Levenberg-Marquardt法相比,我们从统计和数值角度强调了Gauß-Newton流和Gaué-Newton法的优点,这两种方法分别相当于牛顿流向前Euler、梯度流向前Eule和梯度流向后Euler。最后,我们证明了广义Gauß-Newton流的无条件下降性质,该流与大规模非线性最小二乘问题的Krylov-Gaué-Newton方法有关。我们提供了大规模问题的数值结果:一个理论上的广义Rosenbrock函数和一个基于二维图像的三维重建的真实世界束平差问题。

理学硕士:

65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Agarwal,S.、Snavely,N.、Seitz,S.M.、Szeliski,R.:大范围捆绑调整。收录:Danilidis,K.、Maragos,P.、Paragios,N(编辑)《第十一届欧洲计算机视觉会议论文集:第二部分,ECCV’10,第29-42页。柏林施普林格出版社(2010年)
[2] JAE Andersson;吉利斯,J。;霍恩,G。;罗林斯,JB;Diehl,M.,CasADi:非线性优化和最优控制的软件框架,数学。程序。计算。,2019年1月11日至36日·Zbl 1411.90004号
[3] Armijo,L.,具有Lipschitz连续一阶偏导数的函数的最小化,Pac。数学杂志。,16, 1-3 (1966) ·Zbl 0202.46105号
[4] Bates,D.M.,Watts,D.G.:非线性回归分析及其应用。收录于:《概率与数理统计威利系列:应用概率与统计》。威利,纽约(1988)·Zbl 0728.62062号
[5] Bock,H.G.:Systemen nichtlinearer Differentialgleichungen中的Randwertproblemmethoden zur Parameteridentifizierung。Bonner Mathematische Schriften,第183卷。波恩波恩大学(1987年)
[6] Bock,H.G.,Kostina,E.,Schlöder,J.P.:关于自然水平函数在阻尼牛顿法实现全局收敛中的作用。摘自:Powell,M.J.D.,Scholtes,S(eds.)系统建模与优化(剑桥,1999),第51-74页。Kluwer学院。马萨诸塞州波士顿Publ(2000)·Zbl 0982.65068号
[7] Davidenko,DF,关于非线性方程组数值解的新方法,Dokl。阿卡德。诺克SSSR(N.S.),88,601-602(1953)
[8] Deufhard,P.,《非线性方程组病态解的修正牛顿法及其在多重射击中的应用》,Numer。数学。,22, 289-315 (1974) ·Zbl 0313.65070号
[9] Deufhard,P.,《非线性问题的牛顿方法:仿射不变性和自适应算法》。Springer计算数学系列,第35卷(2004),柏林:Springer,柏林·Zbl 1056.65051号
[10] Deufhard,P.,《大四:牛顿方法的仿射不变全球化》,越南数学杂志。,46, 761-777 (2018) ·Zbl 06996357号
[11] 方,DC-L;Saunders,M.,LSMR:稀疏最小二乘问题的迭代算法,SIAM J.Sci。计算。,33, 2950-2971 (2011) ·Zbl 1232.65052号
[12] Golub,生长激素;Pereyra,V.,变量分离的伪逆和非线性最小二乘问题的微分,SIAM J.Numer。分析。,10413-432(1973年)·Zbl 0258.65045号
[13] 格拉顿,S。;Lawless,AS;Nichols,NK,非线性最小二乘问题的近似高斯-牛顿方法,SIAM J.Optim。,18, 106-132 (2007) ·Zbl 1138.65046号
[14] Hohmann,A.:参数相关非线性问题的非精确高斯-牛顿方法。柏林弗雷大学博士论文(1994年)·Zbl 0941.65517号
[15] Levenberg,K.,用最小二乘法求解某些非线性问题的方法,Q.Appl。数学。,2, 164-168 (1944) ·Zbl 0063.03501号
[16] Marquardt,DW,非线性参数的最小二乘估计算法,《社会工业杂志》。申请。数学。,11, 431-441 (1963) ·Zbl 0112.10505号
[17] Nocedal,J。;Wright,SJ,《数值优化》。Springer运筹学系列(1999),纽约:Springer-Verlag,纽约
[18] Ortega,J.M.,Rheinboldt,W.C.:多元非线性方程的迭代解。应用数学经典,第30卷。宾夕法尼亚州费城SIAM(2000)。1970年原件的重印·Zbl 0949.65053号
[19] 佩奇,CC;Saunders,MA,LSQR:稀疏线性方程组和稀疏最小二乘算法,ACM Trans。数学。软质。,8, 43-71 (1982) ·Zbl 0478.65016号
[20] 北卡罗来纳州帕里赫。;Boyd,S.,《近似算法》,Found。最佳趋势。,1, 127-239 (2014)
[21] Parlett,B.N.:对称特征值问题。应用数学经典,第20卷。宾夕法尼亚州费城SIAM(1998年)。1980年原版的更正重印·Zbl 0885.65039号
[22] Potschka,A.,全局牛顿型方法的后退控制,SIAM J.Numer。分析。,54, 361-387 (2016) ·Zbl 1382.65145号
[23] Potschka,A.,Hilbert空间问题的后退控制,数值。阿尔戈。,81, 151-180 (2019) ·Zbl 1412.65039号
[24] Potschka,A.,Bock,H.G.:数学规划问题的序列同伦方法。arXiv:1902.06984(2019)
[25] Schlöder,J.:数字方法Zur Behandung Hochdimensionaller Aufgaben der Parameteridentifizierung。Bonner Mathematische Schriften,波恩187大学(1988年)·Zbl 0639.65036号
[26] 尚,Y-W;邱,Y-H,关于扩展rosenbrock函数的一个注记,Evol。计算。,14, 119-126 (2006)
[27] Sorensen,D.C.:无约束最小化的信赖域方法。In:非线性优化,1981(剑桥,1981),NATO Conf.Ser。II: 系统科学。,第29-38页。伦敦学术出版社(1982)
[28] Suárez Garcés,M.E.:参数估计的迭代线性代数。海德堡大学博士论文(2018)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。