El Houcine Bergou;尤塞夫·迪奥瓦内;维亚切斯拉夫·孔古尔采夫;克莱门特·罗耶。 非线性等式约束最小二乘问题的非单调无矩阵算法。 （英语） Zbl 07418128号 SIAM J.科学。计算。 43，编号5，S743-S766（2021）. 摘要：最小二乘法是最突出的优化问题之一，在科学计算和数据拟合中有许多应用。当这种公式旨在对复杂系统建模时，优化过程必须通过结合约束来考虑非线性动力学。此外，这些系统通常包含大量变量，这增加了问题的难度，并激发了对适合大规模实现的高效算法的需求。本文针对非线性等式约束下的非线性最小二乘问题，提出并分析了一种Levenberg-Marquardt算法。我们的算法基于只需要雅可比向量积的线性最小二乘问题的不精确解。通过组合步长方法和非单调步长接受规则的组合来保证全局收敛。我们从数据同化和反问题的几个测试用例中说明了我们的方法的性能；我们的算法能够从任意起点到达解的附近，对于这类问题，其性能优于最自然的替代方案。 引用于1文件 MSC公司： 65千5 数值数学规划方法 90C06型 数学规划中的大尺度问题 90立方 非线性规划 90 C55 连续二次规划型方法 关键词：非线性最小二乘法;等式约束;拉凡格式法;迭代线性代数;PDE约束优化;反问题 软件：明尼苏达州;最小值;PDEFIT公司 PDF格式BibTeX公司 XML格式引用 \textit{E.H.Bergou}等人，SIAM J.Sci。计算。43，第5号，S743--S766（2021；Zbl 07418128） 全文： 内政部 arXiv公司 参考文献： [1] H.Antil、D.P.Kouri、M.-D.Lacasse和D.Ridzal编辑，《PDE-Constrained Optimization前沿》，《数学及其应用中的IMA卷》，纽约州纽约市斯普林格163号，2016年。 [2] M.Asch、M.Bocquet和M.Nodet，《数据同化：方法、算法和应用》，SIAM，2016年·Zbl 1361.93001号 [3] R.Behling和A.Fischer，不精确约束Levenberg-Marquardt方法的统一局部收敛性分析，Optim。莱特。，6（2012年），第927-940页·Zbl 1279.90159号 [4] E.Bergou、Y.Diouane和V.Kungurtsev，反问题的Levenberg-Marquardt算法的收敛性和复杂性分析，J.Optim。理论应用。，185（2020），第927-944页·Zbl 1441.49028号 [5] E.Bergou、S.Gratton和L.N.Vicente，基于概率梯度模型和不精确子问题解的Levenberg-Marquardt方法，及其在数据同化中的应用，SIAM/ASA J.Uncertain。数量。，4（2016），第924-951页·Zbl 1358.90156号 [6] S.Boyd和L.Vandenberghe，《应用线性代数导论-向量、矩阵和最小二乘法》，剑桥大学出版社，英国剑桥，2018年·Zbl 1406.15001号 [7] S.-C.T.Choi、C.C.Paige和M.A.Saunders，MINRES-QLP：不定或奇异对称系统的Krylov子空间方法，SIAM J.Sci。计算。，33（2011），第1810-1836页·Zbl 1230.65050号 [8] J.E.Dennis、M.El-Alem和M.C.Maciel，等式约束优化中基于信任区域的通用算法的全局收敛理论，SIAM J.Optim。，7（1997），第177-207页·Zbl 0867.65031号 [9] E.D.Dolan和J.J.More©，《性能曲线基准优化软件》，数学。程序。，91（2002），第201-213页·邮编：1049.90004 [10] E.Haber和L.Hanson，PDE约束优化中的模型问题，技术报告TR-2007-009，埃默里大学，2007年。 [11] P.C.Hansen、V.Pereyra和G.Scherer，《最小二乘法数据拟合应用》，约翰霍普金斯大学出版社，马里兰州巴尔的摩，2012年·Zbl 1270.65008号 [12] M.Heinkenschloss和D.Ridzal，等式约束优化的无矩阵信任区域SQP方法，SIAM J.Optim。，24（2014），第1507-1541页·Zbl 1316.90064号 [13] M.Heinkenschloss和L.N.Vicente，不精确信任域SQP算法的分析，SIAM J.Optim。，12（2002），第283-302页·Zbl 1035.90104号 [14] W.Hock和K.Schittkowski，非线性编程代码的测试示例，J.Optim。理论应用。，30（1980），第127-129页·Zbl 0393.90072号 [15] A.F.Izmailov、M.V.Solodov和E.Uskov，等式约束优化的全局收敛Levenberg-Marquardt方法，计算。最佳方案。申请。，72（2019年），第215-239页·Zbl 1411.90323号 [16] K.Levenberg，用最小二乘法求解某些问题的方法，夸特。申请。数学。，2（1944年），第164-168页·Zbl 0063.03501号 [17] Z.F.Li、M.R.Osborne和T.Prvan，约束最小二乘问题的自适应算法，J.Optim。理论应用。，114（2002），第423-441页·Zbl 1026.90083号 [18] E.N.Lorenz，确定性非周期流，J.Atmos。《科学》，20（1963），第130-141页·Zbl 1417.37129号 [19] D.Marquardt，非线性参数最小二乘估计算法，SIAM J.Appl。数学。，11（1963），第431-441页·Zbl 0112.10505号 [20] N.Marumo、T.Okuno和A.Takeda，具有全局复杂性约束的约束Levenberg-Marquardt方法，预印本，arXiv:2004.082592020https://arxiv.org/abs/2004.08259。 [21] J.Nocedal和S.J.Wright，《数值优化》，第二版，《Springer运筹学和金融工程系列》，Springer，纽约，2006年·Zbl 1104.65059号 [22] D.Orban和A.S.Siqueira，约束非线性最小二乘的正则化方法，计算。最佳方案。申请。，76（2020年），第961-989页·Zbl 1446.90151号 [23] K.Schittkowski，ed.，《非线性编程代码的更多测试示例》，Springer，Berlin，Heidelberg，1987年·Zbl 0658.90060号 [24] K.Schittkowski，一维含时偏微分方程中的参数估计，Optim。方法软件。，7（1997），第165-210页·Zbl 0872.90113号 [25] T.Steihaug，共轭梯度法与大规模优化中的信赖域。，SIAM J.数字。分析。，20（1983年），第626-637页·Zbl 0518.65042号 [26] A.Tarantola，模型参数估计的反问题理论和方法，SIAM，费城，2005年·Zbl 1074.65013号 [27] Y.Treímolet，4D-Var中的模型误差估计，Q.J.R.Meteorol。Soc.，133（2007），第1267-1280页。 [28] M.Ulbrich和S.Ulbich，无惩罚函数非线性等式约束优化的非单调信赖域方法，数学。程序。，95（2003），第103-135页·Zbl 1030.90123号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。