×

一种全局求解Tikhonov正则化总最小二乘问题的快速算法。 (英语) Zbl 1411.65065号

摘要:具有一般Tikhonov正则化的总最小二乘问题可以重新表述为一维参数最小化问题(PM),其中每个参数化函数求值对应于求解一个(n)维信赖域子问题。在一个温和的假设下,参数函数是可微的,然后文献中提出了一种有效的二分法来求解(PM)。在本文的第一部分中,我们证明了通过减少覆盖最优参数的初始估计区间,对分算法可以得到很大的改进。由于非凸(PM)可能具有局部非全局极小值,因此二分法不能保证找到全局最优解。本文的主要贡献是提出了一种有效的全局求解分枝定界算法(PM),该算法基于一种新的参数函数在任意给定区间上的低估,仅使用两个端点处参数函数求值的信息。我们可以证明,在与二分法相同的假设下,新算法(BTD算法)以最多为(O(n^3/sqrt{epsilon})的计算工作量返回全局(epsilon)近似解。数值结果表明,我们的新全局优化算法比改进的二分法启发式算法执行速度更快。

理学硕士:

65平方英尺 超定系统伪逆的数值解
90C26型 非凸规划,全局优化
90立方厘米 分数编程
90立方厘米20 二次规划
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Beck,A.,Ben-Tal,A.:关于总最小二乘问题的Tikhonov正则化的解决方案。SIAM J.Optim公司。17(3), 98-118 (2006) ·Zbl 1112.65034号 ·doi:10.1137/050624418
[2] Beck,A.,Ben-Tal,A.,Teboulle,M.:寻找二次约束分数次二次问题的全局最优解,并将其应用于正则化总最小二乘。SIAM J.矩阵分析。申请。28(2), 425-445 (2006) ·Zbl 1115.65065号 ·数字对象标识代码:10.1137/040616851
[3] Beck,A.,Teboulle,M.:最小化椭球上不定二次函数比率的凸优化方法。数学。程序。118(1), 13-35 (2009) ·Zbl 1176.90451号 ·doi:10.1007/s10107-007-0181-x
[4] Conn,A.R.,Gould,N.I.M.,Toint,P.L.:信托区域方法。MPS/SIAM优化系列。SIAM,费城(2000)·Zbl 0958.65071号 ·数字对象标识代码:10.1137/1.9780898719857
[5] Falk,J.E.,Soland,R.M.:可分离非凸规划问题的算法。管理。科学。15, 550-569 (1969) ·Zbl 0172.43802号 ·doi:10.1287/mnsc.15.9550个
[6] Fortin,C.,Wolkowicz,H.:信赖域子问题和半定规划。最佳方案。方法软件。19, 41-67 (2004) ·兹比尔1070.65041 ·网址:10.1080/1055678041001647186
[7] Gander,W.,Golub,G.H.,von Matt,U.:约束特征值问题。线性代数应用。114(115), 815-839 (1989) ·兹伯利0666.15006 ·doi:10.1016/0024-3795(89)90494-1
[8] Gay,D.M.:计算最优局部约束步长。SIAM J.科学。统计计算。2(2), 186-197 (1981) ·Zbl 0467.65027号 ·doi:10.1137/0902016
[9] Golub,G.H.,Van Loan,C.F.:总最小二乘问题分析。SIAM J.数字。分析。17(6), 883-893 (1980) ·Zbl 0468.65011号 ·数字对象标识代码:10.1137/0717073
[10] Golub,G.H.,Van Loan,C.F.:《矩阵计算》,第三版。约翰·霍普金斯大学出版社,巴尔的摩(1996)·Zbl 0865.65009号
[11] Hansen,P.C.:正则化工具:用于分析和解决离散不适定问题的Matlab包。数字。算法6,1-35(1994)·Zbl 0789.65029号 ·doi:10.1007/BF02149761
[12] Hansen,P.C.,O'Leary,D.P.:L曲线在离散不适定问题正则化中的应用。SIAM J.科学。计算。14, 1487-1503 (1993) ·Zbl 0789.65030号 ·doi:10.1137/0914086
[13] Jain,A.K.:数字图像处理基础。Prentice-Hall,Englewood Cliffs(1989)·Zbl 0744.68134号
[14] Joerg,L.,Heinrich,V.:总最小二乘的大尺度Tikhonov正则化。J.计算。申请。数学。238, 95-108 (2013) ·Zbl 1254.65052号 ·doi:10.1016/j.cam.2012.08.023
[15] Lbaraki,T.,Schaible,S.:分数编程。欧洲药典。第12(4)号决议,325-338(2004)·Zbl 0529.90088号
[16] Moré,J.J.,Sorensen,D.C.:计算信任区域步骤。SIAM J.科学。统计计算。4(3), 553-572 (1983) ·Zbl 0551.65042号 ·doi:10.1137/0904038
[17] Moré,J.J.:信任区问题的概括。最佳方案。方法软件。2, 189-209 (1993) ·doi:10.1080/10556789308805542
[18] Pong,T.K.,Wolkowicz,H.:信赖域子问题的推广。计算。最佳方案。申请。58(2), 273-322 (2014) ·Zbl 1329.90100号 ·doi:10.1007/s10589-013-9635-7
[19] Rendel,F.,Wolkowicz,H.:信赖域子问题的半定框架,用于大规模最小化。数学。程序。77(2), 273-299 (1997) ·兹伯利0888.90137
[20] Schaible,S.,Shi,J.M.:分数规划:比率总和情况。最佳方案。方法软件。18(2), 219-229 (2003) ·Zbl 1070.90115号 ·doi:10.1080/105567803100105242
[21] Sorensen,D.C.:球面约束下大型二次函数的最小化。SIAM J.Optim公司。7(1), 141-161 (1997) ·Zbl 0878.65044号 ·doi:10.1137/S1052623494274374
[22] Tikhonov,A.N.,Arsenin,V.Y.:不良问题的解决方案。V.H.Winston,华盛顿(1977年)·Zbl 0354.65028号
[23] Van Huffel,S.,Lemmerling,P.:总最小二乘法和变量误差建模。Kluwer,Dordrecht(2002)·Zbl 1002.65500 ·doi:10.1007/978-94-017-3552-0
[24] Van Huffel,S.,Vandewalle,J.:总最小二乘问题:计算方面和分析。应用数学前沿,第9卷。SIAM,费城(1991)·Zbl 0789.62054号 ·doi:10.1137/1.9781611971002
[25] Xia,Y.,Wang,S.,Sheu,R.L.:等式S-引理及其应用。数学。程序。序列号。A 156(1-2),513-547(2016)·Zbl 1333.90086号 ·doi:10.1007/s10107-015-0907-0
[26] Yang,M.,Xia,Y.,Wang,J.,Peng,J.:使用Tikhonov恒等正则化有效求解总最小二乘。计算。最佳方案。申请。70(2), 571-592 (2018) ·Zbl 1391.90498号 ·doi:10.1007/s10589-018-0004-4
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。