×

线性离散不适定问题在多重奇异值情况下LSQR的正则化性质以及最佳、近最佳和一般低阶逼近。 (英语) Zbl 1452.65075号

摘要:对于白噪声污染的大规模线性离散不定问题(min\Vert-Ax-b\Vert)或(Ax=b\),最常用的是基于Golub-Kahan双对角化的LSQR方法及其数学等价的CGLS,即应用于(A^TAx=A^Tb)的共轭梯度(CG)方法。它们具有内在的正则化效应,其中迭代次数(k)起到正则化参数的作用。长期存在的根本问题是:LSQR和CGLS能找到双范数滤波的最佳正则解吗? 当(A)的奇异值很简单时,作者对严重和中度不适定问题给出了明确的答案。本文将结果推广到多重奇异值情形,研究了Krylov子空间的逼近精度、Golub-Kahan双对角化生成的低秩逼近的性质以及Ritz值的收敛性。对于这两类问题,我们证明了LSQR在半收敛性下找到了两个范数滤波的最佳正则化解。特别地,我们考虑了奇异值为(sigma_k=mathcal{O}左(k^{-\alpha}右)和(alpha>0)的不适定问题的最佳逼近、近最佳逼近和一般秩(k)逼近(A)的一些重要而未涉及的问题,以及它们与它们的非零奇异值之间的关系。数值实验证实了我们的理论。关于一般秩(k)逼近的结果及其非零奇异值的性质适用于几个Krylov解算器,包括LSQR、CGME、MINRES、MR-II、GMRES和RRGMRES。

理学硕士:

65层22 数值线性代数中的不适定性和正则化问题
2015财年65 矩阵特征值和特征向量的数值计算
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Aster R C、Borchers B和Thurber C H 2013参数估计和反问题第2版(纽约:Elsevier)
[2] Berisha S和Nagy J G 2012恢复工具:图像恢复的迭代方法http://mathcs.emory.edu/~nagy/RestoreTools(纳吉/恢复工具)
[3] Björcká1988求解大型稀疏线性方程组BIT28 659-70的双对角化算法·Zbl 0658.65041号
[4] Björcká1996最小二乘问题的数值方法(宾夕法尼亚州费城:SIAM)·Zbl 0847.65023号
[5] Björcká2015矩阵计算中的数值方法(柏林:施普林格)·Zbl 1322.65047号
[6] Björcká和Eldén L 1979不适定问题的数值代数方法(瑞典:林雪平大学数学系)报告LiTH-R-33-1979
[7] Björcká,Grimme E和van Dooren P 1994适定系统BIT-Numer的隐式移位双对角化算法。数学34 510-34·Zbl 0821.65023号
[8] Chung J、Nagy J G和O’Leary D P 2007/08 Lanczos混合正则化Electr的加权GCV方法。事务处理。数字。分析28 149-67·Zbl 1171.65029号
[9] Chung J和Palmer K 2015大规模Tikhonov正则化的混合LSMR算法SIAM J.Sci。计算37 S562-80·Zbl 1320.65058号
[10] Craig E J 1955 N步迭代程序J.数学。物理34 64-73·Zbl 0065.10901号
[11] Engl H W 1993反问题稳定解的正则化方法。数学。指数3 71-143·Zbl 0776.65043号
[12] Engl H W、Hanke M和Neubauer A 2000反问题正则化(Dordrecht:Kluwer)
[13] Fierro R D、Golub G H、Hansen P C和O’Leary D P 1997通过截断总最小二乘SIAM J.Sci进行正则化。计算18 1223-41·Zbl 0891.65040号
[14] Fong D C L和Saunders M 2011 LSMR:稀疏最小二乘问题的迭代算法SIAM J.Sci。计算33 2950-71·Zbl 1232.65052号
[15] Gazzola S,Hansen PC和Nagy J G 2019 IR工具:迭代正则化方法和大规模测试问题Numer的MATLAB包。算法81 773-811·Zbl 1415.65003号
[16] Gazzola S和Novati P 2016 Krylov子空间方法BIT-Numer中离散Picard条件的继承。数学56 893-918·Zbl 1353.65023号
[17] Gilyazov S F和Gol'dman N L 2000用迭代方法正则化不适定问题(Dordrecht:Kluwer学术出版社)·Zbl 0943.65066号
[18] Hanke M 1995用于不适定问题的共轭梯度型方法(伦敦:Longman)数学系列中的皮特曼研究笔记·兹比尔083065043
[19] Hanke M 2001基于Lanczos的离散病态问题正则化方法BIT-Numer。数学41 1008-18
[20] Hanke M和Hansen PC 1993大规模问题的正则化方法。数学。指数3 253-315·Zbl 0805.65058号
[21] Hanke M和Nagy J G 1996使用对称不定共轭梯度技术恢复大气模糊图像反问题12 157-73·Zbl 0859.65141号
[22] Hansen P C 1990具有不确定数值秩SIAM J.Sci的离散不定问题的截断奇异值分解解。统计计算11 503-18·Zbl 0699.65029号
[23] Hansen P C 1998秩亏和离散不适定问题:线性反演的数值方面(宾夕法尼亚州费城:SIAM)·Zbl 0890.65037号
[24] Hansen P C 2007正则化工具4.0版,用于Matlab 7.3 Numer。算法46 189-94·Zbl 1128.65029号
[25] Hansen P C 2010离散反问题:洞察力和算法(宾夕法尼亚州费城:SIAM)·Zbl 1197.65054号
[26] Hestenes M R和Stiefel E 1952求解线性系统的共轭梯度方法J.Res.Natl Bur。展位49 409-36·Zbl 0048.09901号
[27] HnětynkováM R、KubínováM和Plešinger M 2017 LSQR、LSMR和Craig正则化Lin.代数应用533 357-79残差中的噪声表示·Zbl 1391.15062号
[28] HnětynkováM R、Plešinger M和StrakošZ 2009 Golub-Kahan迭代双对角化的正则化效果,并揭示数据BIT-Numer中的噪声水平。数学49 669-96·Zbl 1184.65044号
[29] 霍夫曼B 1986应用逆问题和不适定问题的正则化(莱比锡:特伯纳)·Zbl 0606.65038号
[30] Huang Y和Jia Z 2017关于大规模不适定问题LSQR正则化的一些结果。中国数学60 701-18·Zbl 1453.65080号
[31] Huang Y和Jia Z,2017年,关于大规模对称离散不适定问题MINRES和MR-II的正则化效果,J.Compute。申请。数学320 145-63·兹比尔1372.65119
[32] Jensen T K和Hansen P C 2007使用最小残差方法BIT-Numer进行迭代正则化。数学47 103-20·Zbl 1113.65037号
[33] 贾Z 2020线性离散不适定问题Krylov子空间的近似精度J。计算。申请。数学374 112786·Zbl 1434.65043号
[34] Jia Z 2020线性离散不适定问题的LSQR中的低秩近似和Ritz值逆问题36 045013
[35] 线性离散不适定问题的Krylov迭代求解器CGME和LSMR的正则化性质及其对截断随机SVD数值的应用。算法
[36] Jia Z和Yang Y 2020基于联合双对角化的迭代算法,用于大规模广义Tikhonov正则化应用程序。数字。数学157 159-77·Zbl 1452.65076号
[37] Kaipio J和Somersalo E 2005统计和计算反问题(纽约:Springer)
[38] Kern M 2016反问题数值方法(纽约:Wiley)·Zbl 1342.65138号
[39] Kilmer M E和Stewart G W 1999迭代正则化和MINRES SIAM J.矩阵分析。申请21 613-28·Zbl 0951.65037号
[40] Kirsch A 2011反问题数学理论导论(纽约:Springer)·Zbl 1213.35004号
[41] Mueller J L和Siltanen S 2012线性和非线性反问题及其实际应用(宾夕法尼亚州费城:SIAM)·Zbl 1262.65124号
[42] Natterer F 2001计算机断层成像数学(宾夕法尼亚州费城:SIAM)·Zbl 0973.92020号
[43] Nolet G 1985解决或解决不充分和有噪声的断层摄影系统J.Comput。物理61 463-82·Zbl 0589.65086号
[44] O’Leary D P和Simmons J A 1981不适定问题大规模离散的双对角化-正则化程序SIAM J.Sci。统计计算2 474-89·Zbl 0469.65089号
[45] Paige C C和Saunders M A 1982 LSQR:稀疏线性方程组和稀疏最小二乘ACM Trans的算法。数学软件8 43-71·Zbl 0478.65016号
[46] Paige C C和StrakošZ Z 2005线性代数系统中的核心问题SIAM J.矩阵分析。申请26 861-75·兹比尔1097.15003
[47] Renaut R A、Vatankhah S和Ardestani V E 2017通过无偏预测风险和加权GCV SIAM J.Sci进行混合和迭代重加权正则化。计算39 B221-43·Zbl 1360.65115号
[48] Scales J A和Gerztenkorn A 1988逆理论中的稳健方法逆问题4 1071-91·Zbl 0672.65019号
[49] Stewart G W 2001矩阵算法II:特征系统(宾夕法尼亚州费城:SIAM)·Zbl 0984.65031号
[50] Stewart G W和Sun J G 1990矩阵微扰理论(纽约:学术公司)
[51] van der Sluis A和van der Vorst H A 1986共轭梯度的收敛速度Numer。数学48 543-60·Zbl 0596.65015号
[52] Varah J M 1979线性离散不适定问题的一些数值方法的实际检验SIAM Rev.21 100-11·Zbl 0406.65015号
[53] Vogel C R 2002反问题计算方法(宾夕法尼亚州费城:SIAM)·Zbl 1008.65103号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。