×

改进的截断随机奇异值分解(MTRSVD)算法用于具有一般形式正则化的大规模离散不适定问题。 (英文) Zbl 1518.65037号

摘要:本文针对具有一般形式正则化的大规模线性离散不适定问题,提出了新的基于随机化的算法:(L_x)服从(A_x-b),其中(L)是正则化矩阵。我们的算法受到了改进的截断奇异值分解(MTSVD)方法的启发,它只适用于中小型问题,以及随机SVD(RSVD)算法,这些算法可以生成对\(A\)的良好低秩近似。我们通过将秩-((k+q)RSVD近似值截断为\(A\),将秩-\(k\)截断随机SVD(TRSVD)近似值用于\(A~),其中\(q\)是一个过采样参数。由此产生的算法称为改进的TRSVD(MTRSVD)方法。在每一步中,我们使用LSQR算法来解决由此产生的内部最小二乘问题,该问题被证明随着\(k \)的增加而变得更好,因此LSQR收敛更快。对于严重、中度和轻度不适定问题,我们给出了RSVD和TRSVD近似精度的精确界,并大大改进了TRSVD逼近的已知基本界。我们证明了如何选择LSQR的停止容差,以保证计算的和精确的最佳正则化解具有相同的精度。数值实验表明,MTRSVD的最佳正则化解与截断广义奇异值分解(TGSVD)算法的最优正则化解一样精确,至少与一些现有的截断随机广义奇异值分裂(TRGSVD)算法的最佳正则解一样精确。

MSC公司:

65层22 数值线性代数中的不适定性和正则化问题
2015财年65 矩阵特征值和特征向量的数值计算
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Aster R C、Borchers B和Thurber C H 2013参数估计和反问题第2版(纽约:Elsevier)·Zbl 1273.35306号
[2] Björcká1996最小二乘问题的数值方法(宾夕法尼亚州费城:SIAM)·Zbl 0847.65023号
[3] Cuppen J J M 1984计算心室去极化的等色线SIAM J.Sci。统计计算5 105-20·Zbl 0534.65089号
[4] Cox M G 1987用一个和两个自变量中的样条曲线进行数据近似数值分析的最新进展A Iserles和M J D Powell(牛津:Clarendon)pp 111-38
[5] Eldén L 1982加权伪逆、广义奇异值和约束最小二乘问题BIT 22 487-502·Zbl 0509.65019号
[6] Engl H W 1993反问题稳定解的正则化方法。数学。指数3 71-143·Zbl 0776.65043号
[7] Engl H W、Hanke M和Neubauer A 2000反问题正则化(纽约:Kluwer)·Zbl 0859.65054号
[8] Golub G H和Van Loan C F 2013矩阵计算第4版(马里兰州巴尔的摩:约翰斯·霍普金斯大学出版社)·Zbl 1268.65037号
[9] Gu M 2015子空间迭代随机化和奇异值问题SIAM J.Sci。计算37 A1139-73·Zbl 1328.65088号
[10] Gu Y,Yu W J和Li Y H 2016大型矩阵自适应低秩分解的高效随机化算法(arXiv:1606.09402)
[11] Halko N、Martinsson P G和Tropp J A 2011发现随机性结构:构造近似矩阵分解的概率算法SIAM Rev.53 217-88·兹比尔1269.65043
[12] Hansen P C 1998秩亏和离散不适定问题:线性反演的数值方面(宾夕法尼亚州费城:SIAM)
[13] Hansen P C 2007 Matlab 7.3 Numer的正则化工具版本4.0。算法46 189-94·Zbl 1128.65029号
[14] Hansen P C 2010离散反问题:洞察力和算法(宾夕法尼亚州费城:SIAM)·Zbl 1197.65054号
[15] Hansen P C和Saxild-Hansen M 2012 AIR工具–代数迭代重建方法J.Compute的MATLAB包。申请。数学236 2167-78·Zbl 1241.65042号
[16] Hansen P C、Sekii T和Shibahashi H 1992。正则化的修正截断SVD方法,一般形式SIAM J.Sci。计算13 1142-50·Zbl 0760.65044号
[17] Higham N J 2002数值算法的准确性和稳定性第2版(宾夕法尼亚州费城:SIAM)·Zbl 1011.65010号
[18] Hofmann B 1986应用逆问题和不适定问题的正则化(斯图加特:Teubner)·Zbl 0606.65038号
[19] Jia Z 2016线性离散不适定问题Krylov迭代求解器LSQR、CGLS、LSMR和CGME的正则化理论(arXiv:math.NA/1608.05907)
[20] Jia Z 2017线性离散不适定问题Krylov迭代求解器LSQR和CGLS的正则化理论,第一部分:简单奇异值情况(arXiv:math.NA/1701.05708)
[21] Jia Z 2017 Krylov迭代求解器CGME和LSMR对线性离散不适定问题的正则化效果及其在截断随机SVD原稿中的应用
[22] Kaipio J和Somersalo E 2005统计和计算反问题(应用数学科学第160卷)(纽约:Springer)·Zbl 1068.65022号
[23] Kilmer M E,Hansen P C和Espanol M I 2007基于投影的一般形式Tikhonov调节方法SIAM J.Sci。计算29 315-30·Zbl 1140.65030号
[24] Liberty E、Woolfe F、Martinsson P-G、Rokhlin V和Tygert M 2007矩阵低阶近似的随机算法Proc。美国国家科学院。科学。美国104 20167-72·Zbl 1215.65080号
[25] Miller K 1970具有规定边界SIAM J.Math的不适定问题的最小二乘法。分析152-74·Zbl 0214.14804号
[26] Mueller J L和Siltanen S 2012线性和非线性反问题及其实际应用(宾夕法尼亚州费城:SIAM)·Zbl 1262.65124号
[27] Martinsson P-G、Rokhlin V和Tygert M 2011矩阵分解的随机算法。计算。哈蒙。分析30 47-68·Zbl 1210.65095号
[28] Meng X、Saunders MA和Mahoney M W 2014 LSRN:强过定或欠定系统的并行迭代求解器SIAM J.Sci。计算36 C95-118·兹比尔1298.65053
[29] Natterer F 1986计算机断层成像的数学(纽约:Wiley)·Zbl 0617.92001号
[30] Paige C C和Saunders M A 1982 LSQR:稀疏线性方程组和稀疏最小二乘ACM Trans算法。数学。软8 43-71·Zbl 0478.65016号
[31] Rokhlin V、Szlam A和Tygert M 2009主成分分析的随机算法SIAM J.Matrix Ana。申请31 1100-24·Zbl 1198.65035号
[32] Wei Y,Xie P P和Zhang L P 2016 Tikhonov正则化和随机GSVD SIAM J.矩阵分析。申请37 649-75·Zbl 1339.65057号
[33] Xiang H和Zou J 2013大型离散反问题的随机SVD正则化反问题29 085008·Zbl 1286.65053号
[34] 向H
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。