×

Tikhonov正则化参数的无偏预测风险估计:奇异值分解的递增秩近似收敛。 (英语) Zbl 1434.65039号

小结:截断奇异值分解可用于结合Tikhonov正则化求解线性离散不适定问题,并且需要估计一个正则化参数,该参数在拟合数据函数的大小和正则化项之间取得平衡。无偏预测风险估计器是一种建议的方法,用于在测量值中的噪声具有已知方差的正态分布的情况下寻找正则化参数。在本文中,我们提供了一种使用无偏预测风险估计器的算法,该估计器可以从奇异值分解中自动找到正则化参数和要使用的项数。该算法的基础是一个新的结果,证明正则化参数与奇异值分解的项数收敛。对于分析,假设精确数据满足离散Picard条件,且噪声完全污染测量数据系数足够大的项,这取决于噪声水平和系统的不适定性。提供了正则化参数的下限,从而实现了计算效率高的算法。将支持结果与使用广义交叉验证方法获得的结果进行了比较。二维算例的仿真验证了理论分析和算法提高噪声水平的有效性,并证明了截断奇异值分解获得的相对重建误差小于奇异值分解得到的相对重构误差。

MSC公司:

65层20 超定系统伪逆的数值解
65层22 数值线性代数中的不适定性和正则化问题
2015财年65 矩阵特征值和特征向量的数值计算
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abascal,J-FPJ;Arridge,SR;Bayford,右侧;Holder,DS,脑功能线性电阻抗断层成像正则化参数最佳选择方法的比较,Physiol。测量。,29, 1319-1334 (2008) ·doi:10.1088/0967-3334/29/11/007
[2] Aster,R.C.,Borchers,B.,Thurber,C.H.:参数估计和反问题,第2版。Elsevier,阿姆斯特丹(2013)·Zbl 1273.35306号
[3] Bakushinskii,AB,关于使用拟最优和比率准则选择正则化参数的备注,苏联计算。数学。数学。物理。,24, 181182 (1984) ·Zbl 0595.65064号 ·doi:10.1016/0041-5553(84)90253-2
[4] Bauer,F。;Lukas,MA,《不适定问题正则化的比较参数选择方法》,数学。计算。模拟。,81, 1795-1841 (2011) ·Zbl 1220.65063号 ·doi:10.1016/j.matcom.2011.01.016
[5] Björck,A.:最小二乘问题的数值方法。费城工业和应用数学学会(1996年)·Zbl 0847.65023号 ·doi:10.1137/1.9781611971484
[6] 钟,J。;Nagy,JG;O’Leary,DP,《Lanczos混合正则化的加权GCV方法》,电子。事务处理。数字。分析。,28, 149-167 (2008) ·Zbl 1171.65029号
[7] 德里尼亚斯,P。;Mahoney,MW,RandNLA:随机数值线性代数,Commun。ACM,59,80-90(2016)·数字对象标识代码:10.1145/2842602
[8] 德里尼亚斯,P。;马奥尼,MW;Muthukrishnan,S。;Sarlós,T.,《快速最小二乘近似法》,数值。数学。,117, 219-249 (2011) ·Zbl 1218.65037号 ·doi:10.1007/s00211-010-0331-6
[9] 费努,C。;赖切尔,L。;罗德里格斯,G。;Sadok,H.,通过部分SVD、BIT Numer进行Tikhonov正则化的GCV。数学。,57, 1019-1039 (2017) ·Zbl 1386.65118号 ·doi:10.1007/s10543-017-0662-0
[10] 西尔维亚·加佐拉;汉森,Per Christian;Nagy,James G.,《IR Tools:迭代正则化方法和大规模测试问题的MATLAB包》,《数值算法》,81,773-811(2018)·Zbl 1415.65003号 ·doi:10.1007/s11075-018-0570-7
[11] Golub,生长激素;希思,M。;Wahba,G.,《广义交叉验证作为选择良好岭参数的方法》,《技术计量学》,21,215-223(1979)·Zbl 0461.62059号 ·doi:10.1080/00401706.1979.10489751
[12] Golub,G.H.,van Loan,C.F.:矩阵计算,第三版。约翰·霍普金斯出版社,巴尔的摩(1996)·Zbl 0865.65009号
[13] Gower,RM;Richtárik,P.,线性系统的随机迭代方法,SIAM J.矩阵分析。申请。,36, 1660-1690 (2015) ·Zbl 1342.65110号 ·doi:10.1137/15M1025487
[14] Hämäläinen,K.,Harhanen,l.,Kallonen,A.,Kujanpä,A.,Niemi,E.,Siltanen,S.:核桃的层析X射线数据。arXiv:1502.04064(2015)
[15] 哈马里克,美国。;R.Palm。;Raus,T.,《关于不适定问题中正则化参数选择的最小化策略》,Numer。功能。分析。最佳。,30, 924-950 (2009) ·Zbl 1189.65123号 ·网址:10.1080/01630560903392941
[16] 哈马里克,美国。;R.Palm。;Raus,T.,Tikhonov正则化中具有不精确噪声水平的不适定问题的参数选择规则族,J.Compute。申请。数学。,236, 2146-2157 (2012) ·Zbl 1247.65071号 ·doi:10.1016/j.cam.2011.09.037
[17] 汉克,M。;Hansen,PC,大型问题的正则化方法,Surv。数学。印度,3,253-315(1993)·Zbl 0805.65058号
[18] 汉森,JK;霍格,JD;桑德,GK;雷诺特,RA;Popat,SC,非负约束最小二乘法和电化学阻抗谱数据反演的剩余周期图参数选择,J.Compute。申请。数学。,278, 52-74 (2015) ·Zbl 1304.65268号 ·doi:10.1016/j.cam.2014.09.017
[19] Hansen,PC,离散不定问题的离散Picard条件,BIT Numer。数学。,30, 658-672 (1990) ·Zbl 0723.65147号 ·doi:10.1007/BF01933214
[20] Hansen,PC,正则化工具——用于分析和解决离散不适定问题的Matlab软件包,Numer。算法,46189-194(1994)·Zbl 1128.65029号 ·doi:10.1007/s11075-007-9136-9
[21] Hansen,P.C.:秩亏和离散不适定问题。费城工业和应用数学学会(1998年)·Zbl 0890.65037号 ·doi:10.1137/1.9780898719697
[22] Hansen,P.C.:离散逆问题。费城工业和应用数学学会(2010年)·Zbl 1197.65054号 ·doi:10.1137/1.9780898718836
[23] Hofmann,B.:《应用逆问题和病态问题的正则化:数值方法》,Teubner-Texte-zur-Mathematik。Teubner,B.G.,柏林(1986)·Zbl 0606.65038号 ·doi:10.1007/978-3-3222-93034-7
[24] 莱文,E。;Meltzer,AY,使用Picard参数估计线性离散病态问题中的正则化参数,SIAM J.Sci。计算。,39,a2741-a2762(2017)·Zbl 1378.65117号 ·doi:10.1137/17M1123195
[25] Lin,Y。;沃尔伯格,B。;Guo,H.,UPRE全变分参数选择方法,信号处理。,90, 2546-2551 (2010) ·Zbl 1194.94109号 ·doi:10.1016/j.sigpro.2010.02.025
[26] Mahoney,MW,矩阵和数据的随机算法,Found。Trends®马赫数。学习。,3, 123-224 (2011) ·Zbl 1232.68173号
[27] 米德,JL;Renaut,RA,用于估计正则化参数以解决病态最小二乘问题的牛顿寻根算法,逆问题。,25, 025002 (2009) ·Zbl 1163.65019号 ·doi:10.1088/0266-5611/25/2/025002
[28] X孟。;马萨诸塞州桑德斯;Mahoney,MW,LSRN:强超定或欠定系统的并行迭代求解器,SIAM J.Sci。计算。,36,c95-c118(2014)·Zbl 1298.65053号 ·doi:10.1137/120866580
[29] 弗吉尼亚州莫罗佐夫,《关于用正则化方法求解函数方程》,Sov。数学。道克。,7, 414-417 (1966) ·Zbl 0187.12203号
[30] 雷诺,RA;霍斯特,M。;王,Y。;科克伦,D。;Hansen,J.,通过下采样和奇异值展开有效估计正则化参数,BIT-Numer。数学。,57499-529(2017)·Zbl 1367.65061号 ·doi:10.1007/s10543-016-0637-6
[31] 雷诺,RA;瓦坦卡,S。;Ardestani,VE,通过预测系统的无偏预测风险和加权GCV进行混合和迭代重加权正则化,SIAM J.Sci。计算。,39,b221-b243(2017)·Zbl 1360.65115号 ·doi:10.1137/15M1037925
[32] Rokhlin,V。;Tygert,M.,超定线性最小二乘回归的快速随机算法,Proc。国家。阿卡德。科学。,105, 13212-13217 (2008) ·Zbl 1513.62144号 ·doi:10.1073/pnas.0804869105
[33] Stein,CM,多元正态分布平均值的估计,Ann.Stat.,9,1135-1151(1981)·Zbl 0476.62035号 ·doi:10.1214/aos/1176345632
[34] 塔鲁达基,V。;O’Leary,DP,《解决不适定问题的近最优谱滤波和误差估计》,SIAM J.Sci。计算。,37,a2947-a2968(2015)·Zbl 1329.65084号 ·doi:10.1137/15M1019581
[35] A.托马。;西苏,B。;Peyrin,F.,电视图像复原中最佳正则化参数的迭代选择,逆问题。成像,91171(2015)·Zbl 1332.65074号 ·doi:10.3934/ipi.2015.9.1171
[36] 瓦坦卡,S。;弗吉尼亚州阿德斯塔尼;Renaut,RA,《二维聚焦重力反演中正则化参数的自动估计:该方法在伊朗西北部Safo锰矿的应用》,J.Geophys。工程,11,045001(2014)·doi:10.1088/1742-2132/11/4/045001
[37] 瓦坦卡,S。;弗吉尼亚州阿德斯塔尼;Renaut,RA,《在三维聚焦重力反演中确定正则化参数的应用(chi2)原理和无偏预测风险估计器》,Geophys。《国际期刊》,200,265-277(2015)·doi:10.1093/gji/ggu397
[38] 瓦坦卡,S。;雷诺特,RA;Ardestani,VE,使用截断无偏预测风险估计器对重力数据进行三维投影反演,用于正则化参数估计,地球物理。《国际期刊》,210,1872-1887(2017)·doi:10.1093/gji/ggx274
[39] Vatankhah,S.,Renaut,R.A.,Ardestani,V.E.:使用随机SVD对重力数据进行正则化聚焦三维反演的快速算法。地球物理学(2018)
[40] 瓦坦卡,S。;雷诺,RA;Ardestani,VE,使用随机广义奇异值分解的三维重力反演问题的全变分正则化,Geophys。《国际期刊》,213695-705(2018)·doi:10.1093/gji/ggy014
[41] Vogel,C.:反问题的计算方法。费城工业和应用数学学会(2002年)·Zbl 1008.65103号 ·数字对象标识代码:10.1137/1.9780898717570
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。