×

学习一般形式Tikhonov的正则化参数。 (英语) Zbl 1414.68048号

摘要:计算一般形式Tikhonov正则化的正则化参数是一项昂贵而困难的任务,特别是当需要实时计算多个参数或多个解时。在这项工作中,我们假设训练数据可用,并描述了一种有效的学习方法,用于计算正则化参数,这些参数可用于一组大型问题。我们考虑了一个经验贝叶斯风险最小化框架,用于寻找正则化参数,使训练数据的平均误差最小化。我们首先从[J.钟等,SIAM J.Sci。计算。33,第6期,3175–3200(2011年;Zbl 1269.65041号)]一般形式的Tikhonov问题。然后,我们针对所有涉及矩阵同时可对角化的情况,提出了一种多参数Tikhonov问题的学习方法。对于情况并非如此的问题,我们描述了一种通过对原始问题使用算子近似来计算近最优正则化参数的方法。最后,我们提出了一类新的正则化滤波器,其中的解对应于多参数Tikhonov解,与之前提出的最优误差滤波器相比,它需要更少的数据,避免了广义奇异值分解,并且在选择正则化矩阵时具有灵活性和新颖性。用不同的误差范数对一维和二维算例进行了数值计算,结果表明了本文方法的有效性。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62J07型 岭回归;收缩估计器(拉索)
65平方英尺 数值线性代数中的不适定性和正则化问题

软件:

苏蒂尔
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] Bai Z和Demmel J W 1993计算广义奇异值分解SIAM J.科学。计算。14 1464-86 ·兹比尔0789.65024 ·doi:10.1137/0914085
[2] Viloche Bazán F S、Borges L S和Francisco J B 2012关于Regian ska参数选择规则的推广及其在大规模多参数Tikhonov正则化中的数值实现申请。数学。计算。219 2100-13 ·Zbl 1293.65061号 ·doi:10.1016/j.amc.2012.08.054
[3] Belge M、Kilmer M E和Miller E L 2002在广义L曲线框架中有效确定多个正则化参数反问题18 1161-83 ·Zbl 1018.65073号 ·doi:10.1088/0266-5611/18/4/314
[4] Brezinski C、Redivo-Zaglia M、Rodriguez G和Seatzu S 2003病态线性系统的多参数正则化技术数字。数学。94 203-28 ·Zbl 1024.65036号 ·doi:10.1007/s00211-002-0435-8
[5] Carlin B P和Louis T A 2000年数据分析的贝叶斯和经验贝叶斯方法第2版(伦敦/博卡拉顿,佛罗里达州:查普曼和霍尔/CRC出版社)·Zbl 1017.62005年 ·doi:10.1201/9781420057669
[6] Chung J和Chung M 2014计算最优低秩正则逆矩阵的有效方法反问题30 114009 ·Zbl 1305.65130号 ·doi:10.1088/0266-5611/30/11/114009
[7] Chung J、Chung M和O’Leary D P 2011为反问题设计最佳谱滤波器SIAM J.科学。计算。33 3132-52 ·Zbl 1269.65040号 ·数字对象标识代码:10.1137/100812938
[8] Chung J、Kilmer M E和O’Leary D P 2015通过算子近似进行正则化的框架SIAM J.科学。计算。37 B332-59·Zbl 1320.65058号 ·数字对象标识代码:10.1137/130945363
[9] Colson B、Marcotte P和Savard G 2007双层优化概述安·Oper。物件。153 235-56 ·Zbl 1159.90483号 ·文件编号:10.1007/s10479-007-0176-2
[10] Cootes T F和Taylor C J 2001医学图像分析和计算机视觉外观统计模型程序。SPIE公司4322 ·doi:10.117/12.431093
[11] De los Reyes J C和Schönlieb C 2013图像去噪:通过非光滑PDE约束优化学习噪声模型反问题成像7 1183-1214·Zbl 1283.49005号 ·doi:10.3934/ipi.2013.7.1183
[12] De Vito E、Rosasco L、Caponnetto A、De Giovannini U和Odone F 2005将示例学习作为反问题J.马赫。学习。物件。6 883-904 ·Zbl 1222.68180号
[13] Gazzola S和Novati P 2013多参数Arnoldi-Tikhonov方法电子。事务处理。数字。分析。40 452-75 ·Zbl 1288.65084号
[14] Golub G H、Heath M和Wahba G 1979广义交叉验证作为选择良好岭参数的方法技术计量学21 215-23 ·Zbl 0461.62059号 ·doi:10.1080/00401706.1979.10489751
[15] Haber E、Horesh L和Tenorio L 2008大型线性不适定反问题实验设计的数值方法反问题24 055012 ·兹比尔1153.65062 ·doi:10.1088/0266-5611/24/5/055012
[16] Haber E和Tenorio L 2003学习正规化功能——监督培训方法反问题19 611 ·Zbl 1046.90087号 ·doi:10.1088/0266-5611/19/3/309
[17] 汉森PC 1998秩亏和离散不适定问题(SIAM数学建模与计算专著)(宾夕法尼亚州费城:SIAM)·Zbl 0890.65037号 ·数字对象标识代码:10.1137/1.9780898719697
[18] 汉森PC 2010离散反问题(算法基础第7卷)(宾夕法尼亚州费城:SIAM)·Zbl 1197.65054号 ·doi:10.1137/1.9780898718836
[19] Hansen P C、Nagy J G和O’Leary D P 2006年图像去模糊:矩阵、光谱和滤波(算法基础第3卷)(宾夕法尼亚州费城:SIAM)·Zbl 1112.68127号 ·doi:10.137/1.9780898718874
[20] Hochstenbach M E和Reichel L 2010使用一般线性正则化算子进行Tikhonov正则化的迭代方法J.积分方程。申请。22 463-80·Zbl 1210.65092号 ·doi:10.1216/JIE-2010-22-3-465
[21] Horesh L和Haber E,2009,▽1-最小化问题的灵敏度计算及其在病态问题字典设计中的应用反问题25 095009 ·Zbl 1177.90306号 ·doi:10.1088/0266-5611/25/9/095009
[22] Huang H、Haber E和Horesh L 2012从正则化经验贝叶斯风险观点出发,最优估计У1-正则化反问题成像6 447-64 ·Zbl 1255.49060号 ·doi:10.3934/ipi.2012.6.447
[23] Huber P J 1964位置参数的稳健估计安。数学。斯达。35 73-101 ·Zbl 0136.39805号 ·doi:10.1214/aoms/1177703732
[24] Kilmer M E,Hansen P C和Español M I 2007基于投影的一般形式Tikhonov正则化方法SIAM J.科学。计算。29 315-30 ·Zbl 1140.65030号 ·doi:10.1137/050645592
[25] Kunisch K和Pock T 2013变分模型参数学习的双层优化方法SIAM J.成像科学。6 938-83 ·Zbl 1280.49053号 ·数字对象标识代码:10.1137/120882706
[26] Linderath J、Shapiro A和Wright S 2006随机规划抽样方法的经验行为安·Oper。物件。142 215-41 ·Zbl 1122.90391号 ·doi:10.1007/s10479-006-6169-8
[27] 刘杰2012年利用震级图像和磁化率图之间的结构一致性进行定量磁化率图的形态学偶极子反演神经成像59 2560-8 ·doi:10.1016/j.neuroimage.2011.08.082
[28] Lu S和Pereverzev S V 2011多参数正则化及其数值实现数字。数学。118 1-31 ·Zbl 1221.65128号 ·doi:10.1007/s00211-010-0318-3
[29] Mead J L和Renaut R A 2008求解病态最小二乘问题时估计正则化参数的牛顿寻根算法反问题25 025002 ·Zbl 1163.65019号 ·doi:10.1088/0266-5611/25/2/2002002
[30] Nagy J G和O’Leary D P 1998恢复因空间变化模糊而退化的图像SIAM J.科学。计算。19 1063-82 ·兹比尔0919.65091 ·doi:10.1137/S106482759528507X
[31] O'Leary D P 2001 Tikhonov和其他正则化方法的近最优参数SIAM J.科学。计算。23 1161-71 ·Zbl 1015.65025号 ·doi:10.1137/S1064827599354147
[32] PeyréG和Fadili J 2011学习分析稀疏性先验桑普塔11
[33] Pham D L、Xu C和Prince J L 2000医学图像分割的现有方法每年。生物识别版本。工程师。2 315-37 ·doi:10.1146/annurev.bioeng.2.1.315
[34] Reichel L、Sgallari F和Ye Q 2012基于广义Krylov子空间方法的Tikhonov正则化申请。数字。数学。62 1215-28 ·兹比尔1246.65068 ·doi:10.1016/j.apnum.2010.10.002
[35] Taroudaki V和O'Leary D P 2016用于解决不适定问题的近最优频谱滤波和误差估计SIAM J.科学。计算。37号A2947-68·Zbl 1329.65084号 ·doi:10.1137/15M1019581
[36] Wang Z 2012多参数Tikhonov正则化和模型函数法选择正则化参数的阻尼Morozov原理J.计算。申请。数学。236 1815-32 ·Zbl 1247.65072号 ·doi:10.1016/j.cam.2011.10.014
[37] Wood S N 2000模型和具有多重二次惩罚的平滑参数估计J.R.统计社会。乙62 413-28·doi:10.1111/1467-9868.00240
[38] Wood S N 2011半参数广义线性模型的快速稳定限制极大似然和边缘似然估计J.R.统计结果。乙73 3-6·Zbl 1411.62089号 ·文件编号:10.1111/j.1467-9868.2010.00749.x
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。