×

DRIP:反问题的深层正则化子。 (英语) Zbl 1531.65074号

使用机器学习,特别是深度学习框架来解决逆问题是一个公认的课题。在这篇有趣的论文中,作者研究了离散线性反问题,其中正问题由\(Au+\varepsilon=b\)给出,其中\(A\)是紧线性算子的离散化的前向映射矩阵,\(varepsilen\)是假定为高斯i.i.d和\(b\)的噪声向量表示观测数据。对于本文所考虑的问题,(m<n)(方程少于未知数)和矩阵(A)要么秩亏,要么包含许多小奇异值。有效零空间\(A)和噪声意味着无法从观测数据\(b)中唯一恢复向量\(u)。作者引入了一类新的神经正则化子来求解反问题。这些正则化器基于变分公式,并保证能够拟合数据。作者展示了他们在有限角度层析成像和图像去模糊中对一些高度不适定问题的使用。
这篇论文写得很好,有很多参考文献。

理学硕士:

65J22型 抽象空间反问题的数值解法
65K10码 数值优化和变分技术
68T09号 数据分析和大数据的计算方面
68T07型 人工神经网络与深度学习
68单位10 图像处理的计算方法
90C06型 数学规划中的大尺度问题
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿德勒,J。;Øktem,O.,使用迭代深度神经网络解决不适定逆问题,逆问题,33(2017)·Zbl 1394.92070号 ·doi:10.1088/1361-6420/aa9581
[2] Afkham,B.M。;钟,J。;Chung,M.,通过深度神经网络学习反问题的正则化参数(2021)·Zbl 07411952号
[3] 香港阿加瓦尔。;马尼,M.P。;Jacob,M.,《模型:反问题的基于模型的深度学习体系结构》,IEEE Trans。医学成像,38,394-405(2018)·doi:10.1010/TMI.2018.2865356
[4] Ascher,U.M.,进化微分方程的数值方法(2010),SIAM
[5] Bai,Y。;Chen,W。;陈,J。;郭伟,解线性逆问题的深度学习方法:研究方向和范式,信号处理。,177 (2020) ·doi:10.1016/j.sigpro.2020.107729文件
[6] 巴尔巴诺,R。;科雷塔、查·埃尔杰科;Hauptmann,A。;Arridge,S.R。;Jin,B.,学习图像重建的无监督知识转移,反问题,38(2022)·Zbl 1497.94006号 ·doi:10.1088/1361-6420/ac8a91
[7] Boink,Y.E。;Haltmeier,M。;霍尔曼,S。;Schwab,J.,用于解决非线性逆问题的数据一致性神经网络,逆问题成像,17203-29(2023)·Zbl 1516.65042号 ·doi:10.3934/ipi.2022037
[8] 博伊德,S。;Vandenberghe,L.,《凸优化》(2004),剑桥大学出版社·Zbl 1058.90049号
[9] 布鲁克斯坦,A.M。;Donoho,D.L。;Elad,M.,《从方程组的稀疏解到信号和图像的稀疏建模》,SIAM Rev.,51,34-81(2009)·Zbl 1178.68619号 ·数字对象标识代码:10.1137/060657704
[10] 汉堡,M。;吉尔博亚,G。;Osher,S。;Jinjun,X.,非线性逆尺度空间方法,Commun。数学。科学。,4, 179-212 (2006) ·Zbl 1106.68117号 ·doi:10.4310/CMS.2006.v4.n1.a7
[11] 陈,Y。;Pock,T.,《可训练非线性反应扩散:快速有效图像恢复的灵活框架》,IEEE Trans。模式分析。机器。智力。,39, 1256-72 (2016) ·doi:10.1109/TPAMI.2016.2596743
[12] 科茨,A。;N.安德鲁。;Lee,H.,《无监督特征学习中单层网络的分析》,第215-23页(2011年)
[13] David,D.D.,对于大多数大型欠定线性方程组,最小范数解也是最稀疏的解,Commun。纯应用程序。数学。,59, 797-829 (2006) ·Zbl 1113.15004号 ·doi:10.1002/cpa.20132年
[14] Eich,E.,应用于具有代数约束的机械系统的坐标投影方法的收敛结果,SIAM J.Numer。分析。,30, 1467 (1993) ·Zbl 0785.65079号 ·doi:10.1137/0730076
[15] 埃利亚索夫,M。;Boesen,T。;哈伯,E。;基萨尔,C。;Treister,E.,《模拟神经网络:蛋白质设计和折叠的统一框架》,Front。生物信息。,2(2022)·doi:10.3389/fbinf.2022.715006
[16] Eliasof,M。;哈伯,E。;Treister,E.,Pde-gcn:由偏微分方程驱动的图神经网络的新架构,《神经信息处理系统进展》第34卷,第3836-49页(2021年)
[17] 英国,H.W。;汉克,M。;Neubauer,A.,反问题的正则化(1996),Kluwer·Zbl 0859.65054号
[18] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,《统计学习的要素》(2001),斯普林格出版社·Zbl 1273.62005年 ·doi:10.1007/978-0-387-84858-7
[19] 新墨西哥州Gottschling。;安顿,V。;阿德科克,B。;Hansen,A.C.,《令人烦恼的核心幻觉、没有免费午餐和反问题中的精确稳定性权衡》(2020年)
[20] 哈伯,E。;Tenorio,L.,《学习正则化泛函的监督训练方法》,《逆向问题》,第19期,第611-26页(2003年)·Zbl 1046.90087号 ·doi:10.1088/0266-5611/19/3/309
[21] 哈伯,E。;Eliasof,M。;Tenorio,L.,在没有配分函数痛苦的情况下估计势能(2022)
[22] 汉克,M。;Groetsch,C.,非平稳迭代tikhonov正则化,J.Optim。理论应用。,98, 37-53 (1998) ·Zbl 0910.47005号 ·doi:10.1023/A:1022680629327
[23] Hansen,P.C.,秩亏和离散不适定问题(1997),SIAM·Zbl 0890.65037号
[24] He,K。;张,X。;Ren,S。;Sun,J.,图像识别的深度剩余学习,第770-8页(2016)
[25] Jin,K.H。;McCann,M.T。;弗鲁斯特,E。;Unser,M.,成像逆问题的深度卷积神经网络,IEEE Trans。图像处理。,26, 4509-22 (2017) ·Zbl 1409.94275号 ·doi:10.1109/TIP.2017.2713099
[26] Kalman,R.E.,《对最优控制理论的贡献》,Bol。墨西哥联邦律师协会,5102-19(1960)·兹比尔0112.06303
[27] Kingma,D.P。;Jimmy,B.,Adam:随机优化方法(2014)
[28] Krizhevsky,A。;Sutskever,I。;Hinton,G.E.,深度卷积神经网络的Imagenet分类,第1097-105页(2012)
[29] 卢卡斯,A。;伊利亚迪斯,M。;莫利纳,R。;Katsaggelos,A.K.,《使用深层神经网络解决成像中的逆问题:超越分析方法》,IEEE信号处理。Mag.,35,20-36(2018)·doi:10.1109/MSP.2017.2760358
[30] Mardani,M。;孙,Q。;多诺霍,D。;帕皮安,V。;莫纳杰米,H。;瓦萨纳瓦拉,S。;Pauly,J.,用于压缩成像的神经近端梯度下降,第31卷(2018)
[31] Nagy,J。;Hansen,P.C.,《消除模糊图像》(2006),SIAM·Zbl 1112.68127号
[32] Natterer,F.,《计算机层析成像的数学》(2001),工业数学学会·兹伯利0973.92020
[33] Ongie,G。;贾拉尔,A。;梅茨勒,C.A。;Baraniuk,R.G。;Dimakis,A.G。;Willett,R.,成像逆问题的深度学习技术,IEEE J.Sel。区域信息理论,139-56(2020)·doi:10.1109/JSAIT.2020.2991563
[34] Parikh,N.,近似算法,发现。趋势^®优化。,1127-239(2014年)·数字对象标识代码:10.1561/24000003
[35] O.Ronneberger。;菲舍尔,P。;Brox,T.,《U-net:生物医学图像分割的卷积网络》,第234-41页(2015),施普林格出版社
[36] 鲁丁,L.I。;Osher,S。;Fatemi,E.,基于非线性总变差的噪声去除算法,Physica D,60,259-68(1992)·Zbl 0780.49028号 ·doi:10.1016/0167-2789(92)90242-F
[37] 鲁索托,L。;Haber,E.,偏微分方程驱动的深层神经网络,J.Math。成像视觉。,62, 1-13 (2019) ·Zbl 1434.68522号 ·doi:10.1007/s10851-019-00903-1
[38] Strang,G.,《线性代数及其应用》(1988),Harcourt Brace Jovanovich College Publishers
[39] Tenorio,L.,反问题的统计正则化,SIAM Rev.,43,347-66(2001)·Zbl 0976.65114号 ·doi:10.1137/S0036144500358232
[40] 特诺里奥。;Andersson,F。;de Hoop,M。;Ma,P.,反问题不确定性量化的数据分析工具,反问题,27(2011)·Zbl 1216.62092号 ·doi:10.1088/0266-5611/27/4/045001
[41] Treister,E。;Turek,J.S。;Yavneh,I.,《稀疏优化的多层框架及其在协方差逆估计和逻辑回归中的应用》,SIAM J.Sci。计算。,38,S566-92(2016)·Zbl 1348.90466号 ·数字对象标识码:10.1137/15M102469X
[42] Tyler,D.E.,多元离散的无分布m估计,《Ann.Stat.》,14,234-51(1987)·兹比尔062862053 ·doi:10.1214/aos/1176350263
[43] 徐,J。;李子山;Bowen,D。;张,M。;Liu,J.,Reluplex更实用:Leaky relu,第1-7页(2020),IEEE
[44] Yang,J.等人。;Shi,R。;魏,D。;刘,Z。;赵,L。;Bilian,K。;普菲斯特,H。;Bingbing,N.,Medmnist v2-2D和3D生物医学图像分类的大规模轻量级基准,《科学数据》,10,41(2023)·doi:10.1038/s41597-022-01721-8
[45] 齐布列夫斯基,M。;Elad,M.,《信号和图像处理中的L1-l2优化》,IEEE信号处理。Mag.,27,76-88(2010)·doi:10.1109/MSP.2010.936023
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。