×

可解释的双层优化:赫尔辛基Deblur挑战赛的应用。 (英语) Zbl 1515.94013号

摘要:在本文中,我们提出了一种用于解决一般图像去模糊问题的双层优化方案,其中将参数类变分方法封装在机器学习方案中,以提供具有自动学习参数的高质量重建图像。变化的下一级和机器学习上一级的成分是专门为2021年赫尔辛基德布尔挑战赛选择的,在该挑战赛中,要求从模糊程度不断增加的离焦照片中恢复字母序列。我们提出的重建图像的过程包括固定数量的FISTA迭代,用于最小化边缘保持和二值化,以增强正则化最小二乘泛函。与大多数深度学习方法不同,定义变分模型和优化步骤的参数都具有精确和可解释的含义,这些参数通过相似性指数或支持向量机策略进行学习。对挑战作者提供的测试图像进行的数值实验表明,与标准变分方法相比,该方法取得了显著进步,其性能可与一些提出的基于深度学习的算法相比,这些算法需要优化数百万个参数。

MSC公司:

94A08型 信息与通信理论中的图像处理(压缩、重建等)
65千5 数值数学规划方法
68T05型 人工智能中的学习和自适应系统
90立方 非线性规划

软件:

德布尔甘
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] S.P.O.C.-B.Arridge Maass怛ktem Schoenlieb,《使用数据驱动方法解决反问题》,《数值学报》。,28,1-74(2019)·Zbl 1429.65116号 ·doi:10.1017/S096249291900059
[2] A.M.Auslander Teboulle,不可微凸极小化和变分不等式的非欧几里德距离投影次梯度方法,数学。掠夺。B系列,120,27-48(2009)·Zbl 1190.90118号 ·doi:10.1007/s10107-007-0147-z
[3] A.M.Beck Teboulle,线性反问题的快速迭代收缩阈值算法,SIAM J.成像科学。,2, 183-202 (2009) ·Zbl 1175.94009号 ·doi:10.1137/080716542
[4] M.P.C.Bertero Boccacci De Mol,成像逆问题导论-第2版(2022)·doi:10.1201/9781003032755
[5] M.Bertero、P.Boccacci和V.Ruggiero,泊松数据反演成像,IOP Publishing,布里斯托尔,2006年。
[6] M.Bertero、H.Lantéri和L.Zanni,《迭代图像重建:一个观点》,in生物医学成像和调强放射治疗(IMRT)中的数学方法(编辑:Y.Censor、M.Jiang和A.K.Louis),Birkhauser-Verlag(2008),37-63。
[7] C.E.M.-C.J.-C.M.Bertocchi Chouzenoux Courbineau Pesquet Prato,用于图像恢复的近端内点方法的深度展开,逆问题。,36, 034005 (2020) ·Zbl 1452.94003号 ·doi:10.1088/1361-6420/ab460a
[8] S.Bonettini、F.Porta、M.Prato、S.Rebegoldi、V.Ruggiero和L.Zanni,可变度量一阶方法的最新进展成像反问题的计算方法M.Donatelli和S.Serra-Capizano编辑,Springer INdAM系列36(2019),1-31。
[9] S.M.Bonettini Prato,比例梯度投影方法的新收敛结果,逆问题。,31, 095008 (2015) ·Zbl 1333.90124号 ·doi:10.1088/0266-5611/31/9/095008
[10] S.Bonettini、S.Rebegoldi和V.Ruggiero,不精确前向后退算法的惯性变量度量技术,SIAM J.科学。计算。,40(2018),A3180-A3210·Zbl 1401.65062号
[11] S.R.L.Bonettini Zanella Zanni,约束图像去模糊的缩放梯度投影方法,逆问题。,25, 015002 (2009) ·Zbl 1155.94011号 ·doi:10.1088/0266-5611/25/1/015002
[12] A.Ch.Chambolle Dossal,关于“快速迭代收缩/阈值算法”迭代的收敛性,J.Optim。理论应用。,166, 968-982 (2015) ·Zbl 1371.65047号 ·doi:10.1007/s10957-015-0746-4
[13] Y.T.Chen Pock,可训练非线性反应扩散:快速有效图像恢复的灵活框架,IEEE Trans。模式分析。机器。智力。,39, 1256-1272 (2017) ·doi:10.1109/TPAMI.2016.2596743
[14] Y.R.T.Chen Ranftl Pock,分析算子学习洞察力:从基于补丁的稀疏模型到高阶MRF,IEEE Trans。图像处理。,23, 1060-1072 (2014) ·Zbl 1374.94065号 ·doi:10.1109/TIP.2014.2299065
[15] J.C.D.N.F.Christou Bonnacini Ageorges Marchis,自适应光学图像的近视反褶积,信使,97,14-22(1999)
[16] J.-M.L.M.T.V.Conan Mugnier Fusco Michau Rousset,利用物体和点扩散函数功率谱对自适应光学图像进行短视反褶积,应用。光学,37,4614-4622(1998)·doi:10.1364/AO.37.004614
[17] N.J.Cristianini Shawe-Taylor,支持向量机和其他基于核的学习方法简介(2000)·doi:10.1017/CBO9780511801389
[18] H.Drucker、C.J.Burges、L.Kaufman、A.Smola和V.Vapnik,支持向量回归机,in神经信息处理系统研究进展M.C.Mozer、M.Jordan和T.Petsche主编,9,麻省理工学院出版社,波士顿,1996年。
[19] 王凡雄,《人工神经网络的可解释性:综述》,IEEE Trans。辐射。血浆医学科学。,5741-760(2021)·doi:10.1109/TRPMS.2021.3066428
[20] M.Forte和F.Pitié,F,B,Alpha Matting,预印本,2012年,arXiv:2003.07711。
[21] L.Franceschi、P.Frasconi、S.Salzo、R.Grazzi和M.Pontil,超参数优化和元学习的双层规划,第35届机器学习国际会议论文集《机器学习研究论文集》,80,PMLR,2018,1568-1577。
[22] G.V.F.L.Franchini Ruggiero Porta Zanni,通过标准机器学习方法进行神经架构搜索,数学。工程师,5,1-21(2023)·Zbl 07817647号 ·doi:10.3934/个人2023012
[23] G.V.L.Franchini Ruggiero Zanni,随机梯度法步长选择中的Ritz-like值,软计算,2417573-17588(2020)·Zbl 1491.65042号 ·doi:10.1007/s00500-020-05219-6
[24] G.V.L.Franchini Ruggiero Zanni,随机梯度法中的步长和小支撑尺寸选择,LNCS,12566,259-263(2020)·doi:10.1007/978-3-030-64580-922
[25] T.Germer、T Uelwer和S.Harmeling,使用深度神经网络消除字符模糊照片,预印本,2022年,arXiv:220515053。
[26] K.Gregor和Y.LeCun,学习稀疏编码的快速近似,第27届国际机器学习会议论文集,以色列海法,2010399-406。
[27] J.R.Hershey、J.Le Roux和F.Weinger,《深度展开:基于模型的新型深层建筑灵感》,预印本,2014年,arXiv:1409.2574。
[28] E.Kobler、A.Effland、K.Kunisch和T.Pock,线性反问题的总深度变化IEEE/CVF计算机视觉和模式识别会议记录华盛顿州西雅图,2020年,7549-7558
[29] E.Kobler、A.Effland、K.Kunisch和T.Pock,《总深度变化:反问题的稳定正则化方法》,即将出版,IEEE传输。模式分析。机器。智力。·Zbl 1434.68626号
[30] B.Kosko,《噪音》(2006)
[31] O.Kupyn、T.Martyniuk、J.Wu和Z.Wan,DeblurGAN-v2:更快更好地消除模糊(数量级顺序),预印本,2019年,arXiv:1908.03826。
[32] K.T.Kunisch Pock,变分模型参数学习的双层优化方法,SIAM J.成像科学。,6, 938-983 (2013) ·Zbl 1280.49053号 ·数字对象标识代码:10.1137/120882706
[33] A.Y.F.W.T.Levin Weiss Durand Freeman,理解盲反褶积算法,IEEE Trans。模式分析。机器。智力。,33, 2354-2367 (2011) ·doi:10.1109/TPAMI.2011.148
[34] L.Y.Z.J.K.S.Li Yan Lu Wu Gu Wang,基于自然场景统计的去模糊图像无参考质量评估,IEEE Access,5,2163-2171(2017)·doi:10.1109/ACCESS.2017.2661858
[35] V.Y.Y.C.Monga Li Eldar,《算法展开:信号和图像处理的可解释、高效深度学习》,IEEE信号处理。Mag.,38,18-44(2021年)·doi:10.1109/MSP.2020.3016905
[36] Y.Nesterov,非光滑函数的平滑最小化,数学。程序。,103, 127-152 (2005) ·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[37] P.T.Ochs Pock,非凸优化的自适应FISTA,SIAM J.Optim。,29, 2482-2503 (2019) ·Zbl 1461.65180号 ·doi:10.1137/17M1156678
[38] P.Ochs,R.Ranftl,T.Brox和T.Pock,非光滑下层问题的双层优化,2015年计算机视觉中的尺度空间和变分方法,《计算机科学讲义》,9087,施普林格出版社,2015654-665·Zbl 1444.94018号
[39] R.Olaf、P.Fischer和T.Brox,U-net:生物医学图像分割的卷积网络,2015年医学图像计算和计算机辅助干预《计算机科学讲义》,9351,Springer,2015234-241。
[40] D.M.J.A.Pelt Sethian,用于图像分析的混合尺度密集卷积神经网络,Proc。国家。阿卡德。科学。美国,115,254-259(2018)·doi:10.1073/pnas.1715832114
[41] N.A.B.Y.P.C.Riis Dong Hansen,利用不确定性量化进行视角估计的计算机层析成像,逆问题。,37, 065007 (2021) ·Zbl 1503.62009年 ·doi:10.1088/1361-6420/abf5ba
[42] Y.M.P.Romano Elad Milanfar,《可以做到的小引擎:通过去噪进行正则化(RED)》,SIAM J.Imaging Sci。,10, 1804-1844 (2017) ·Zbl 1401.62101号 ·doi:10.1137/16M1102884
[43] S.M.J.Roth Black,专家领域,国际计算机杂志。愿景,82205-229(2009)·Zbl 1477.68419号 ·doi:10.1007/s11263-008-0197-6
[44] B.A.J.Schölkopf Smola,用内核学习(2002)
[45] R.J.N.A.O.Schwartz Dodge Smith Etzioni,Green AI,Commun公司。ACM,63,54-63(2020年)·doi:10.1145/3381831
[46] D.A.V.Ulyanov Vedaldi Lempitsky,深度图像优先,国际计算机杂志。愿景,1281867-1888(2020)·doi:10.1007/s11263-020-01303-4
[47] Z.A.C.H.R.E.P.Wang Bovik Sheikh Simoncelli,图像质量评估:从错误可见性到结构相似性,IEEE Trans。图像处理。,13, 600-612 (2004) ·doi:10.1109/TIP.2003.819861
[48] J.Y.Y.Xiang Dong Yang,FISTA-Net:学习成像逆问题的快速迭代收缩阈值网络,IEEE Trans。医学影像学,401329-1339(2021)·doi:10.1109/TMI.2021.3054167
[49] R.P.L.M.Zanella Boccacci Zanni Bertero,用于去除泊松噪声边缘保持的有效梯度投影方法,逆问题。,25, 045010 (2009) ·Zbl 1163.65042号 ·doi:10.1088/0266-5611/25/4/045010
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。