×

成像中非线性扩散问题的网络。 (英语) Zbl 1434.68496号

摘要:最近,通过深度学习方法,特别是卷积神经网络的应用,许多成像和视觉任务发生了重大变化。这些方法取得了令人印象深刻的结果,即使对于卷积不太适合捕捉潜在物理的应用。在这项工作中,我们开发了一种基于非线性扩散过程的网络体系结构,命名为DiffNet公司通过设计,我们获得了一种非常适合于成像中扩散相关问题的非线性网络结构。此外,所执行的更新是显式的,与经典卷积神经网络结构相比,我们获得了更好的解释性和泛化性。在STL-10图像集上用Perona-Malik滤波器对非线性扩散反问题进行了DiffNet性能测试。我们通过少量参数和必要的训练数据,获得了与已建立的U-Net体系结构相比具有竞争力的结果。

MSC公司:

68T07型 人工神经网络与深度学习
35K55型 非线性抛物方程
35问68 与计算机科学相关的PDE
35兰特 PDE的反问题
94A08型 信息与通信理论中的图像处理(压缩、重建等)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abadi,M.等人:TensorFlow:异构系统上的大规模机器学习。软件可从https://www.tensorflow.org/ (2015)
[2] 阿德勒,J。;Öktem,O.,使用迭代深度神经网络解决不适定逆问题,逆问题。,33, 12, 124007 (2017) ·Zbl 1394.92070号 ·doi:10.1088/1361-6420/aa9581
[3] Antholzer,S。;Haltmeier,M。;Schwab,J.,从稀疏数据进行光声层析成像的深度学习,逆问题。科学。工程,27987-1005(2019)·Zbl 1465.94008号 ·doi:10.1080/17415977.2018.1518444
[4] Bergerhoff,L.,Cárdenas,M.,Weickert,J.,Welk,M.:最小化凸能量的稳定后向扩散模型。ArXiv预印本ArXiv:1903.03491(2019)·Zbl 1490.76200号
[5] Calvetti,D。;Somersalo,E.,贝叶斯成像框架中的超模型,逆问题。,24, 034013 (2008) ·Zbl 1137.62062号 ·doi:10.1088/0266-5611/24/3/034013
[6] Chen,Y.,Yu,W.,Pock,T.:关于学习优化的反应扩散过程以有效恢复图像。摘自:IEEE计算机视觉和模式识别会议记录,第5261-5269页(2015)
[7] Coates,A.、Ng,A.、Lee,H.:无监督特征学习中单层网络的分析。摘自:《第十四届国际人工智能与统计会议论文集》,第215-223页(2011年)
[8] 杜伊里,A。;Schweiger,M。;莱利,J。;Arridge,S.,使用稳健统计进行光学层析重建的局部扩散正则化方法,光学。莱特。,30, 18, 2439-2441 (2005) ·doi:10.1364/OL.30.002439
[9] 埃哈特,MJ;Arridge,SR,平行水平集向量值图像处理,IEEE Trans。图像处理。,23, 1, 9-18 (2013) ·Zbl 1374.94094号 ·doi:10.1109/TIP.2013.2277775
[10] Goodfellow,I.,Bengio,Y.,Courville,A.:深度学习。麻省理工学院出版社。http://www.deeplearningbook.org (2016) ·Zbl 1373.68009号
[11] 哈伯,E。;Ruthotto,L.,深度神经网络的稳定架构,逆问题。,34, 1, 014004 (2017) ·Zbl 1426.68236号 ·doi:10.1088/1361-6420/aa9a90
[12] 哈密尔顿,SJ;Hauptmann,A.,Deep d-bar:用深度神经网络进行实时电阻抗断层成像,IEEE Trans。医学成像,37,2367-2377(2018)·doi:10.1109/TMI.2018.2828303
[13] 哈密尔顿,SJ;Hauptmann,A。;Siltanen,S.,一种用于电阻抗断层成像的数据驱动边缘保持D-bar方法,逆问题。成像,8,4,1053-1072(2014)·Zbl 1316.65097号 ·doi:10.3934/ipi.2014.8.1053
[14] 哈默尼克,K。;Klatzer,T。;科布勒,E。;雷希特,议员;Sodickson,DK;Pock,T。;Knoll,F.,学习用于重建加速MRI数据的变分网络,Magn。Reson公司。医学,79,6,3055-3071(2018)·数字对象标识码:10.1002/mrm.26977
[15] Hannukainen,A。;哈哈宁,L。;Hyvönen,N。;Majander,H.,光学层析成像中吸收和扩散率的边缘促进重建,反向问题。,32, 1, 015008 (2015) ·Zbl 1332.35393号 ·doi:10.1088/0266-5611/32/1/015008
[16] Hauptmann,A。;Arridge,S。;勒卡,F。;穆图兰古,V。;Steeden,J.,《先天性心脏病中利用深度学习概念抑制时空伪影的实时心血管MR》,Magn。Reson公司。医学,81,1143-1156(2019)·doi:10.1002/mrm.27480
[17] Hauptmann,A。;勒卡,F。;Betcke,M。;Huynh,N。;阿德勒,J。;考克斯,B。;胡须,P。;Ourselin,S。;Arridge,S.,《基于模型的加速有限视野三维光声层析成像学习》,IEEE Trans。医学成像,37,6,1382-1393(2018)·doi:10.1109/TMI.2018.2820382
[18] He,K.,Zhang,X.,Ren,S.,Sun,J.:图像识别的深度剩余学习。摘自:IEEE计算机视觉和模式识别会议记录,第770-778页(2016)
[19] 赫林,T。;Lassas,M.,统计逆问题的层次模型和Mumford-Shah泛函,逆问题。,27, 1, 015008 (2010) ·Zbl 1215.65022号 ·doi:10.1088/0266-5611/27/1/015008
[20] Hofer,C.,Kwitt,R.,Niethammer,M.,Uhl,A.:拓扑签名的深度学习。摘自:《神经信息处理系统进展》,第1634-1644页(2017年)
[21] 金,KH;麦肯,MT;弗鲁斯特,E。;Unser,M.,成像逆问题的深度卷积神经网络,IEEE Trans。图像处理。,26, 9, 4509-4522 (2017) ·Zbl 1409.94275号 ·doi:10.10109/TIP.2017.21713099
[22] Kang,E。;Min,J。;Ye,JC,使用方向小波的深度卷积神经网络用于低剂量X射线CT重建,医学物理。,44、10、e360-e375(2017)·doi:10.1002/mp.12344
[23] Khoo,Y.,Lu,J.,Ying,L.:用人工神经网络解决参数PDE问题。arxiv:1707.03351v2(2017)·Zbl 1501.65154号
[24] Kim,B.、Wattenberg,M.、Gilmer,J.、Cai,C.、Wexler,J.和Viegas,F.等人:超越特征属性的可解释性:使用概念激活向量(tcav)进行定量测试。在:国际机器学习会议,第2673-2682页(2018)
[25] Kimmel,R.,《图像的数值几何:理论、算法和应用》(2003),柏林:施普林格出版社,柏林
[26] Liu,R.,Lin,Z.,Zhang,W.,Su,Z:通过最优控制进行图像恢复的学习过程。摘自:欧洲计算机视觉会议,第115-128页。施普林格(2010)
[27] Long,Z.,Lu,Y.,Dong,B.:Pde-net 2.0:使用数字符号混合深度网络从数据中学习pdes。ArXiv预印本ArXiv:1812.04426(2018)·Zbl 1454.65131号
[28] Long,Z.,Lu,Y.,Ma,X.,Dong,B.:Pde-net:从数据中学习pdes。致:第35届机器学习国际会议(ICML 2018)(2018)会议记录
[29] Meinhardt,T.,Moeller,M.,Hazirbad,C.,Cremers,D.:学习近端算子:使用去噪网络正则化逆成像问题。在:国际计算机视觉会议,第1781-1790页(2017)
[30] 佩罗纳,P。;Malik,J.,使用各向异性扩散的尺度空间和边缘检测,IEEE Trans。模式分析。机器。智力。,12, 7, 629-639 (1990) ·doi:10.1109/34.56205
[31] Raissi,M.,Karniadakis,G.E.:隐藏物理模型:非线性偏微分方程的机器学习。arxiv:1708.00588v2(2017)·Zbl 1381.68248号
[32] Ronneberger,O.,Fischer,P.,Brox,T.:U-net:生物医学图像分割的卷积网络。摘自:医学图像计算和计算机辅助干预国际会议,第234-241页。斯普林格(2015)
[33] Ruthotto,L.,Haber,E.:由偏微分方程驱动的深层神经网络。ArXiv预印ArXiv:1804.04272(2018)·Zbl 1426.68236号
[34] Sapiro,G.,《几何偏微分方程和图像分析》(2006),剑桥:剑桥大学出版社,剑桥·Zbl 1141.35002号
[35] 沙列夫·施瓦茨,S。;Ben-David,S.,《理解机器学习:从理论到算法》(2014),剑桥:剑桥大学出版社,剑桥·兹比尔1305.68005
[36] Sirignano,J.,Spiliopoulos,K.:DGM:解偏微分方程的深度学习算法。arxiv:1708.07469v1(2017)·Zbl 1416.65394号
[37] Tompson,J.、Schlachter,K.、Sprechmann,P.、Perlin,K.:用卷积网络加速欧拉流体模拟。arxiv:1607.03597v6(2017)
[38] Weickert,J.,《图像处理中的各向异性扩散》(1998),斯图加特:图布纳·Zbl 0886.68131号
[39] 威克特,J。;罗梅尼,BTH;马萨诸塞州Viergever,《非线性扩散滤波的高效可靠方案》,IEEE Trans。图像处理。,7, 3, 398-410 (1998) ·数字对象标识代码:10.1109/83.661190
[40] Weinan,E.,Jiequn,H.,Arnulf,J.:基于深度学习的高维抛物型偏微分方程和倒向随机微分方程数值方法。arxiv:1706.04702v1(2017)·兹比尔1382.65016
[41] Wu,Y.,Zhang,P.,Shen,H.,Zhai,H.:发展微扰理论的可视化神经网络。arxiv:1802.03930v2(2018)
[42] Xu,L.,Ren,J.S.,Liu,C.,Jia,J.:用于图像反褶积的深度卷积神经网络。摘自:《神经信息处理系统进展》,第1790-1798页(2014年)
[43] 叶,JC;韩,Y。;Cha,E.,深度卷积框架:反问题的一般深度学习框架,SIAM J.成像科学。,1991年2月11日至2018年10月48日·Zbl 1401.94024号 ·doi:10.1137/17M1141771
[44] 朱,B。;刘,JZ;考利,旧金山;罗森,BR;Rosen,MS,通过域变换流形学习进行图像重建,《自然》,555487-489(2018)·doi:10.1038/nature25988
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。