×

深入学习反问题。2021年3月7日至13日举行的研讨会摘要(混合会议)。 (英语) Zbl 1487.00028号

总结:机器学习,特别是深度学习,提供了几种数据驱动的方法来修正纯分析方法的典型缺点。目前,对这些组合模型的数学研究在实验方面呈爆炸式发展,但在理论方面仍缺乏研究。这个研讨会解决了开发一个坚实的数学理论来分析反问题的深度神经网络的挑战。

MSC公司:

00亿05 讲座摘要集
00B25型 杂项特定利益的会议记录
65-06 与数值分析有关的会议记录、会议、收藏等
65J22型 抽象空间中反问题的数值解法
65年20月 数值算法的复杂性和性能
68T07型 人工神经网络与深度学习
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] C.M.Hyun、S.H.Baek、M.Lee、S.M.Lee、J.K.Seo,医学成像中未确定逆问题的基于深度学习的可解性,医学图像分析(2021)
[2] H.C.Cho,S.Sun,C.M.Hyuna,J.Kwon,B.Kim,Y.Park,J.K Seo,利用深度学习对羊水指数进行自动超声评估,医学图像分析(2021)
[3] H.S.Park、J.Baek、S.K.You、J.K.Choi和J.K.Seo,《在X射线CT中使用生成对抗网络进行非成对图像去噪》,IEEE Access(2019)
[4] C.M.Hyun;H.P.Kim、S.M.Lee、S.Lee;
[5] J.K.Seo,,《欠采样MRI重建的深度学习》,《医学和生物物理》,第63卷,第13期(2018年)参考文献
[6] J.Adler和O.洗ktem,《学习的原始-双重重建》,IEEE医学成像学报37(6)(2018),1322-1332。
[7] J.Adler、S.Lunz、O.Verdier、C.-B.Schönlieb和O.Oktem,逆问题的任务适应重建,ArXiv-cs。简历:1809.00948(2018)。提交到反向问题。
[8] S.Arridge、P.Maass、O.Ùktem和C.-B.Schönlieb,《使用数据驱动模型解决反问题》,《数值学报》28,1-174(2019)·Zbl 1429.65116号
[9] H.Andrade-Loarca、G.Kutyniok、O.Øktem和P.Petersen,使用应用谐波分析和深度神经网络提取数字波前集,SIAM成像科学杂志12(4)(2019),1936-1966·Zbl 1439.35009号
[10] H.Andrade-Loarca,G.Kutyniok,and O.Øktem,Shearlets as feature extractor for semantic edge detection:The model-based and data-driven realm,Proceedings of The Royal Society of London。《数学与物理科学》A辑476(2243)(2020),20190841·Zbl 1472.94004号
[11] T.A.Bubba、G.Kutyniok、M.Lassas、M.März、W.Samek、S.Siltanen和V.Srinivasan,《学习看不见的东西:用于有限角度计算机断层扫描的混合深度学习剪切线框架,逆问题35:064002》(2019)·Zbl 1416.92099号
[12] E.J.Candés和D.L.Donoho,连续曲线变换:I.波前集的分辨率,应用和计算谐波分析19(2)(2005),162-197·Zbl 1086.42022号
[13] E.J.Candés、L.Demanet和L.Ying,傅里叶积分算子的快速计算,SIAM科学计算杂志29(6)(2007),2464-2493·Zbl 1157.65522号
[14] L.Hörmander,傅里叶积分算子。一、 《数学学报》127(1971),79-183·Zbl 0212.46601号
[15] V.P.Krishnan和E.T.Quinto,断层扫描中的微观局部分析,成像数学方法手册第2卷。施普林格,第二版,2015年·Zbl 1395.94042号
[16] G.Kutyniok和D.Labate,使用连续剪切波阵面集的分辨率,美国数学学会汇刊361(5)(2009),2719-2754·Zbl 1169.42012年
[17] M.Salo,《微局部分析在反问题中的应用》,《数学》8(7)(2020),1184。
[18] M.Sato,偏微分方程超函数解的正则性。《国际数学会议学报》第2卷第785页?794,巴黎,1971年。Gauthier-Villars·Zbl 0232.35004号
[19] J.Adler,O.Øktem。使用迭代深度神经网络解决不适定逆问题,逆问题33(12)(2017),124007·Zbl 1394.92070号
[20] A.Hauptmann,F.Lucka,M.Betcke,N.Huynh,J.Adler,B.Cox,P.Beard,S.Ourselin,S.Arridge,基于模型的加速有限视野三维光声层析成像学习,IEEE医学成像学报37(6)(2018),1382-1393。
[21] A.Hauptmann,B.Cox,F.Lucka,N.Huynh,M.Betcke,P.Beard,S.Arridge,《快速光声重建的近似k空间模型和深度学习》,医学图像重建机器学习国际研讨会(2018年),第103-111页。查姆施普林格。
[22] S.Lunz,A.Hauptmann,T.Tarvainen,C.B.Schönlieb,S.Arridge,《关于逆问题中的学习算子校正》,《SIAM成像科学杂志》,14(1)(2021),92-127·Zbl 1474.65182号
[23] S.Antholzer、J.Schwab、J.Bauer-Marschallinger、Peter B.和Markus H.NETT压缩传感光声层析成像的正则化。《光子+超声波:成像和传感2019》,第10878卷,第108783B页。国际光学与光子学学会,2019年。
[24] S.Arridge、P.Beard、M.Betcke、B.Cox、N.Huynh、F.Lucka、O.Ogundale和E.Zhang。通过压缩传感加速高分辨率光声层析成像。物理。医学生物学。,61(24):8908, 2016.
[25] M.Haltmeier先生。圆形Radon变换的采样条件。IEEE传输。图像处理。,25(6):2910-2919, 2016. ·Zbl 1408.94225号
[26] M.Haltmeier、M.Sandbichler等。共压缩传感光声层析成像的稀疏化和重建策略。J.声学。美国社会科学院,143(6):3838-38482018。
[27] H.Li、J.Schwab、S.Antholzer和M.Haltmeier。NETT:用深层神经网络解决反问题。反问题,36(6):0650052020·兹比尔1456.65038
[28] M.Xu和L.V.Wang。生物医学中的光声成像。科学评论。仪器。,77(4):041101, 2006.
[29] Zhang,Chiyuan and Bengio,Samy and Hardt,Moritz and Recht,Benjamin and Vinyals,Oriol,《理解深度学习需要重新思考泛化》,《国际学习代表大会(ICLR)》(2017)。
[30] Belkin、Mikhail和Ma、Siyuan和Mandal、Soumik,为了理解深度学习,我们需要理解内核学习,arXiv预印本arXiv:1802.01396(2018)。
[31] Belkin、Mikhail和Hsu、Daniel和Ma、Siyuan和Mandal、Soumik,《调和现代机器学习实践和经典偏差-方差权衡》,《国家科学院学报》(2019年)·Zbl 1433.68325号
[32] Caponnetto,A.和De Vito,E.,正则化最小二乘算法的最优速率,计算数学基础(2007)·Zbl 1129.68058号
[33] Rakhlin、Alexander和Xiyu Zhai,与拉普拉斯核插值的一致性是一种高维现象,在学习理论会议(PMLR)上,(2019)。
[34] Bartlett、Peter L.、Philip M.Long、Gábor Lugosi和Alexander Tsigler,线性回归中的Benign过拟合,国家科学院学报117,第48期(2020):30063-30070·Zbl 1485.62085号
[35] 关于双层成像学习问题的结构Juan C.De los Reyes(与D.Villacís合作)参考文献
[36] Constantin Christof和Juan C.De los Reyes和Christian Meyer,局部Lipschitz函数的非光滑信赖域方法及其在变分不等式约束优化问题中的应用,SIAM J.Optim。,30(3) (2020), 2163-2196. ·Zbl 1446.49006号
[37] Juan C.De los Reyes和Carola B.Schönlieb,图像去噪:通过非光滑PDE约束优化学习噪声模型,逆问题与成像,7(4)(2013),1183-1214·Zbl 1283.49005号
[38] Juan C.De los Reyes和Carola B.Schönlieb以及Tuomo Valkonen,高阶全变差调节模型的双层参数学习,《数学成像与视觉杂志》,57(2017),1-25·Zbl 1425.94010号
[39] Juan C.De los Reyes和David Villacís,《成像中的双层优化方法》,《计算机视觉和成像中的数学模型和算法手册》(即将出版)。
[40] Boris S.Mordukhovich,变分分析与应用,Springer Verlag(2018)·Zbl 1402.49003号
[41] JiríV.Outrata,带平衡约束的广义数学程序,SIAM控制与优化杂志,38(5)(2000),1623-1638·Zbl 0968.49012号
[42] 弗兰克·罗森布拉特(Frank Rosenblatt),感知器,感知和识别机器人,帕拉项目。康奈尔航空实验室(1957)。
[43] 王晓宇(Xiaoyu Wang),马丁·本宁(Martin Benning)广义感知器学习,第十二届机器学习优化年度研讨会(2020年)。
[44] Ingrid Daubechies,Michel Defrise,Christine De Mol,稀疏约束线性反问题的迭代阈值算法,Commun。纯应用程序。数学。57(11), 1413?1457 (2004) ·Zbl 1077.65055号
[45] 王华华,Arindam Banerjee,Bregman交替方向乘数法,第27届神经信息处理系统国际会议论文集第2卷,第2816-2824页(2014)。
[46] Celledoni,E.、Ehrhardt,M.J.、Etmann,C.、McLachlan,R.I.、Owren,B.、Schönlieb,C.B.和Sherry,F.(2020年)。保留结构的深度学习。arXiv预打印arXiv:2006.03364·Zbl 07440570号
[47] He,K.,Zhang,X.,Ren,S.,&Sun,J.(2016)。用于图像识别的深度残差学习。《IEEE计算机视觉和模式识别会议论文集》(第770-778页)。
[48] Haber,E.和Ruthotto,L.(2017年)。深层神经网络的稳定架构。反问题,34(1),014004。
[49] Zhang,L.和Schaeffer,H.(2020年)。resnet及其变体的前向稳定性。数学成像与视觉杂志,62(3),328-351·兹比尔1434.68528
[50] 马丁·本宁(Martin Benning)、埃琳娜·塞莱多尼(Elena Celledoni)、马蒂亚斯·埃哈特(Matthias J.Ehrhardt)、布林朱尔夫·奥雷恩(Brynjulf Owren)和卡罗拉·比比安·施恩利布(Carola-Bib-iane Schönlie。作为最优控制问题的深度学习:模型和数值方法。计算动力学杂志,6(2):171?198, 2019 ·兹比尔1429.68249
[51] Goodfellow,Ian和Pouget-Abadie,Jean和Mirza,Mehdi和Xu,Bing和Warde-Farley,David和Ozair,Sherjil和Courville,Aaron和Bengio,Yoshua,《神经信息处理系统的进展》,拓扑学(2014),2672-2680。
[52] Metzler,Christopher A和Mousavi,Ali和Heckel,Reinhard和Bara-niuk,Richard G,《使用Stein的无偏风险估计进行无监督学习》,arXiv预印本arXiv:1805.10531(2018)
[53] Gulrajani、Ishaan和Ahmed、Faruk和Arjovsky、Martin和Dumoulin、Vincent和Courville、Aaron C,《wasserstein gans的改进培训》,《神经信息处理系统的进展》(2017),5767-5777。
[54] Arjovsky、Martin和Chintala、Soumith和Bottou、Léon、Wasserstein gan、arXiv预印本arXiv:1701.07875(2017)。
[55] Petzka、Henning和Fischer、Asja和Lukovnicov、Denis,《关于Wasser-stein GANs的正规化》,arXiv预印本arXiv:1709.08894(2017)。
[56] K.Gregor和Y.LeCun,学习稀疏编码的快速近似。在ICML 2010-Proceedings,27th International Conference on Machine Learning,(2010)399-406中。
[57] J.Adler和O.Oktem,《学习原始-双重重建》,IEEE Trans Med Imaging 37(6)(2018),1322-1332。
[58] A.Chambolle和T.Pock,凸问题的一阶原对偶算法及其在成像中的应用,J.Math。《成像视觉》,40(2011),120-145·Zbl 1255.68217号
[59] A.Chambolle、M.J.Ehrhardt、P.Richtárik和C.-B.Schönlieb,具有任意采样和成像应用的随机原始-对偶混合梯度算法,SIAM Jour-nal on Optimization,28:4(2018),2783-2808·Zbl 06951767号
[60] F.Rullan和M.M.Betcke,光声层析成像中正向和伴随问题的Hamilton-Green解算器,arXiv:1810.13196。
[61] F.Rullan、N.Huynh、B.Cox、P.Beard和M.M.Betcke,PAT的随机重建方法(SPD(HG)2),编制中。
[62] F.Rullan,《光声层析成像:基于几何光学的柔性声学解算器》,伦敦大学学院博士论文,2020年。
[63] W.T.Hong,《学习的随机原对偶重建》,伦敦大学学院硕士论文,2018年。
[64] M.M.Betcke、A.Hauptmann、W.T.Hong和F.Rullan,《学习的随机原始-对偶重建及其在X射线和光声层析成像中的应用》,正在编写中。工具书类
[65] A.Bora、A.Jalal、E.Price和A.G.Dimakis,“使用生成模型的压缩传感”,ICML 2017年,第2卷,第822-841页,2017年。
[66] M.Dhar、A.Grover和S.Ermon,“使用生成模型模拟压缩传感的稀疏偏差”,载于ICML 2018,第3卷,1990-2005页,2018年。
[67] S.Tripathi、Z.C.Lipton和T.Q.Nguyen,“投影校正:用生成性对抗网络去噪图像”,ArXiv预印本,2018年。
[68] M.Asim、F.Shamshad和A.Ahmed,“使用预训练的生成先验的盲图像去卷积”,2019年第30届英国机器视觉大会,BMVC 20192020。
[69] R.A.Yeh、C.Chen、T.Yian Lim、A.G.Schwing、M.Hasegawa-Johnson和M.N.Do,“使用深层生成模型进行语义图像修复”,载于CVPR,第6882-6890页,IEEE,2017年。
[70] A.Lahiri、A.K.Jain、D.Nadendla和P.K.Biswas,“更快的无监督语义内画:基于GAN的方法”,《国际图像处理会议论文集》,ICIP,2019-9月,第2706-2710页,2019年。
[71] S.Menon、A.Damian、S.Hu、N.Ravi和C.Rudin,“脉冲:通过生成模型的潜在空间探索进行自我监督的照片上采样”,IEEE/CVF计算机视觉和模式识别会议论文集。,第2437-2445页,2020年。
[72] D.Obmann、J.Schwab和M.Haltmeier,“逆问题的深度合成正则化”,ArXiv预印本,2020年2月。
[73] H.Li、J.Schwab、S.Antholzer和M.Haltmeier,“NETT:用深度神经网络解决逆问题”,《逆问题》,第36卷,第6期,2020年·兹比尔1456.65038
[74] D.P.Kingma和M.Welling,“自动编码变分贝叶斯”,ICLR 2014年,2014年。
[75] I.J.Goodfellow、J.Pouget-Abadie、M.Mirza、B.Xu、D.Warde-Farley、S.Ozair、A.Courville和Y.Bengio,“生成性对抗网”,NeurIPS,第2672-2680页,2014年。
[76] S.Arora、A.Risteski和Y.Zhang,“GANs学会了分布吗?一些理论和经验”,ICLR 2018,第1-16页,2018年。
[77] 通过任务驱动的多尺度词典学习Tianlin Liu解释U-Nets(与Anadi Chaman、David Belius、Ivan Dokmanić合作)参考
[78] Ronneberger,O.、Fischer,P.和Brox,T.U-net:用于生物医学图像分割的卷积网络。在Navab,N.、Horneger,J.、Wells,W.M.和Frangi,A.F.(编辑)《医学图像计算和计算机辅助干预》,第234页?241.斯普林格国际出版公司,2015年。
[79] Leuschner,J.、Schmidt,M.、Baguer,D.O.和Maaß,P.LoDoPaB-CT数据集:低剂量CT重建方法的基准数据集。CoRR abs/1910.01113(2019)。
[80] Liu,T.、Chaman,A.、Belius,D.和Dokmanić,I.通过任务驱动的多尺度词典学习解释U-Nets。CoRR abs/2011.12815(2020)。
[81] A.Adelmann、P.Calvo、M.Frey、A.Gsell、U.Locans、C.Metzger-Kraus、N.Neveu、C.Rogers、S.Russell、S.Sheehy、J.Snuverink和D.Winklehner。OPAL是用于带电粒子加速器模拟的通用工具。arXiv:1905.066542019年。
[82] L.Ardizzone、J.Kruse、C.Rother和U.Koethe。用可逆神经网络分析反问题。2019年国际学习代表大会。
[83] J.Kruse、L.Ardizzone、C.Rother和U.Köthe。在反问题上对可逆体系结构进行基准测试。可逆神经网络和归一化流第一次研讨会(ICML 2019),美国长滩,2019年6月。
[84] A.Edelen、N.Neveu、M.Frey、Y.Huber、C.Mayes和A.Adelmann。粒子加速器系统多目标优化中数量级加速的机器学习。在《物理评论:加速器和光束》中。,23(4),2020. 工具书类
[85] B.Amos,L.Xu和J.Z.Kolter,输入凸神经网络,《机器学习国际会议》,2017年,第146-155页。
[86] M.Arjovsky、S.Chintala和L.Bottou、Wasserstein GAN,arXiv预印本arXiv:1701.07875v3(2017年12月)。
[87] I.Gulrajani、F.Ahmed、M.Arjovsky、V.Dumoulin和A.Courville,《Wasserstein GANs的改进训练》,arXiv预印本arXiv:1704.00028v3,(2017年12月)。
[88] E.Kobler、A.Effland、K.Kunisch和T.Pock,线性反问题的总深度变化,《IEEE计算机视觉和模式识别会议论文集》,2020年,第7549-7558页。
[89] H.Li、J.Schwab、S.Antholzer和M.Haltmeier,NETT:用深度神经网络解决反问题,arXiv预印本arXiv:1803.00092v3,(2019年12月)。
[90] J.Liu、Y.Sun、C.Eldeniz、W.Gan、H.An和U.S.Kamilov,《稀少:使用无基础知识的深层先验知识重建图像》,IEEE J.《信号处理精选主题》,14(2020),第1088-1099页。
[91] S.Lunz,O.÷ktem和C.-B.Schönlieb,逆向问题中的对抗正则化子,《神经信息处理系统进展》,2018年,第8507-8516页。
[92] S.Mukherjee、S.Dittmer、Z.Shumaylov、S.Lunz、O.Öktem和C.-B.Schönlieb,反问题的学习凸正则化子,arXiv预印本arXiv:2008.02839v2,(2021年3月)。
[93] E.T.Reehorst和P.Schniter,《降噪正则化:澄清和新解释》,IEEE计算成像学报,5(2019),第52-67页。
[94] Y.Romano、M.Elad和P.Milanfar,《小型引擎:通过去噪进行正则化(RED)》,《SIAM成像科学杂志》,10(2017),第1804-1844页·Zbl 1401.62101号
[95] O.Scherzer、M.Grasmair、H.Grossauer、M.Haltmeier和F.Lenzen,《成像中的变分方法》,施普林格出版社,2009年·Zbl 1177.68245号
[96] D.Ulyanov、A.Vedaldi和V.Lempitsky,《Deep image previor》,《IEEE计算机视觉和模式识别会议论文集》,2018年,第9446-9454页。记者:马蒂亚斯·贝克曼
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。