哈比尔·安提尔；狄子超·温迪；拉特纳·卡特里 双层优化、深度学习和分数拉普拉斯正则化在层析成像中的应用。 （英语） Zbl 07371382号 反向探测。 36，第6号，文章ID 064001，22 p.（2020）. 小结：在这项工作中，我们考虑了求解逆问题的广义双层优化框架。我们引入分数拉普拉斯算子作为正则化子来提高重建质量，并将其与全变分正则化进行了比较。我们强调，使用分数拉普拉斯算子作为正则化子的关键优势在于，它可以生成线性算子，而总变分正则化则可以生成非线性退化算子。受残差神经网络的启发，为了学习正则化的最佳强度和分数拉普拉斯指数，我们针对一般正则化反问题开发了一个变深度的专用双层优化神经网络。我们说明了如何将各种正则化器选择合并到我们提出的网络中。作为示例，我们将层析重建视为一个模型问题，并通过分数拉普拉斯正则化显示了重建质量的改进，特别是对于有限数据。通过我们提出的双层优化神经网络，我们成功地学习了正则化强度和分数指数。我们观察到分数拉普拉斯正则化优于全变分正则化。在数据有限且有噪声的情况下，这特别令人鼓舞，也很重要。 引用于22文件 MSC公司： 65卢比 积分方程、积分变换的数值方法 68次发射 人工智能 94轴 通信、信息 49公里xx 最优条件 65传真 数值线性代数 关键词：双层优化神经网络；分数拉普拉斯正则化；深度剩余学习；成像科学；断层重建；反问题 软件：凯利；规范化工具；ElemStatLearn（电子状态学习）；万亿 PDF格式BibTeX公司 XML格式引用 \textit{H.Antil}等人，《反问题》。36，第6号，文章ID 064001，22 p.（2020；Zbl 07371382） 全文： 内政部 arXiv公司 参考文献： [1] Girard D A 1987计算机断层扫描中的最佳正则重建SIAM J.Sci。统计计算8 934-50·Zbl 0638.65094号 ·doi:10.1137/0908076 [2] Hamalainen K、Kallonen A、Kolehmainen V、Lassas M、Niinimaki K和Siltanen S 2013稀疏层析成像SIAM J.Sci。计算35 B644-65·Zbl 1275.65089号 ·doi:10.1137/120876277 [3] 谢杰、Nett B、Yu Z、Sauer K、Thibault J-B和Bouman C A，2013年，CT图像重建的最新进展，当前放射学报告139-51·doi:10.1007/s40134-012-0003-7 [4] Lassas M和Siltanen S 2004可以使用总变差先验进行保边贝叶斯反演吗？反问题20 1537·Zbl 1062.62260号 ·doi:10.1088/0266-5611/20/5/013 [5] Niinimaki K、Lassas M、Hamalainen K、Kallonen A、Kolehmainen V、Niemi E和Siltanen S 2016全变差正则化断层扫描的多分辨率参数选择方法SIAM J.Imag。科学9 938-74·Zbl 1346.65072号 ·doi:10.137/15m1034076 [6] Rudin L、Osher S和Fatemi E 1992非线性全变分噪声去除算法Phys。非线性现象60 259-68·Zbl 0780.49028号 ·doi:10.1016/0167-2789（92）90242-f [7] Shen J和Chan T F 2002局部非织物修复的数学模型SIAM J.Appl。数学62 1019-43·Zbl 1050.68157号 ·doi:10.1137/s0036139900368844 [8] Tikhonov A N和Arsenin V Y 1977《不适定问题的解决方案》（数学脚本系列）编辑F John（华盛顿特区：V.H.Winston&Sons）·Zbl 0354.65028号 [9] Hammernik K、Klatzer T、Kobler E、Recht M P、Sodickson D K、Pock T和Knoll F 2018学习用于重建磁共振成像加速数据Magn的变分网络。Reson公司。医学79 3055-71·数字对象标识码：10.1002/mrm.26977 [10] Yang Y，Sun J，Li H和Xu Z 2016 Deep admm-net for compressive sensing mri（美国）Proc。第30届神经信息处理系统国际会议，NIPS’16 pp 10-8 [11] Zhang K，Zuo W，Gu S和Zhang L 2017图像恢复前学习深度CNN去噪器IEEE计算机视觉和模式识别会议（CVPR）2808-17·doi:10.1109/CVPR.2017.300 [12] Lucas A、Iliadis M、Molina R和Katsaggelos A K 2018使用深层神经网络解决成像逆问题：超越分析方法IEEE信号处理。杂志35 20-36·doi:10.1109/msp.2017.2760358 [13] McCann M T、Jin K H和Unser M 2017成像逆问题卷积神经网络：IEEE信号处理综述。杂志34 85-95·doi:10.1109/msp.2017.2739299 [14] E W 2019机器学习：数学理论和科学应用不是。AMS66 1813-20标准·Zbl 1439.68019号 ·doi:10.1090/noti1994年 [15] Glrot X和Bengio Y了解训练深度前馈神经网络的困难（意大利撒丁岛Chia Laguna度假酒店，2010年5月13日至15日）Proc。第13届国际人工智能与统计大会第249-56页Y W Teh和M Titterington [16] 邱杰、吴强、丁庚、徐勇和冯S 2016大数据处理机器学习调查EURASIP 2016年《信号处理进展杂志》67·doi:10.1186/s13634-016-0355-x [17] Ruthotto L和Haber E 2019偏微分方程激励的深度神经网络J.数学。图像。愿景62 352-64·Zbl 1434.68522号 ·doi:10.1007/s10851-019-00903-1 [18] Wigderson A 2019数学与计算（新泽西州普林斯顿：普林斯顿大学出版社）·Zbl 1455.68004号 [19] Antil H和Bartels S 2017图像处理和相场建模计算中分数阶偏微分的谱近似。方法应用。数学17 661-78·Zbl 1431.65222号 ·doi:10.1515/三月-2017-0039 [20] Kak A C，Slaney M和Wang G 2002计算机断层成像原理医学物理29 107·doi:10.118/1.1455742 [21] Jin K H、McCann M T、Froustey E和Unser M 2017用于成像IEEE Trans反问题的深度卷积神经网络。图像处理26 4509-22·Zbl 1409.94275号 ·doi:10.1109/tip.2017.2713099 [22] Shan H、Padole A、Homayounieh F、Kruger U、Khera R D、Nitiwarangkul C、Kalra M K和Wang G 2019模块化深度神经网络与低剂量ct图像重建商业算法相比的竞争性能自然机器智能1 269·doi:10.1038/s42256-019-0057-9 [23] Calatroni L、Cao C、De Los Reyes J C、Schönlieb C-B和Valkonen T 2016变分成像模型学习的双层方法变分方法（柏林：Walter De Gruyter GmbH）第252-90页·doi:10.1515/9783110430394-008 [24] Caffarelli L和Silvestre L 2007与分数阶Laplacian Comm.偏微分方程32 1245-60相关的推广问题·Zbl 1143.26002号 ·数字对象标识代码：10.1080/03605300600600987306 [25] Stinga P R和Torrea J L 2010扩展问题和一些分数算子的Harnack不等式Comm.Part。微分方程35 2092-122·Zbl 1209.26013号 ·doi:10.1080/03605301003735680 [26] Chung J和Español M I 2017一般形式Tikhonov逆问题的学习正则化参数33 074004·Zbl 1414.68048号 ·doi:10.1088/1361-6420/33/7/074004 [27] Hansen P C 1988正则化、gsvd和截断gsvd（广义奇异值分解）BIT数值数学29 491-504·Zbl 0682.65021号 ·doi:10.1007/BF02219234 [28] Antil H和Rautenberg C 2019具有非muckenhoupt权重的Sobolev空间、分数椭圆算子和应用SIAM J.Math。分析51 2479-503·Zbl 1420.35487号 ·数字对象标识代码：10.1137/18m1224970 [29] Weiss C J、van Bloemen Waanders B G和Antil H 2020分数算子在地球物理电磁地球物理中的应用。国际期刊220 1242-59 [30] Antil H、Berry T和Harlim J 2018分数扩散图（arXiv:1810.03952） [31] Bueno-Orovio A、Kay D、Grau V、Rodriguez B和Burrage K 2014心脏电传播的分数扩散模型：结构异质性在复极离散中的作用J.R.Soc.Interface11 20140352·doi:10.1098/rsif.2014.0352 [32] Antil H、Khatri R和Warma M 2019非局部PDE逆问题的外部最优控制35 084003-35·Zbl 1461.35221号 ·doi:10.1088/1361-6420/ab1299 [33] Antil H、Verma D和Warma M 2020分数抛物线偏微分方程的外部最优控制ESAIM控制优化。计算变量26 20·Zbl 1444.35144号 ·doi:10.1051/cocv/202005 [34] Bougleux S、Elmoataz A和Melkemi M 2009图像和网格处理加权图的局部和非局部离散正则化国际计算杂志。见84 220-36·Zbl 1481.94008号 ·doi:10.1007/s11263-008-0159-z [35] Liu W，Ma X，Zhou Y，Tao D和Cheng J 2019场景识别的p-Laplacian正则化IEEE控制论汇刊49 2927-40·doi:10.1109/tcyb.2018.2833843 [36] Magiera J，Ray D，Hethaven J S和Rohde C 2020 Riemann问题的约束感知神经网络Int.J.Comput。维斯409 109345·兹比尔1435.76046 [37] Hintermüller M和Rautenberg C N 2017加权总变差模型中正则化函数的最佳选择。第一部分：建模与理论J。数学。图像。见59 498-514·Zbl 1382.94015号 ·doi:10.1007/s10851-017-0744-2 [38] Hintermüller M、Rautenberg C N、Wu T和Langer A 2017加权总变差模型中正则化函数的最佳选择。第二部分：算法及其分析和数值测试J.Math。图像。见59 515-33·Zbl 1382.94016号 ·doi:10.1007/s10851-017-0736-2 [39] Starck J-L、Candès E J和Donoho D L 2002图像去噪的曲线变换IEEE Trans。图像处理11 670-84·Zbl 1288.94011号 ·doi:10.1109/TIP.2002.1014998 [40] Hansen P C 1994正则化工具：用于分析和解决离散不适定问题的matlab包Numer。算法6 1-35·兹比尔0789.65029 ·doi:10.1007/bf02149761 [41] Ambrosio L、Fusco N和Pallara D 2000有界变分函数和自由间断问题（纽约：牛津大学出版社）·兹比尔0957.49001 [42] Bartels S和Milicevic M 2017可变步长乘数的交替方向法（arXiv:1704.06069） [43] Kinderlehrer D和Stampacchia G 1980变分不等式及其应用简介（纽约：学术版）·Zbl 0457.35001号 [44] Di Z、Leyffer S和Wild S M 2016联合x射线荧光和透射层析反演基于优化的方法SIAM J.Imag。科学9 1·Zbl 1381.94015号 ·doi:10.1137/15m1021404 [45] Radon J 1986关于从沿某些流形的积分值确定函数的IEEE Trans。医学成像5 170-6·doi:10.1109/tmi.1986.4307775 [46] Colton D和Kress R 2013《逆声和电磁散射理论》（第93卷应用数学科学）第3版（纽约：施普林格出版社）·Zbl 1266.35121号 ·doi:10.1007/978-1-4614-4942-3 [47] Nash S G 2000公司截断Newton方法J的调查。和应用程序。数学124 45-59·Zbl 0969.65054号 ·doi:10.1016/s0377-0427（00）00426-x [48] Hansen P C和O’Leary D P 1993在离散病态问题正则化中使用l曲线SIAM J.Sci。计算14 1487-503·Zbl 0789.65030号 ·doi:10.137/0914086 [49] Vogel C R 1996 L-曲线正则化参数选择方法的不收敛性逆问题12 535-47·兹比尔0867.65025 ·doi:10.1088/0266-5611/12/4/013 [50] He K、Zhang X、Ren S和Sun J 2016图像识别深度残差学习IEEE计算机视觉和模式识别（CVPR）会议第770-8页 [51] Wu S、Zhong S和Liu Y 2018图像隐写分析多媒体的深度残差学习。工具。申请77 10437-53·文件编号：10.1007/s11042-017-4440-4 [52] Chen H，Dou Q，Yu L，Qin J和Voxresnet P-A H 2018三维核磁共振图像脑分割的深度体素线性残差网络NeuroImage170 446-55·doi:10.1016/j.neuroimage.2017.04.041 [53] Lee D、Yoo J、Tak S和Ye J C 2018使用幅度和相位网络IEEE Trans对加速mri进行深度剩余学习。生物识别。工程65 1985-95·doi:10.1109/TBME.2018年2821699 [54] Bischke B、Bhardwaj P、Gautam A、Helber P、Borth D和Dengel A 2017使用深度神经网络在社交多媒体和卫星图像中检测洪水事件2017年MediaEval工作笔记会议录（MediaEvall Benchmark，9月）第13-15卷（都柏林：MediaEvar） [55] Tai Y、Yang J和Liu X 2017年通过深度递归残差网络实现图像超分辨率IEEE计算机视觉和模式识别（CVPR）会议第2790-8页 [56] Zhang Q，Yuan Q，Zeng C，Li X和Wei Y 2018使用统一时空谱深度卷积神经网络IEEE Trans重建遥感图像中的缺失数据。地质科学。远程传感器56 4274-88·doi:10.1109/tgrs.2018年2810208月 [57] Kelley C T 1999应用数学优化前沿的迭代方法（费城：SIAM）·Zbl 0934.90082号 ·数字对象标识代码：10.1137/1.9781611970920 [58] Bottou L、Curtis F E和Nocedal J 2018大规模机器学习的优化方法SIAM Rev.60 223-311·Zbl 1397.65085号 ·doi:10.1137/16m1080173 [59] Goodfellow I、Bengio Y和Courville A 2016深度学习（马萨诸塞州剑桥：麻省理工学院出版社）·Zbl 1373.68009号 [60] Hastie T、Tibshirani R和Friedman J 2009《统计学习的要素：数据挖掘、推断和预测》（柏林：施普林格出版社）·Zbl 1273.62005年 ·doi:10.1007/978-0-387-84858-7 [61] Higham C F和Higham D J 2019深度学习：应用数学家简介SIAM Rev.61 860-91·Zbl 1440.68214号 ·doi:10.1137/18m1165748 [62] Sjöberg J 1992过度训练正则化，并在神经网络中搜索最小值IFAC会议录第25 73-8卷·doi:10.1016/s1474-6670（17）50715-6 [63] Antil H、Pfefferer J和Rogovs S 2018非均匀边界条件分数算子：分析、控制和离散化Commun。数学。科学.16 1395-426·Zbl 06996271号 ·doi:10.4310/cms.2018.v16.n5.a11 [64] Clarke F H 1975广义梯度和应用。阿默尔。数学。社会205 247-62·Zbl 0307.26012号 ·doi:10.1090/s0002-9947-1975-0367131-6 [65] Austin A P，Di Z，Leyffer S和Wild S M 2019使用基于优化的方法SIAM J.Sci同步恢复传感误差和层析反演。计算41 B497-521·兹比尔1420.65141 ·doi:10.1137/18m121993倍 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。