德鲁夫·帕特尔。;雷，深;阿萨德·A·奥贝拉伊。 具有深生成先验的基于物理的贝叶斯反问题的求解。 （英语） Zbl 1507.62235号 计算。方法应用。机械。工程师。 400，文章ID 115428，25 p.（2022）. 摘要：反问题在自然界中普遍存在，几乎出现在所有科学和工程领域，从地球物理、气候科学到天体物理和生物力学。解决反问题的核心挑战之一是解决其不适定性。贝叶斯推理为克服这一问题提供了一种原则性的方法，即将反问题表述为一个统计框架。然而，在推断具有大维度离散表示的字段（所谓的“维数诅咒”）时，应用起来很有挑战性和/或先前信息仅以先前获得的解决方案的形式可用时。在这项工作中，我们提出了一种利用深度生成模型进行高效准确贝叶斯反演的新方法。具体来说，我们演示了如何在贝叶斯更新中使用生成对抗网络（GAN）学习的近似分布作为先验，并在GAN的低维潜在空间中重新构造由此产生的推理问题，从而实现大规模贝叶斯反问题的有效解决。我们的统计框架保留了潜在的物理特性，并证明即使在缺乏潜在噪声模型信息的情况下，也能通过可靠的不确定性估计得出准确的结果，这对许多现有方法来说都是一个巨大的挑战。我们证明了所提方法对各种反问题的有效性，这些反问题包括合成数据和实验观测数据。 引用于6文件 理学硕士： 2015年1月62日 贝叶斯推断 68T07型 人工神经网络与深度学习 关键词：贝叶斯推断;反问题;不确定度量化（UQ）;模型降阶;马尔可夫链蒙特卡罗（MCMC）;弹性成像 软件：NeuralUQ公司;FEniCS公司;MNIST公司;uq-vae病毒;TensorFlow公司;Wasserstein甘;坚果;f-甘氨酸 PDF格式BibTeX公司 XML格式引用 \textit{D.V.Patel}等人，计算。方法应用。机械。Eng.400，文章ID 115428，25 p.（2022；Zbl 1507.62235） 全文： 内政部 arXiv公司 参考文献： [1] Keller，J.B.，反问题，Amer。数学。月刊，83，2，107-118（1976） [2] Doyley，M.M。；Parker，K.J.，《弹性成像：一般原理和临床应用》，超声临床。，9, 1, 1-11 (2014) [3] Barbone，体育。；Oberai，A.A.，《生物力学成像的数学和计算基础综述》，（生物力学计算建模（2010），施普林格出版社），375-408 [4] Kirsch，A.，《反问题数学理论导论》，第120卷（2021年），Springer Nature·Zbl 1456.35001号 [5] Isakov，V.，偏微分方程反问题，第127卷（2006），Springer·Zbl 1092.35001号 [6] 斯奈德，R。；Trampert，J.，地球物理学中的反演问题，（波场反演（1999），Springer），119-190·Zbl 1075.86524号 [7] Gouveia，W.P。；Scales，J.A.，地震波形反演的分辨率：Bayes与Occam，反演问题，13，2，323-349（1997）·Zbl 1026.86005号 [8] Jackson，C。；Sen，M.K。；斯托法，P.L。；Jackson，C。；Sen，M.K。；Stoffa，P.L.，气候模型预测中最优参数和不确定性估计的有效随机贝叶斯方法，气候杂志。，17, 14, 2828-2841 (2004) [9] 黄，S。；Xiang，J。；杜，H。；Cao，X.，《大气科学中的逆问题及其应用》，J.Phys。Conf.序列号。，12, 45-57 (2005) [10] 克雷格，I。；Brown，J.C.，《天文学中的逆问题，遥感数据反演策略指南》（1986），A.Hilger:A.Hilger Boston·Zbl 0666.35001号 [11] Asensio Ramos，A。；马丁内斯·冈萨雷斯，M.J。；Rubiño-Martín，J.A.，斯托克斯剖面的贝叶斯反演，Astron。天体物理学。，476，2959-970（2007），网址http://www.aanda.org/10.1051/0004-6361:20078107 [12] Hadamard，J.，《特殊问题与意义体质》，普林斯顿大学公牛分校。，49-52（1902） [13] 英国，H.W。；汉克，M。；Neubauer，A.，《反问题的正则化》，第375卷（1996），Springer科学与商业媒体·Zbl 0859.65054号 [14] 佩雷，G。；Bougleux，S。；Cohen，L.，反问题的非局部正则化，（欧洲计算机视觉会议（2008），Springer），57-68 [15] 凯皮奥，J。；Somersalo，E.，《统计与计算反问题》，第160卷（2006年），Springer Science&Business Media [16] Dashti，M。；Stuart，A.M.，《反问题的贝叶斯方法》（The Bayesian approach to reverse problems）（《不确定性量化手册》（2016），施普林格出版社），1-118 [17] Betancourt，M.，《哈密尔顿蒙特卡罗概念介绍》，《方法论》（2017），arXiv [18] 古德费罗，I。；Pouget-Abadie，J。；米尔扎，M。；徐，B。；Warde-Farley，D。；Ozair，S。；科尔维尔，A。；Bengio，Y.，《生成性对抗网络》，（神经信息处理系统进展（2014）），2672-2680 [19] Lindgren，E.M。；黄，J。；Dimakis，A.G.，《可逆生成模型的条件抽样及其在反问题中的应用》（2020年），arXiv:2002.11743。统一资源定位地址http://arxiv.org/abs/2002.11743 [20] 吴，H。；谢里夫丁，S。；Wittmer，J。；Bui Thanh，T.，通过变分自动编码器解决贝叶斯反问题（2021），arXiv:1912.04212 [21] Rizzuti，G。；Siahkoohi，A。；Witte，P.A。；Herrmann，F.J.，《通过深层可逆网络参数化不确定性：储层表征的应用》，（SEG技术计划扩展摘要2020（2020），勘探地球物理学家学会），1541-1545 [22] 博拉，A。；贾拉尔，A。；价格，E。；Dimakis，A.G.，使用生成模型的压缩传感，（第34届机器学习国际会议论文集——第70卷（2017年），JMLR。组织），537-546 [23] Ongie，G。；贾拉尔，A。；梅茨勒，C.A。；Baraniuk，R.G。；Dimakis，A.G。；Willett，R.，成像逆问题的深度学习技术，IEEE J.Sel。区域信息理论，1，1，39-56（2020） [24] Kingma，D.P。；Welling，M.，自动编码变分贝叶斯（2013），arXiv预打印arXiv:1312.6114 [25] Rezende，D。；Mohamed，S.，《归一化流的变分推理》（机器学习国际会议（2015），PMLR），1530-1538 [26] Dinh，L。；Sohl-Dickstein，J。；Bengio，S.，使用实际NVP估算密度（2017年），arXiv:1605.08803 [27] 阿德勒，J。；O.Ùktem，《深度贝叶斯反演》（2018），arXiv预印本arXiv:1811.05910 [28] Yang，Y。；Perdikaris，P.，《物理信息神经网络中的对抗不确定性量化》，J.Compute。物理。，394, 136-152 (2019) ·Zbl 1452.68171号 [29] Yang，L。；张，D。；Karniadakis，G.E.，《随机微分方程的物理信息生成对抗网络》，SIAM J.Sci。计算。，42，1，A292-A317（2020），arXiv:1811.02033·Zbl 1440.60065号 [30] Psaros，A.F。；X孟。；邹，Z。；郭，L。；Karniadakis，G.E.，《科学机器学习中的不确定性量化：方法、度量和比较》（2022年），arXiv预印本arXiv:2201.07766 [31] 帕特尔·D·V。；Oberai，A.A.，基于GAN的监督学习不确定性量化先验，SIAM/ASA J.Uncertain。数量。，9、3、1314-1343（2021年），arXiv：https://doi.org/10.1137/20M1354210 ·兹比尔1473.62092 [32] Vauhkonen，M。；凯皮奥，J.P。；萨默萨罗，E。；Karjalainen，P.A.，《基本约束下的电阻抗断层成像》，《反问题》，第13、2、523-530页（1997年）·Zbl 0872.35130号 [33] Calvetti，D。；Somersalo，E.，线性系统的先决条件，反问题，21,41397-1418（2005）·Zbl 1087.65044号 [34] 李伟（Li，W.）。；Cirpka，O.A.，《结构化和非结构化网格的高效地质统计反演方法》，《水资源》。决议，42，6（2006） [35] Marzouk，Y.M。；Najm，H.N.，《反问题中贝叶斯推理的降维和多项式混沌加速》，J.Compute。物理。，228、6、1862-1902（2009），网址https://www.sciencedirect.com/science/article/pii/S0021999108006062 ·Zbl 1161.65308号 [36] 利伯曼，C。；Willcox，K。；Ghattas，O.，大规模统计反问题的参数和状态模型约简，SIAM J.Sci。计算。，32,52523-2542（2010），网址http://epubs.siam.org/doi/10.1137/090775622 ·Zbl 1217.65123号 [37] 布鲁克斯，S。；Gelman，A。；Jones，G.L。；孟晓乐，《马尔可夫链蒙特卡罗手册》，1-592（2011），中国铁道部出版社·Zbl 1218.65001号 [38] 普尔，B。；Alemi，A.A。；Sohl-Dickstein，J。；Angelova，A.，《GAN改进发电机目标》（2016），arXiv:1612.02780 [39] Nowozin，S。；Cseke，B。；Tomioka，R.，F-GAN：使用变分散度最小化训练生成性神经采样器（2016），arXiv:1606.00709 [40] Arjovsky，M。；钦塔拉，S。；Bottou，L.，Wasserstein生成性对抗网络，（Precup，D.；Teh，Y.W.，《第34届机器学习国际会议论文集》，《机器学习研究论文集》第70卷（2017），PMLR:PMLR国际会议中心，澳大利亚悉尼），214-223，网址http://proceedings.mlr.press/v70/arjovsky17a.html [41] 古拉贾尼，I。；艾哈迈德·F。；Arjovsky，M。；杜穆林，V。；Courville，A.C.，wasserstein gans的改进训练，（神经信息处理系统进展（2017）），5767-5777 [42] 维拉尼，C.，（最佳交通：新旧。最佳交通：新老，格伦德赫伦·德·马塞马申·维森沙芬（2008），施普林格-柏林-海德堡） [43] Sriperumbudur，B.K。；Fukumizu，K。；格雷顿，A。；朔尔科普夫，B。；Lanckriet，G.R.G.，《关于积分概率度量，（φ）-发散和二进制分类》，Inf.Theory（2009），ArXiv [44] Arora，S。；Risteski，A。；张，Y.，GAN是否了解分布？一些理论和经验（ICLR（2018）） [45] Uppal，A。；辛格，S。；Póczos，B.，besov IPM损失下GAN的非参数密度估计和收敛速度，（NeurIPS（2019）） [46] 帕特尔·D·V。；雷·D。；拉马斯瓦米，H。；Oberai，A.，《具有对抗性先验的物理驱动问题中的贝叶斯推理》（NeurIPS 2020深度学习和逆向问题研讨会（2020）） [47] M.阿巴迪。；阿加瓦尔，A。；巴勒姆，P。；Brevdo，E。；陈，Z。；Citro，C。；Corrado，G.S。；A.戴维斯。；迪安·J。；德文，M。；Ghemawat，S。；古德费罗，我。；竖琴，A。；欧文，G。；Isard，M。；贾毅。；Jozefowicz，R。；凯撒，L。；库德勒，M。；Levenberg，J。；马内，D。；蒙加，R。；摩尔，S。；D.穆雷。；奥拉，C。；舒斯特，M。；Shlens，J。；斯坦纳，B。；Sutskever，I。；Talwar，K。；塔克，P。；Vanhoucke，V。；瓦苏德万，V。；维加斯，F。；葡萄酒，O。；监狱长，P。；Wattenberg，M。；威克，M。；Yu，Y。；Zheng，X.，TensorFlow:异构系统上的大规模机器学习（2015），可从TensorFlow.org获得的软件。URLhttps://www.tensorflow.org/ [48] 阿尔奈斯，M.S。；布莱希塔，J。；Hake，J。；Johansson，A。；Kehlet，B。；罗格，A。；Richardson，C。；Ring，J。；罗根斯，M.E。；Wells，G.N.，《FEniCS项目1.5版》（FEniCS project 1.5版，第3卷（2015）），9-23，（100）。统一资源定位地址http://fenicsproject.org [49] M.D.Hoffman，A.Gelman，《无转取样器：在哈密尔顿蒙特卡罗自适应设置路径长度》，技术代表，2014年，URL·Zbl 1319.60150号 [50] Dillon，J.V。；Langmore，I。；Tran，D。；Brevdo，E。；Vasudevan，S。；摩尔，D。；巴顿，B。；Alemi，A。；霍夫曼，M。；Saurous，R.A.，TensorFlow分布（2017），arXiv:1711.10604。统一资源定位地址http://arxiv.org/abs/11711.10604 [51] Andrieu，C。；Thoms，J.，自适应MCMC教程，统计计算。，18, 4, 343-373 (2008) [52] Magiera，J。；雷·D。；赫塞文，J.S。；Rohde，C.，Riemann问题的约束感知神经网络，J.Compute。物理。，409，第109345条pp.（2020）·Zbl 1435.76046号 [53] Yang，Z。；吴杰。；Xiao，H.，为模拟物理系统对生成性对抗网络实施不精确的约束，Commun。计算。物理学。(2021) ·Zbl 1490.76120号 [54] 伊格莱西亚斯，M。；法律，K。；Stuart，A.，水库模型中数据同化的高斯近似评估，计算。地质科学。，17, 851-885 (2013) ·Zbl 1393.86020号 [55] 凯皮奥，J.P。；Fox，C.，《传热反问题的贝叶斯框架》，《传热》。工程师，32，9，718-753（2011） [56] Radford，A。；梅茨，L。；Chintala，S.，深度卷积生成对抗性网络的无监督表示学习（2016），CoRR abs/15110.6434 [57] 马林，I。；Gotovac，S。；鲁索，M。；Boíić-s tulić，D.，潜在空间维度对合成人脸图像质量的影响，J.Commun。柔和。系统。，17, 2, 124-133 (2021) [58] LeCun，Y。；科尔特斯，C。；Burges，C.，MNIST手写数字数据库，第2卷（2010年），ATT实验室，[在线]。可用：http://yann.lecun.com/exdb/mnist [59] Calvetti，D。；Morigi，S。；赖切尔，L。；Sgallari，F.，Tikhonov正则化和大型离散不定问题的L曲线，J.Compute。申请。数学。，123, 1-2, 423-446 (2000) ·Zbl 0977.65030号 [60] 坎农，J.R。；Esteva，S.P.，热方程的反问题，反问题，2，4，395-403（1986），URLhttps://iopscience.iop.org/article/10.1088/0266-5611/2/4/007 ·Zbl 0624.35078号 [61] 坎农，J.R。；Duchateau，P.，热量方程中未知源项的结构识别，反问题，14，3，535-551（1998）·Zbl 0917.35156号 [62] 苏，J。；Silva Neto，A.J.，圆柱杆源强度估算的二维逆热传导问题，应用。数学。型号。，25, 10, 861-872 (2001) ·Zbl 0992.80009号 [63] Cheng，W。；赵丽莉。；Fu，C.L.，轴对称逆热传导问题的源项识别，计算。数学。申请。，59, 1, 142-148 (2010) ·Zbl 1189.65215号 [64] Natterer，F.，《计算机断层成像的数学》（2001），工业和应用数学学会，URLhttps://epubs.siam.org/doi/abs/10.1137/1.9780898719284 ·Zbl 0973.92020号 [65] 托夫特，P.A.，《氡转换-理论与实现》（1996），丹麦技术大学（博士论文） [66] Pavan，T.Z。；Madsen，E.L。；弗兰克·G·R。；江，J。；卡内罗，A.A。；Hall，T.J.，包含球形夹杂物的非线性弹性模型，Phys。医学生物学。，5724787-4804（2012年） [67] Lévy，D。；医学博士霍夫曼。；Sohl-Dickstein，J.，用神经网络推广哈密顿蒙特卡罗（2018），ArXiv abs/1711.09268 [68] 霍夫曼，M。；苏恩索夫，P。；Dillon，J.V。；Langmore，I。；Tran，D。；Vasudevan，S.，《利用神经传输中和哈密顿蒙特卡罗中的不良几何》（2019），arXiv:1903.03704 [69] 医学博士霍夫曼。；Gelman，A.，《无回转取样器：哈密尔顿蒙特卡罗自适应设置路径长度》，J.Mach。学习。第15号、第1号、第1593-1623号决议（2014年）·Zbl 1319.60150号 [70] 贝当古，M。；Girolama，M.，层次模型的哈密顿蒙特卡罗，当前。趋势贝叶斯方法。申请。，79, 30, 2-4 (2015) [71] 佩特拉，N。；朱，H。；斯塔德勒，G。；休斯·T·J。；Ghattas，O.，非线性Stokes冰盖模型中基底滑动和流变参数反演的不精确Gauss-Newton方法，J.Glaciol。，58211889-903（2012），网址https://www.cambridge.org/core 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。