夏英志;尼古拉斯·扎巴拉斯 用于解决高维反问题的贝叶斯多尺度深度生成模型。 （英语） Zbl 07518090号 J.计算。物理学。 455，文章ID 111008，32 p.（2022）. 摘要：讨论了由偏微分方程（PDEs）控制的计算成本高的前向模型的空间变量参数估计。基于多尺度深度生成模型（MDGM），提出了一种新的多尺度贝叶斯推理方法。这种生成模型提供了一种灵活的表示，允许从粗到细的层次化参数生成。将多尺度生成模型与马尔可夫链蒙特卡罗（MCMC）相结合，实现了跨尺度推理，使我们能够有效地获得不同尺度下的后验参数样本。在该方法中，估计参数的最显著特征是至关重要的。精细尺度参数的推断是通过利用直接粗尺度中的后验信息来实现的。这样，通过低维变量的推理和廉价的前向计算，在粗尺度上识别全局特征，在细尺度上细化和校正局部特征。通过非均质介质中流动的两种渗透率估算，验证了所开发的方法。一种是具有不确定长度尺度的高斯随机场（GRF），另一种是由不同GRF定义的两个区域的渠化渗透率。所得结果表明，该方法可以进行高维参数估计，同时具有稳定性、效率和准确性。 引用于4文件 MSC公司： 65立方厘米 概率方法，随机微分方程 62Fxx公司 参数化推理 86轴 地球物理学 关键词：贝叶斯推断;反问题;深层生成模型;高维性;多尺度估计;马尔科夫蒙特卡洛 软件：低碳所;InfoGAN公司;亚当;图像网络;PyTorch公司;FEniCS公司;AlexNet公司 PDF格式BibTeX公司 XML格式引用 \textit{Y.Xia}和\textit{N.Zabaras}，J.Compute。物理学。455，文章ID 111008，32 p.（2022；Zbl 07518090） 全文： 内政部 arXiv公司 参考文献： [1] Tarantola，A.，模型参数估计的反问题理论和方法（2005），工业与应用数学学会·Zbl 1074.65013号 [2] 英国，H.W。；汉克，M。；Neubauer，A.，《反问题的正则化》，第375卷（1996），Springer Science&Business Media·兹比尔0859.65054 [3] Zhdanov，M.，地球物理反演理论和正则化问题，（地球化学和地球物理方法（2002），Elsevier Science） [4] Hansen，P.C.，《离散反问题》（2010），工业和应用数学学会·兹比尔1197.65054 [5] Stuart，A.M.，《逆向问题：贝叶斯观点》，《数值学报》。，19451-559（2010年）·Zbl 1242.65142号 [6] 布莱，D.M。；Kucukelbir，A。；McAuliffe，J.D.，《变分推断：统计学家评论》，J.Am.Stat.Assoc.，112，518，859-877（2017） [7] 布鲁德，L。；Koutsourelakis，P.-S.，《超越贝叶斯反问题和模型验证中的黑盒：弹性成像固体力学中的应用》，国际不确定性杂志。量化。，8, 5 (2018) ·Zbl 1498.74024号 [8] Jin，B.，脉冲噪声反问题的变分贝叶斯方法，J.Compute。物理。，231, 2, 423-435 (2012) ·Zbl 1243.65115号 [9] 阿特金森，S。；Zabaras，N.，结构化贝叶斯-高斯过程潜在变量模型：数据驱动降维和高维反演的应用，J.Compute。物理。，383, 166-195 (2019) ·Zbl 1451.62095号 [10] 北卡罗来纳州大都会。；罗森布鲁斯，A.W。；Rosenbluth，M.N。；出纳员，A.H。；Teller，E.，快速计算机器的状态方程计算，J.Chem。物理。，21, 6, 1087-1092 (1953) ·Zbl 1431.65006号 [11] Hastings，W.K.，《使用马尔可夫链的蒙特卡罗采样方法及其应用》，《生物统计学》，57，1，97-109（1970）·Zbl 0219.65008号 [12] 盖尔曼，A。；Roberts，G.O。；Gilks，W.R.，《高效都市跳跃规则》，贝叶斯统计，5599-608，42（1996） [13] 安德里厄，C。；De Freitas，N。；Doucet，A。；Jordan，M.I.，机器学习MCMC简介，马赫。学习。，50, 1-2, 5-43 (2003) ·Zbl 1033.68081号 [14] Ghanem，R.G。；Spanos，P.D.，《随机有限元：谱方法》（2003），Courier Corporation [15] 廖琦（Liao，Q.）。；Li，J.，高维贝叶斯逆问题的自适应降基方差分析方法，J.Compute。物理。，396, 364-380 (2019) ·Zbl 1453.62587号 [16] 莫，S。；Zhu，Y。；北卡罗来纳州扎巴拉斯。；施，X。；Wu，J.，非均匀介质中动态多相流不确定性量化的深度卷积编解码网络，水资源。研究，55，1703-728（2019） [17] Bilinis，I。；Zabaras，N.，用有限的前向解算器评估解决逆问题：贝叶斯观点，逆问题。，第30、1条，第015004页（2013年）·Zbl 1292.62047号 [18] Yan，L。；Zhou，T.，反演问题中贝叶斯推断的自适应多保真多项式混沌方法，J.Compute。物理。，381, 110-128 (2019) ·Zbl 1451.62033号 [19] 马，X。；Zabaras，N.，基于自适应稀疏网格配置方法的反问题高效贝叶斯推理方法，逆问题。，第25、3条，第035013页（2009年）·兹比尔1161.62011 [20] Wan，J。；Zabaras，N.，使用序贯蒙特卡罗方法处理多尺度逆问题的贝叶斯方法，逆问题。，第27、10条，第105004页（2011年）·Zbl 1228.65009号 [21] Ellam，L。；北卡罗来纳州扎巴拉斯。；Girolami，M.，用动态尺度确定多尺度逆问题的贝叶斯方法，J.Comput。物理。，326, 115-140 (2016) ·Zbl 1380.62109号 [22] 拉洛伊，E。；Hérault，R。；Lee，J。；Jacques博士。；Linde，N.，利用基于深度神经网络的复杂二元地质介质的新低维表示进行反演，Adv.Water Resour。，110, 387-405 (2017) [23] 莫，S。；北卡罗来纳州扎巴拉斯。；施，X。；Wu，J.，用于估计非高斯水力传导率的对抗性自动编码器与剩余密集卷积网络的集成，水资源。决议，56，2，条款e2019WR026082 pp.（2020） [24] 古德费罗，I。；Pouget-Abadie，J。；米尔扎，M。；徐，B。；Warde-Farley，D。；Ozair，S。；科尔维尔，A。；Bengio，Y.，《生成性对抗网络》（Ghahramani，Z.；Welling，M.；Cortes，C.；Lawrence，N.；Weinberger，K.Q.，《神经信息处理系统的进展》，第27卷（2014年），Curran Associates，Inc.），2672-2680 [25] Kingma，D.P。；Welling，M.，自动编码变分贝叶斯（2013），arXiv预印本 [26] Rezende，D.J。；Mohamed，S.，《归一化流的变分推断》（2015），arXiv预印本 [27] Padmanabha，G.A。；Zabaras，N.，使用条件可逆神经网络解决反问题（2020），arXiv预印本 [28] 坎丘穆尼，西南部。；埃默里克，A.A。；Pacheco，M.A.C.，使用深度变分自动编码器和集合平滑器对调节相模型进行稳健参数化，计算。地质科学。，128, 87-102 (2019) [29] 拉洛伊，E。；Hérault，R。；Jacques博士。；Linde，N.，《利用空间生成对抗性神经网络进行基于图像的地质统计反演训练》，《水资源》。研究，54，1，381-406（2018） [30] 摩瑟（Mosser，L.）。；O.Dubrule。；Blunt，M.J.，《利用生成对抗网络作为地质先验的随机地震波形反演》，《数学》。地质科学。，52, 1, 53-79 (2020) ·Zbl 1428.86022号 [31] 李，J。；Marzouk，Y.M.，逆向问题贝叶斯解的代理自适应构造，SIAM J.Sci。计算。，36、3、A1163-A1186（2014）·Zbl 1415.65009号 [32] Marzouk，Y.M。；Najm，H.N。；Rahn，L.A.，反问题有效贝叶斯解的随机谱方法，J.Compute。物理。，224, 2, 560-586 (2007) ·Zbl 1120.65306号 [33] 陈，C。；Liao，Q.，高维随机计算模型的ANOVA高斯过程建模，J.Compute。物理。，416，第109519条pp.（2020）·Zbl 1437.62286号 [34] Bilinis，I。；北卡罗来纳州扎巴拉斯。；科诺米，学士。；Lin，G.，《多输出可分离高斯过程：实现不确定性量化的高效、完全贝叶斯范式》，J.Compute。物理。，241, 212-239 (2013) ·Zbl 1349.76760号 [35] 李凯。；Tang，K。；李，J。；Wu，T。；Liao，Q.，用于故障概率估计的分层神经混合方法，IEEE Access，7，112087-112096（2019） [36] Zhu，Y。；Zabaras，N.，《替代建模和不确定性量化的贝叶斯深度卷积编解码网络》，J.Compute。物理。，366, 415-447 (2018) ·Zbl 1407.62091号 [37] 莫，S。；北卡罗来纳州扎巴拉斯。；施，X。；Wu，J.，地下水污染源识别中高维逆问题的深度自回归神经网络，水资源。研究，55，5，3856-3881（2019） [38] 费雷拉，硕士。；Marco，A。；Lee，H.K.，《多尺度建模：贝叶斯观点》（2007），施普林格科学与商业媒体·Zbl 1183.62046号 [39] Koutsourelakis，P.，识别空间变量模型参数的多分辨率、非参数贝叶斯框架，J.Compute。物理。，228, 17, 6184-6211 (2009) ·Zbl 1190.62211号 [40] 希格顿，D。；Lee，H。；Bi，Zhuoxin，使用粗尺度和细尺度信息表征逆问题中不确定性的贝叶斯方法，IEEE Trans。信号处理。，50, 2, 389-399 (2002) ·Zbl 1369.62047号 [41] 佩赫斯托弗，B。；威尔科克斯，K。；Gunzburger，M.，《不确定性传播、推理和优化中的多重性方法综述》，SIAM Rev.，60，3，550-591（2018）·Zbl 1458.65003号 [42] 尤芬迪耶夫。；Hou，T。；Luo，W.，使用粗尺度模型预处理马尔可夫链蒙特卡罗模拟，SIAM J.Sci。计算。，28, 2, 776-803 (2006) ·Zbl 1111.65003号 [43] Dodwell，T.J。；凯特尔森，C。；Scheichl，R。；Teckentrup，A.L.，一种应用于地下水流不确定性量化的分层多级马尔可夫链蒙特卡罗算法，SIAM/ASA J.不确定性。量化。，3, 1, 1075-1108 (2015) ·Zbl 1330.65007号 [44] Hoang，V.H。；施瓦布，C。；Stuart，A.M.，贝叶斯反演加速MCMC方法的复杂性分析，逆问题。，第29、8条，第085010页（2013年）·Zbl 1288.65004号 [45] Beskos，A。；Jasra，A。；法律，K。；丹蓬，R。；Zhou，Y.，多级序贯蒙特卡罗采样器，斯托克。过程。申请。，127, 5, 1417-1440 (2017) ·Zbl 1362.65010号 [46] 崔，T。；德托马索，G。；Scheichl，R.，《大规模反问题的多级维相关似hood信息MCMC》（2019），arXiv预印本 [47] Dinh，L。；Krueger，D。；Bengio，Y.，Nice:非线性独立分量估计（2014），arXiv预印本 [48] Tang，K。；万，X。；廖庆，通过可逆块三角映射进行深部密度估计，Theor。申请。机械。莱特。，10, 3, 143-148 (2020) [49] 徐，Z。；Liao，Q.，基于高斯过程的贝叶斯优化设计预期信息增益计算，熵，22，2（2020） [50] 刘，Y。；Sun，W。；Durlowsky，L.J.，《历史匹配复杂模型的基于深度学习的地质参数化》，数学。地质科学。，51, 6, 725-766 (2019) ·Zbl 1421.86004号 [51] 唐，M。；刘，Y。；Durlowsky，L.J.，动态地下水流问题中基于深度学习的数据同化替代模型，J.Compute。物理。，413，第109456条，第（2020）页·Zbl 1436.76058号 [52] 多尔塔，G。；Vicente，S。；阿加皮托，L。；坎贝尔，N.D.F。；Simpson，I.，结构化不确定性预测网络，（2018年IEEE/CFF计算机视觉和模式识别会议（2018）），5477-5485 [53] 多尔塔，G。；Vicente，S。；阿加皮托，L。；坎贝尔，N.D.F。；Simpson，I.，《结构化残差下的VAE培训》（2018年） [54] Schöberl，M。；北卡罗来纳州扎巴拉斯。；Koutsourelakis，P.-S.，《深度贝叶斯模型预测集体变量发现》，J.Chem。物理。，第150、2条，第024109页（2019年） [55] 卢·D。；张，G。；韦伯斯特，C。；Barbier，C.，《用于估计随机油藏模拟中概率分布函数的改进多级蒙特卡罗方法》，《水资源》。决议，52，12，9642-9660（2016） [56] 文，X。；杜洛夫斯基，L。；Edwards，M.，《使用基于流量的网格在二维中升级通道系统》，Transp。多孔介质，51，3，343-366（2003） [57] 温，X.-H。；Gómez-Hernández，J.J.，《非均质介质中的水力传导性增大：概述》，J.Hydrol。，183、1、ix-xxxii（1996） [58] 希金斯，I。；Matthey，L.公司。；Pal，A。；伯吉斯，C。；格洛洛特，X。；博特维尼克，M。；穆罕默德，S。；Lerchner，A.，beta-vae：用约束变分框架学习基本的视觉概念（第五届学习表征国际会议，2017年国际学习报告学会）。2017年4月24日至26日在法国土伦举行的第五届国际学习代表大会，OpenReview.net（2017）） [59] 陈，X。；段，Y。；Houthooft，R。；舒尔曼，J。；Sutskever，I。；Abbeel，P.，Infogan:通过信息最大化生成对抗网进行可解释表征学习，（Lee，D.；Sugiyama，M.；Luxburg，U.；Guyon，I.；Garnett，R.，《神经信息处理系统的进展》，第29卷（2016），Curran Associates，Inc.），2172-2180 [60] 希金斯，I。；Sonnerat，N。；Matthey，L。；Pal，A。；伯吉斯，C.P。；博斯尼亚克，M。；沙纳汉，M。；博特维尼克，M。；哈萨比斯，D。；Lerchner，A.，SCAN：学习分层构图视觉概念，（第六届学习表征国际会议，ICLR 2018。2018年4月30日至5月3日在加拿大不列颠哥伦比亚省温哥华举行的第六届国际学习代表大会，会议记录，OpenReview.net（2018）） [61] 科特，S.L。；Roberts，G.O。；Stuart，A.M。；White，D.，MCMC函数方法：修改旧算法使其更快，Stat.Sci。，28, 3, 424-446 (2013) ·Zbl 1331.62132号 [62] 海尔，M。；Stuart，A.M。；Vollmer，S.J.，《无限维Metropolis-Hastings算法的谱间隙》，Ann.Appl。概率。，24, 6, 2455-2490 (2014) ·兹比尔1307.65002 [63] 多德维尔，T.J。；凯特尔森，C。；Scheichl，R。；Teckentrup，A.L.，多级马尔可夫链蒙特卡罗，SIAM Rev.，61，3，509-545（2019）·Zbl 1432.65008号 [64] Alns，M。；布莱希塔，J。；Hake，J。；Johansson，A。；Kehlet，B。；Logg，A。；Richardson，C。；Ring，J。；罗杰斯，M.E。；Wells，G.N.，FEniCS项目1.5版，Arch。数字。软质。，3, 100 (2015) [65] Kingma，D.P。；Ba，J.，Adam：随机优化方法（2014），arXiv预印本 [66] 希金斯，I。；阿莫斯，D。；Pfau，D。；拉卡尼尔，S。；Matthey，L。；Rezende，D。；Lerchner，A.，《走向解纠缠表示的定义》（2018），arXiv预印本 [67] Y.本吉奥。；科尔维尔，A。；Vincent，P.，《表征学习：回顾与新视角》，IEEE Trans。模式分析。机器。智力。，35, 8, 1798-1828 (2013) [68] 萨特，R。；米拉迪诺维奇，D。；Schölkopf，B。；Bauer，S.，《稳健地解开因果机制：验证介入稳健性的深度表征》（Chaudhuri，K。；Salakhutdinov，R.，《第36届机器学习国际会议论文集》。第36届机器学习国际会议论文集，《机器学习研究论文集》，PMLR，第97卷（2019年），6056-6065 [69] 拉洛伊，E。；Vrugt，J.A.，《使用多重DREAM（ZS）和高性能计算对水文模型进行高维后验探索》，《水资源》。决议，48，1（2012） [70] Emerick，A.A.，《利用基于集合的数据同化对历史匹配河道化相模型的主成分分析参数化进行研究》，数学。地质科学。，49, 1, 85-120 (2017) ·Zbl 1387.86044号 [71] Vo、H.X。；Durlowsky，L.J.，使用新的基于PCA的参数化的复杂地质模型的数据同化和不确定性评估，计算。地质科学。，19, 4, 747-767 (2015) ·Zbl 1392.86057号 [72] Sarma，P。；杜洛夫斯基，L.J。；阿齐兹，K。；Chen，W.H.，使用核PCA进行自动历史匹配的新方法，（SPE油藏模拟研讨会（2007），石油工程师学会） [73] 拉洛伊，E。；Linde，N。；鲁菲诺，C。；Hérault，R。；Gasso，G。；Jacques，D.，利用生成对抗网络对地球物理数据进行基于梯度的确定性反演：可行吗？，计算。地质科学。，133，第104333条pp.（2019） [74] Krizhevsky，A。；Sutskever，I。；Hinton，G.E.，深度卷积神经网络的Imagenet分类，（Pereira，F.；Burges，C.J.C.；Bottou，L.；Weinberger，K.Q.，《神经信息处理系统进展》，第25卷（2012年），Curran Associates，Inc.），1097-1105 [75] 医学博士泽勒。；Fergus，R.，《可视化和理解卷积网络》（Fleet，D.；Pajdla，T.；Schiele，B.；Tuytelaars，T.，《计算机视觉-ECCV 2014》（2014），Springer International Publishing：Springer国际出版公司Cham），818-833 [76] 黄，G。；刘，Z。；Van Der Maaten，L。；Weinberger，K.Q.，密集连接卷积网络，（2017 IEEE计算机视觉和模式识别会议（CVPR）（2017）），2261-2269 [77] Zhang，Y。；田，Y。；孔，Y。；钟，B。；Fu，Y.，图像超分辨率剩余稠密网络，（2018 IEEE/CVF计算机视觉与模式识别会议（2018）），2472-2481 [78] He，K。；张，X。；任，S。；Sun，J.，图像识别的深度剩余学习，（2016年IEEE计算机视觉和模式识别会议（CVPR）（2016）），770-778 [79] Paszke，A。；毛重，S。；马萨，F。；Lerer，A。；布拉德伯里，J。；Chanan，G。；基林，T。；Lin，Z。；Gimelshein，N。；安提瓜，L。；Desmaison，A。；Kopf，A。；杨，E。；德维托，Z。；Raison，M。；Tejani，A。；Chilamkurthy，S。；斯坦纳，B。；方，L。；Bai，J。；Chintala，S.，Pythorter:一个命令式、高性能的深度学习库，（Wallach，H.；Larochelle，H.，Beygelzimer，A.；d'Alché-Buc，F.；Fox，E.；Garnett，R.，《神经信息处理系统进展》，第32卷（2019年），Curran Associates，Inc.），8026-8037 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。