×
穆克，尼古拉·T·。;本杰明·桑德斯;Sander M.Bohté。;科尔尼利斯·奥斯特利。

用于解决物理应用中贝叶斯逆问题的马尔可夫链生成对抗性神经网络。 （英语） Zbl 07741364号

计算。数学。申请。 147, 278-299 (2023)。
摘要：在贝叶斯框架内解决物理应用逆问题的背景下，我们提出了一种新的方法，即马尔可夫链生成对抗神经网络（MCGAN），以减少与解决贝叶斯推理问题相关的计算成本。GAN提供了一个非常合适的框架来帮助解决贝叶斯推理问题，因为它们是为了从复杂的高维分布中生成样本而设计的。通过训练GAN从低维潜在空间采样，然后将其嵌入到马尔可夫链蒙特卡罗方法中，我们可以通过替换高维先验图和昂贵的前向图，从后向高效采样。这是以一个潜在昂贵的离线阶段为代价的，在该阶段，必须模拟或收集训练数据，并且必须训练GAN。我们证明了所提出的方法在Wasserstein-1距离上收敛于真后验，并且从潜在空间的采样在弱意义上等同于在高维空间的采样。该方法在两个同时进行状态和参数估计的测试案例中进行了展示，并与两种传统方法（多项式混沌展开和集合卡尔曼滤波）和基于深度学习的方法（深度贝叶斯反演）进行了比较。在多个测试案例中，包括检测管道泄漏的重要工程设置中，该方法比其他方法更准确，同时计算速度更快。

MSC公司：

2015年1月62日 贝叶斯推断
65二氧化碳 蒙特卡罗方法
65立方厘米 马尔可夫链的数值分析或方法
62-08 统计学相关问题的计算方法
60J22型 马尔可夫链中的计算方法

关键词：

生成性对抗网络;马尔科夫蒙特卡洛;反问题;贝叶斯推断

软件：

Wasserstein甘;超间谍;坚果;红色工具箱;FEniCS公司;uq-vae病毒
PDF格式BibTeX公司 XML格式引用
\textit{N.T.Mücke}等人，计算。数学。申请。147278-299（2023年；兹比尔07741364）
全文： 内政部 arXiv公司
OA许可证

参考文献：

[1] Asch，M.（医学博士）。；博奎特，M。；Nodet，M.，《数据同化：方法、算法和应用》（2016），SIAM·Zbl 1361.93001号
[2] Harlim，J.，《数据驱动计算方法：参数和算子估计》（2018），剑桥大学出版社·Zbl 1435.65001号
[3] Stuart，A.M.，《反问题：贝叶斯视角》，数字学报。，19, 451-559 (2010) ·Zbl 1242.65142号
[4] 凯皮奥，J。；Somersalo，E.，《统计与计算反问题》，第160卷（2006年），Springer Science&Business Media
[5] Kapteyn，M.G。；比勒陀利亚，J.V。；Willcox，K.E.，《支持大规模预测数字双胞胎的概率图形模型基础》，Nat.Compute。科学。，1, 5, 337-347 (2021)
[6] 布鲁克斯，S。；Gelman，A。；琼斯·G。；孟晓乐，《马尔可夫链蒙特卡罗手册》（2011），中国轨道交通出版社·兹比尔1218.65001
[7] Gamerman，D。；Lopes，H.F.，《马尔可夫链蒙特卡罗：贝叶斯推断的随机模拟》（2006），CRC出版社·Zbl 1137.62011年
[8] Quarteroni，A。；曼佐尼，A。；Negri，F.，《偏微分方程的约化基方法：简介》，第92卷（2015年），Springer
[9] Xiu，D.，《随机计算的数值方法》（2010），普林斯顿大学出版社·Zbl 1210.65002号
[10] Wang，H。；Li，J.，用昂贵的似然函数进行贝叶斯推断的自适应高斯过程近似，神经计算。，30, 11, 3072-3094 (2018) ·Zbl 1471.62290号
[11] Brunton，S.L。；Noack，B.R。；Koumoutsakos，P.，《流体力学的机器学习》，年。流体力学版次。，52, 477-508 (2020) ·Zbl 1439.76138号
[12] 贝克，北。；亚历山大，F。；Bremer，T。；哈格伯格，A。；Kevrekidis，Y。；Najm，H。；Parashar，M。；帕特拉，A。；塞提安，J。；Wild，S.，《科学机器学习的基本研究需求研讨会报告：人工智能的核心技术》（2019年），USDOE科学办公室（SC）：USDOE华盛顿特区科学办公室（RC），技术代表。
[13] Gribonval，R。；Kutyniok，G。；尼尔森，M。；Voigtlaender，F.，深度神经网络的近似空间，Constr。约1-109（2021）
[14] 新墨西哥州穆克。；博特，S.M。；Oosterlee，C.W.，使用空间和记忆感知的深度学习对参数化的时间依赖型偏微分方程进行降阶建模，J.Comput。科学。，第101408条pp.（2021）
[15] 赫塞文，J.S。；Ubbiali，S.，《使用神经网络对非线性问题进行非侵入式降阶建模》，J.Compute。物理。，363, 55-78 (2018) ·Zbl 1398.65330号
[16] 李，Z。；科瓦奇奇，N。；Azizzadenesheli，K。；刘，B。；巴塔查亚，K。；Stuart，A。；Anandkumar，A.，参数偏微分方程的傅立叶神经算子（2020），arXiv预印本
[17] Kadeethum，T。；奥马利，D。；Fuhg，J.N。；Choi，Y。；Lee，J。；Viswanathan，H.S。；Bouklas，N.，使用条件生成对抗网络的pde数据驱动解决方案和参数估计框架（2021年），arXiv预印本
[18] 鲁索托，L。；Haber，E.，《深度生成建模导论》，GAMM-Mitt。，文章e202100008 pp.（2021）
[19] 古德费罗，I.J。；Pouget-Abadie，J。；米尔扎，M。；徐，B。；Warde-Farley，D。；Ozair，S。；科尔维尔，A。；Bengio，Y.，《生成性对抗网络》（2014），arXiv预印本
[20] Kingma，D.P。；Welling，M.，自动编码变分贝叶斯（2013），arXiv预印本
[21] Dhariwal，P。；Nichol，A.，扩散模型在图像合成方面击败了gans（2021年），arXiv预印本
[22] Rezende，D。；Mohamed，S.，《归一化流的变分推理》（机器学习国际会议，PMLR（2015）），1530-1538
[23] Goh，H。；谢里夫丁，S。；Wittmer，J。；Bui Thanh，T.，通过变分自动编码器解决贝叶斯反问题（2019），arXiv预印本
[24] 黄，J。；Lindgren，E。；Dimakis，A.，《为反问题构造规范化流》（机器学习国际会议，PMLR（2021）），11158-11169
[25] 帕特尔·D·V。；雷·D。；拉马斯瓦米，H。；Oberai，A.，《具有对抗性先验的物理驱动问题中的贝叶斯推理》（NeurIPS 2020深度学习和逆向问题研讨会（2020））
[26] 夏，Y。；Zabaras，N.，用于解决高维逆问题的贝叶斯多尺度深度生成模型，J.Comput。物理。，455，第111008条pp.（2022）·Zbl 07518090号
[27] 阿德勒，J。；O.Øktem，《深度贝叶斯反演》（2018），arXiv预印本
[28] 肖，Z。；Kreis，K。；Vahdat，A.，《用去噪扩散机构解决生成性学习三元悖论》（2021年），arXiv预印本
[29] Sohl-Dickstein，J。；Weiss，E。；Maheswaranathan，N。；Ganguli，S.，《利用非平衡热力学进行深度无监督学习》，（机器学习国际会议，PMLR（2015）），2256-2265
[30] 阿尔乔夫斯基，M。；钦塔拉，S。；Bottou，L.，Wasserstein生成性对抗网络，（机器学习国际会议，PMLR（2017）），214-223
[31] 北卡罗来纳州大都会。；罗森布鲁斯，A.W。；Rosenbluth，M.N。；出纳员，A.H。；Teller，E.，快速计算机器的状态方程计算，J.Chem。物理。，21, 6, 1087-1092 (1953) ·Zbl 1431.65006号
[32] 黑斯廷斯，W.K.，使用马尔可夫链的蒙特卡罗抽样方法及其应用（1970）·Zbl 0219.65008号
[33] 医学博士霍夫曼。；Gelman，A.，《无回转取样器：在哈密顿蒙特卡罗，J.Mach中自适应设置路径长度》。学习。第15号、第1号、第1593-1623号决议（2014年）·Zbl 1319.60150号
[34] Stuart，A。；Teckentrup，A.，贝叶斯后验分布高斯过程近似的后验一致性，数学。计算。，87, 310, 721-753 (2018) ·Zbl 1429.60040号
[35] 贾巴尔，A。；李，X。；Omar，B.，《生成性对抗网络调查：变体、应用和训练》（2020年），arXiv预印本
[36] Brémaud，P.，《概率论与随机过程》（2020），《Springer Nature》·Zbl 1445.60001号
[37] 古拉贾尼，I。；艾哈迈德·F。；Arjovsky，M。；杜穆林，V。；Courville，A.，Wasserstein gans的改进训练（2017），arXiv预印本
[38] 刘，S。；O.布斯克。；Chaudhuri，K.，生成性对抗学习的近似和收敛特性（2017），arXiv预印本
[39] 桑德斯，B。；Dighe，V.V。；Boorsma，K。；Schepers，G.，《使用替代建模对气动风力涡轮机模型进行高效贝叶斯校准》，《风能科学》。讨论。，1-34（2021）
[40] 卢·F。；Morzfeld，M。；涂，X。；Chorin，A.J.，逆问题贝叶斯解中多项式混沌展开的局限性，J.Compute。物理。，282, 138-147 (2015) ·Zbl 1351.62075号
[41] Bogachev，V.I.，《测量理论》，第1卷（2007年），Springer Science&Business Media·兹比尔1120.2001
[42] 关于贝叶斯反问题的局部Lipschitz稳定性，逆问题。，第36、5条，第055015页（2020年）·Zbl 1469.62216号
[43] Panaretos，V.M。；Zemel，Y.，《瓦瑟斯坦空间统计邀请函》（2020年），《施普林格自然》·Zbl 1433.62010年
[44] 韩，X。；高，H。；Pffaf，T。；王建新。；Liu，L.-P.，用时间注意预测网格缩减空间中的物理（2022），arXiv预印本
[45] 科尔顿，D.L。；克雷斯，R。；Kress，R.，《逆声和电磁散射理论》，第93卷（1998年），Springer·Zbl 0893.35138号
[46] 多梅索娃，南卡罗来纳州。；Beres，M.，《使用贝叶斯方法求解反问题及其在达西流材料参数估计中的应用》，高级电子杂志。电子。工程，15，2（2017）
[47] Ruchi，S。；Dubinkina，S。；Iglesias，M.，椭圆贝叶斯反问题的基于变换的粒子滤波，反问题。，第35、11条，第115005页（2019年）·Zbl 1429.65011号
[48] 库马尔，P。；罗，P。；加斯帕，F.J。；Oosterlee，C.W.，Darcy-Stokes系统中传输的多重网格多级蒙特卡罗方法，J.Compute。物理。，371, 382-408 (2018) ·Zbl 1415.76603号
[49] Cockburn，B。；古兹曼，J。；Wang，H.，二阶椭圆问题的超收敛间断Galerkin方法，数学。计算。，78, 265, 1-24 (2009) ·兹比尔1198.65194
[50] Logg，A。；马尔达尔，K.-A。；Wells，G.，《用有限元方法自动求解微分方程：FEniCS手册》，第84卷（2012），Springer Science&Business Media·Zbl 1247.65105号
[51] 丁，Z。；李清，集合卡尔曼反演：平均场极限和收敛性分析，统计计算。，31, 1, 1-21 (2021) ·Zbl 1462.62023号
[52] 昆都，P.K。；Cohen，I.M.，《流体力学》（2002）
[53] 豪格，E。；O.M.阿莫。；Godhavn，J.-M.，基于模型的管道泄漏检测，IFAC Proc。第40、12、318-323卷（2007年）
[54] Schetz，J.A。；Fuhs，A.E.，《流体动力学和流体机械手册》，第1卷（1996年），威利：威利纽约
[55] 赫塞文，J.S。；Warburton，T.，Nodal间断Galerkin方法：算法、分析和应用（2007），Springer科学与商业媒体
[56] LeVeque，R.J.，《常微分方程和偏微分方程的有限差分方法：稳态和时间相关问题》（2007），SIAM·Zbl 1127.65080号
[57] Hörsholt，A。；Christiansen，L.H。；Meyer，K。；Huusom，J.K。；Jörgensen，J.B.，理想填充床色谱的空间离散化和卡尔曼滤波，（2019年第18届欧洲控制会议（ECC）（2019），IEEE），2356-2361
[58] 范伯格，J。；Langtangen，H.P.，《Chaospy:设计不确定性量化方法的开源工具》，J.Compute。科学。，11, 46-57 (2015)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。