×

通过Langevin动力学的统计有限元。 (英语) Zbl 1506.65006号

摘要:最近的统计有限元方法(statFEM)提供了一个连贯的统计框架,用观测数据合成有限元模型。通过在控制方程中嵌入不确定性,对有限元解进行更新,以给出一个后验分布,该分布量化了与模型相关的所有不确定性来源。然而,要整合所有不确定性来源,必须整合与模型参数相关的不确定性正向问题不确定性量化。本文利用朗之万动力学来解决statFEM正问题,研究未调整朗之万算法(ULA)的效用,即无都市马尔可夫链蒙特卡罗采样器,以建立这一难以处理的测度的基于样本的特征。由于statFEM问题的结构,这些方法能够解决正问题,而无需显式的完整PDE解,只需要稀疏的矩阵向量积。ULA也是基于梯度的,因此提供了一种可扩展到高自由度的方法。利用基于Langevin的采样器背后的理论,我们为采样器性能提供了理论保证,证明了Kullback-Leibler散度和Wasserstein-2的前后收敛性,并进一步研究了预处理的影响。还提供了数值实验,以证明采样器的有效性,还包括Python包。

MSC公司:

65二氧化碳 蒙特卡罗方法
60甲15 随机偏微分方程(随机分析方面)
65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法
35兰特 PDE的反问题
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿基尔迪兹。D.和Sabanis,S.,非凸优化局部条件下随机梯度哈密顿蒙特卡罗的非渐近分析,预印本,arXiv:2002.054652020。
[2] AlRachid,H.、Mones,L.和Ortner,C.,关于预处理分子动力学的一些评论,SMAI J.计算。数学。,4(2018),第57-80页·Zbl 1416.82020年
[3] Berger,J.O.和Smith,L.A.,《不确定性量化的统计形式》,年。Rev.Stat.应用。,6(2019),第433-460页,doi:10.1146/annurev-statistics-030718-105232。
[4] Beskos,A.、Girolma,M.、Lan,S.、Farrell,P.E.和Stuart,A.M.,《无限维反问题的几何MCMC》,J.Compute。物理。,335(2017),第327-351页,doi:10.1016/j.jcp.2016.12.041·Zbl 1375.35627号
[5] Bonito,A.和Pasciak,J.,椭圆算子分数幂的数值逼近,数学。计算。,84(2015),第2083-2110页,doi:10.1090/S0025-5718-2015-02937-8·Zbl 1331.65159号
[6] Boyd,J.P.,Chebyshev and Fourier Spectral Methods,第二版,多佛出版社,纽约州米诺拉,2001年·Zbl 0994.65128号
[7] Bradbury,J.、Frostig,R.、Hawkins,P.、Johnson,M.J.、Leary,C.、Maclaurin,D.、Necula,G.、Paszke,A.、VanderPlas,J.,Wanderman-Millne,S.和Zhang,Q.,JAX:Python+NumPy程序的可组合转换,2018,http://github.com/google/jax。
[8] Brenner,S.C.和Scott,L.R.,《有限元方法的数学理论》,Springer,纽约,2008年,doi:10.1007/978-0-387-75934-0·Zbl 1135.65042号
[9] Chen,P.,黑森矩阵与高斯-纽顿-黑森矩阵,SIAM J.Numer。分析。,49(2011),第1417-1435页·Zbl 1228.65087号
[10] Chen,Y.、Davis,T.A.、Hager,W.W.和Rajamanickam,S.,算法887:CHOLMOD,超节点稀疏Cholesky因子分解和更新/停机,ACM Trans。数学。《软件》,35(2008),第22页,doi:10.1145/1391989.1391995。
[11] Cliffe,K.A.、Giles,M.B.、Scheichl,R.和Teckentrup,A.L.,多层蒙特卡罗方法及其在随机系数椭圆偏微分方程中的应用,计算。视觉。科学。,14(2011),第3-15页,doi:10.1007/s00791-011-0160-x·Zbl 1241.65012号
[12] Cockburn,B.、Karniadakis,G.E.和Shu,C.-W.,《间断Galerkin方法:理论、计算和应用》,施普林格出版社,柏林,2012年。
[13] Cotter,S.L.、Roberts,G.O.、Stuart,A.M.和White,D.,MCMC函数方法:修改旧算法使其更快,Statist。科学。,28(2013),第424-446页,doi:10.1214/13-STS421·Zbl 1331.62132号
[14] Dallayan,A.S.和Karagulyan,A.,《朗之万蒙特卡罗不准确梯度的用户友好保证,随机过程》。申请。,129(2019),第5278-5311页·兹比尔1428.62316
[15] Dietrich,C.R.和Newsam,G.N.,通过协方差矩阵的循环嵌入快速准确地模拟平稳高斯过程,SIAM J.Sci。计算。,18(1997),第1088-1107页,doi:10.1137/S1064827592240555·Zbl 0890.65149号
[16] Dodwell,T.J.、Ketelsen,C.、Scheichl,R.和Teckentrup,A.L.,《多层马尔可夫链蒙特卡罗算法及其在地下水流不确定性量化中的应用》,SIAM J.《不确定性》。数量。,3(2015),第1075-1108页·Zbl 1330.65007号
[17] Duffin,C.、Cripps,E.、Stemler,T.和Girolma,M.,错误指定模型的统计有限元,Proc。国家。阿卡德。科学。美国,118(2021),e2015006118·Zbl 1485.65104号
[18] Duffin,C.、Cripps,E.、Stemler,T.和Girolma,M.,可扩展模型数据合成的低库统计有限元,J.Compute。物理。,463(2022),111261,doi:10.1016/j.jcp.2022.111261·Zbl 07536762号
[19] Durmus,A.和Moulines,E.,未调整Langevin算法的非渐近收敛性分析,Ann.Appl。概率。,27(2017),第1551-1587页·Zbl 1377.65007号
[20] Durmus,A.和Moulines,E.,通过未调整的Langevin算法进行的高维贝叶斯推断,Bernoulli,25(2019),第2854-2882页·兹比尔1428.62111
[21] Febrianto,E.、Butler,L.、Girolma,M.和Cirak,F.,使用统计有限元方法对自感知结构进行数字孪生,《数据中心工程》,3(2022),e31。
[22] Giles,M.B.,多层蒙特卡罗方法,数值学报。,24(2015),第259-328页,doi:10.1017/S096249291500001X·Zbl 1316.65010号
[23] Girolma,M.和Calderhead,B.,Riemann流形Langevin和Hamilton Monte Carlo方法,J.R.Stat.Soc.Ser。B统计方法。,73(2011),第123-214页,doi:10.1111/j.1467-9868.2010.00765.x·Zbl 1411.62071号
[24] Girolma,M.、Febrianto,E.、Yin,G.和Cirak,F.,观测数据和模型预测相干合成的统计有限元方法(statFEM),计算。方法应用。机械。工程,375(2021),113533·Zbl 1506.65210号
[25] Graham,I.G.,Kuo,F.Y.,Nuyens,D.,Scheichl,R.和Sloan,I.H.,《随机系数椭圆偏微分方程的拟蒙特卡罗方法及其应用》,J.Compute。物理。,230(2011),第3668-3694页,doi:10.1016/j.jcp.2011.01.023·Zbl 1218.65009号
[26] Holden,H.,Øksendal,B.,Uböe,J.和Zhang,T.,《随机偏微分方程:建模》,白噪声泛函方法,第二版,施普林格出版社,伦敦,2009年·Zbl 0860.60045号
[27] Holley,R.和Stroock,D.,对数Sobolev不等式和随机Ising模型,J.Stat.Phys。,46(1987),第1159-1194页·Zbl 0682.60109号
[28] Johnson,C.,《用有限元法求解偏微分方程》,Courier Corporation,North Chelmsford,MA,2012年。
[29] Kennedy,M.C.和O'Hagan,A.,《计算机模型的贝叶斯校准》,J.R.Stat.Soc.Ser。B统计方法。,63(2001),第425-464页,doi:10.1111/1467-9868.00294·Zbl 1007.62021号
[30] Law,K.J.H.,《加快功能空间MCMC的提案》,J.Compute。申请。数学。,262(2014),第127-138页,doi:10.1016/j.cam.2013.07.026·Zbl 1301.65004号
[31] Lindgren,F.、Rue,H.和Lindström,J.,高斯场和高斯马尔可夫随机场之间的明确联系:随机偏微分方程方法,J.R.Stat.Soc.Ser。B统计方法。,73(2011),第423-498页,doi:10.1111/j.1467-9868.2011.00777.x·兹比尔1274.62360
[32] Lischke,A.、Pang,G.、Gulian,M.、Song,F.、Glusa,C.、Zheng,X.、Mao,Z.、Cai,W.、Meerschaert,M.M.、Ainsworth,M.,Karniadakis,G.E.,分数拉普拉斯语是什么?与新结果的对比审查,J.Compute。物理。,404(2020),109009,doi:10.1016/j.jcp.2019.109009·Zbl 1453.35179号
[33] Logg,A.、Mardal,K.-A和Wells,G.,《有限元法自动求解微分方程:FEMICS书》,施普林格,柏林,2012年·兹比尔1247.65105
[34] Lovas,A.、Lytras,I.、Rásonyi,M.和Sabanis,S.,《用Tusla驯服神经网络:通过自适应随机梯度Langevin算法的非凸学习》,预印本,arXiv:2006.14514,2020年·Zbl 1518.65007号
[35] Maros,G.和Izsák,F.,最优收敛阶分数阶扩散问题的有限元方法,计算。数学。申请。,80(2020),第2105-2114页,doi:10.1016/j.camwa.2020.09.006·Zbl 1452.65351号
[36] Martin,J.、Wilcox,L.C.、Burstede,C.和Ghattas,O.,《大规模统计反演问题的随机牛顿MCMC方法及其在地震反演中的应用》,SIAM J.Sci。计算。,34(2012),第A1460-A1487页,doi:10.1137/10845598·Zbl 1250.65011号
[37] Murphy,K.P.,《机器学习:概率观点》,麻省理工学院出版社,马萨诸塞州剑桥,2012年·Zbl 1295.68003号
[38] Olson,L.N.和Schroder,J.B.,PyAMG:Python v4.0中的代数多重网格解算器,2018年,https://github.com/pyamg/pyamg。
[39] Robert,C.P.和Casella,G.,《蒙特卡洛统计方法》,斯普林格,纽约,2004年·兹比尔1096.62003
[40] Roberts,G.O.和Rosenthal,J.S.,各种Metropolis-Hastings算法的最佳缩放,统计。科学。,16(2001),第351-367页,doi:10.1214/ss/1015346320·Zbl 1127.65305号
[41] Rue,H.和Held,L.,《高斯马尔可夫随机场:理论与应用》,查普曼和霍尔/CRC,佛罗里达州博卡拉顿,2005年·邮编1093.60003
[42] Saatci,Y.,《结构化高斯过程模型的可缩放推理》,英国剑桥大学博士论文,2011年。
[43] Steiner,C.,对数Sobolev不等式的Feynman-Kac方法,电子。J.概率。,26(2021年),第1-19页·Zbl 1476.39030号
[44] Stuart,A.M.,《逆向问题:贝叶斯观点》,《数值学报》。,19(2010),第451-559页,doi:10.1017/S0962492910000061·Zbl 1242.65142号
[45] Vempala,S.和Wibisono,A.,未经调整的Langevin算法的快速收敛:等周测量足够,高级神经信息处理。系统。,32(2019年),第8094-8106页。
[46] 维亚尔,J.-P.,集和函数的强凸性和弱凸性,数学。操作。Res.,8(1983),第231-259页·Zbl 0526.90077号
[47] 维拉尼,C.,《最佳交通:新旧》,施普林格,柏林,2009年·Zbl 1156.53003号
[48] Wibisono,A.,《测量空间中的抽样优化:作为复合优化问题的朗之万动力学》,Proc。机器。学习。第75号决议(2018年),第2093-3027页。
[49] Zhang,Y.,Akyildiz。D.、Damoulas,T.和Sabanis,S.,非凸优化局部条件下随机梯度Langevin动力学的非渐近估计,应用。数学。最佳。,出现·Zbl 1512.90185号
[50] Zhang,Z.和Karniadakis,G.E.,《白噪声随机偏微分方程的数值方法》,Springer,纽约,2017年·Zbl 1380.65021号
[51] Zienkiewicz,O.C.,Taylor,R.L.和Zhu,J.Z.,有限元方法:其基础和基本原理,巴特沃斯-海涅曼,牛津,2013,doi:10.1016/B978-1-85617-633-0.00019-8·Zbl 1307.74005号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。