×

具有噪声和昂贵可能性的模型的集成推理方法。 (英语) Zbl 1493.62124号

摘要:数据可用性的增加为校准生物医学、物理和社会科学中复杂现象模型中出现的未知参数提供了机会。然而,模型的复杂性往往导致参数到数据的映射,这些映射的评估成本很高,并且只能通过噪声近似获得。本文讨论了使用相互作用的粒子系统来解决由此产生的参数反问题。特别令人感兴趣的是,可用的正向模型评估在参数空间中受到快速波动的影响,叠加在平滑变化的感兴趣的大规模参数结构上。本文给出了气候科学的一个令人鼓舞的例子,从经验上看,集合卡尔曼方法(不使用参数-数据图的导数)表现良好。然后使用多尺度分析来分析交互粒子系统算法在快速波动(我们称之为噪声)污染参数到数据映射的大规模参数相关性时的行为。在此基础上,对集成卡尔曼方法和基于Langevin的方法(后者使用参数-数据映射的导数)进行了比较。集合卡尔曼方法在参数-数据映射中的噪声存在下表现良好,而朗之万方法受到不利影响。另一方面,Langevin方法在无噪声正演模型的设置中具有正确的均衡分布,而集合Kalman方法仅提供不受控制的近似,线性情况除外。因此,引入了一类新的算法,即集合高斯过程采样器,它结合了集合卡尔曼方法和朗之万方法的优点,并显示出良好的性能。

MSC公司:

2015年1月62日 贝叶斯推断
65二氧化碳 蒙特卡罗方法
65N21型 含偏微分方程边值问题反问题的数值方法
60年22日 马尔可夫链中的计算方法
62-08 统计问题的计算方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] C.Andrieu和G.O.Roberts,有效蒙特卡罗计算的伪边缘方法,《统计年鉴》。,37(2009),第697-725页·Zbl 1185.60083号
[2] V.Arauíjo、I.Melbourne和P.Varandas,Lorenz吸引子的快速混合及其时间-(1)映射的统计极限定律,Comm.Math。物理。,340(2015),第901-938页·Zbl 1356.37002号
[3] R.Asselin,时间积分的频率滤波器,《每月天气评论》,100(1972),第487-490页。
[4] M.Baity-Jesi、L.Sagun、M.Geiger、S.Spigler、G.B.Arous、C.Cammarota、Y.LeCung、M.Wyart和G.Biroli,《比较动力学:深层神经网络与玻璃系统》,载《2018年国际机器学习会议论文集》,第314-323页·Zbl 1459.82317号
[5] A.Bensoussan、J.-L.Lions和G.Papanicolaou,《周期结构的渐近分析》,数学研究。申请。374,AMS,罗得岛州普罗维登斯,2011年·Zbl 1229.35001号
[6] N.Bou-Rabee和E.Vanden-Eijnden,用于SDE的大都市积分器的路径准确性和遍历性,Comm.Pure Appl。数学。,63(2010年),第655-696页·Zbl 1214.60031号
[7] O.Cappeí、A.Guillin、J.-M.Marin和C.P.Robert,《人口蒙特卡洛》,J.Comput。图表。统计人员。,13(2004年),第907-929页。
[8] J.Carrillo和U.Vaes,协变预条件Fokker-Planck方程的Wasserstein稳定性估计,非线性,34(2021),第2275-2295页·Zbl 1466.35343号
[9] R.Chandra、D.Azam、R.D.Muöller、T.Salles和S.Cripps,Bayeslands:Bayesian推理方法,用于Badlands计算中的参数不确定性量化。地质科学。,131(2019年),第89-101页。
[10] E.Cleary、A.Garbuno-Inigo、S.Lan、T.Schneider和A.M.Stuart,《校准、模拟、样本》,J.Compute。物理。,424 (2021). ·兹伯利07508438
[11] S.L.Cotter、G.O.Roberts、A.M.Stuart和D.White,《函数的Mcmc方法:修改旧算法使其更快》,Statist。《科学》,28(2013),第424-446页·Zbl 1331.62132号
[12] S.Duane、A.D.Kennedy、B.J.Pendleton和D.Roweth,《物理蒙特卡洛混合》。莱特。B、 195(1987),第216-222页。
[13] O.R.A.Dunbar、A.Garbuno-Inigo、T.Schneider和A.M.Stuart,理想GCM中对流参数的校准和不确定性量化,预印本,https://arxiv.org/abs/2012.13262, 2020.
[14] A.Duncan、N.Nuesken和L.Szpruch,《关于Stein变分梯度下降的几何》,预印本,https://arxiv.org/abs/1912.00894, 2019.
[15] C.Frederick和B.Engquist,多尺度反问题的数值方法,Commun。数学。科学。,15(2017年),第305-328页·Zbl 1383.65135号
[16] D.M.W.Frierson,《理想对流方案的动力学及其对纬向平均热带环流的影响》,J.Atmos。科学。,64(2007),第1959-1976页。
[17] D.M.W.Frierson、I.M.Held和P.Zurita Gotor,灰色辐射水行星潮湿GCM。第一部分:静态稳定性和涡流尺度,J.Atmos。科学。,63(2006),第2548-2566页。
[18] A.Garbuno-Inigo、F.Hoffmann、W.Li和A.M.Stuart,《相互作用的朗之万扩散:梯度结构和集合卡尔曼采样器》,SIAM J.Appl。动态。系统。,19(2020年),第412-441页·Zbl 1447.65119号
[19] A.Garbuno-Inigo、N.Nu¨sken和S.Reich,贝叶斯推理的仿射不变交互Langevin动力学,SIAM J.Appl。动态。系统。,19(2020年),第1633-1658页·Zbl 1472.65118号
[20] A.Gelman、J.B.Carlin、H.S.Stern、D.B.Dunson、A.Vehtari和D.B.Rubin,《贝叶斯数据分析》,CRC出版社,佛罗里达州博卡拉顿,2013年。
[21] A.Gelman、D.Simpson和M.Betancourt,先验通常只能在可能性的背景下理解,熵,19(2017),第555页。
[22] C.J.Geyer,《马尔可夫链蒙特卡罗最大似然》,北美界面基金会,1991年。
[23] M.Girolma和B.Calderhead,Riemann流形Langevin和Hamilton Monte Carlo方法,J.R.Stat.Soc.Ser。B统计方法。,73(2011),第123-214页·Zbl 1411.62071号
[24] D.Givon、R.Kupferman和A.Stuart,《提取宏观动力学:模型问题和算法》,《非线性》,17(2004),R55·Zbl 1073.82038号
[25] S.Gomes、G.Pavliotis和U.Vaes,《有色噪声相互作用扩散的平均场极限:相变和光谱数值方法》,SIAM多尺度模型。模拟。,18 (2020). ·Zbl 1453.35165号
[26] S.N.Gomes和G.A.Pavliotis,双尺度势中相互作用扩散的平均场极限,非线性科学杂志。,28(2018),第905-941页·Zbl 1394.35494号
[27] S.N.Gomes、A.M.Stuart和M.-T.Wolfram,微观数据中宏观行人动力学模型的参数估计,SIAM J.Appl。数学。,79(2019),第1475-1500页·Zbl 1420.35112号
[28] J.Goodman和J.Weare,具有仿射不变性的集合采样器,Commun。申请。数学。计算。科学。,5(2010年),第65-80页·Zbl 1189.65014号
[29] P.J.Green和A.Mira,可逆跳跃中的延迟拒绝Metropolis-Hastings,Biometrika,88(2001),第1035-1053页·Zbl 1099.60508号
[30] H.Haario、M.Laine、A.Mira和E.Saksman,Dram:高效自适应MCMC,统计计算。,16(2006年),第339-354页。
[31] D.Higdon、M.Kennedy、J.C.Cavendish、J.A.Cafeo和R.D.Ryne,结合现场数据和计算机模拟进行校准和预测,SIAM J.Sci。计算。,26(2004),第448-466页·2018年6月10日
[32] Y.Iba,人口蒙特卡罗算法,trans。日本。Soc.Artif公司。智力。,16 (2000).
[33] M.A.Iglesias、K.J.Law和A.M.Stuart,反问题的集合卡尔曼方法,反问题,29(2013),045001·Zbl 1311.65064号
[34] H.Jaörvinen、M.Laine、A.Solonen和H.Haario,《集合预测和参数估计系统:概念》,夸特。英国皇家气象学会,138(2012),第281-288页。
[35] A.Jasra、D.A.Stephens和C.C.Holmes,《关于基于人口的静态推理模拟》,统计计算。,17(2007),第263-279页。
[36] J.Kaipio和E.Somersalo,统计和计算反问题,应用。数学。科学。160,Springer,New York,2006年·Zbl 1068.65022号
[37] M.C.Kennedy和A.O'Hagan,计算机模型的贝叶斯校准,J.R.Stat.Soc.Ser。B统计方法。,63(2001年),第425-464页·兹比尔1007.62021
[38] M.C.Kennedy和A.O'Hagan,计算机模型的贝叶斯校准,J.R.Stat.Soc.Ser。B统计方法。,63(2001年),第425-464页·Zbl 1007.62021号
[39] N.B.Kovachki和A.M.Stuart,《集成卡尔曼反演:机器学习任务的无导数技术》,《反演问题》,35(2019),095005,https://doi.org/10.1088/1361-6420/ab1c3a。 ·Zbl 1430.68266号
[40] D.G.Krige,《威特沃特斯兰德一些基本矿山估价问题的统计方法》,J.南部非洲矿冶研究所,52(1951),第119-139页。
[41] S.Lan、T.Bui-Thanh、M.Christie和M.Girolama,贝叶斯反问题流形蒙特卡罗方法中高阶张量的仿真,J.Compute。物理。,308(2016),第81-101页·Zbl 1352.65010号
[42] B.Leimkuhler、C.Matthews和J.Weare,马尔可夫链蒙特卡罗模拟的集成预处理,统计计算。,28(2018),第277-290页·兹比尔1384.65004
[43] J.S.Liu,科学计算中的蒙特卡罗策略,Springer,纽约,2008年·Zbl 1132.65003号
[44] E.N.Lorenz,确定性非周期流,《大气科学杂志》。,20(1963年),第130-141页·Zbl 1417.37129号
[45] D.Maoutsa、S.Reich和M.Opper,《福克-普朗克方程通过梯度密度估计相互作用的粒子解》,《熵》,22(2020)。
[46] M.Morzfeld、J.Adams、S.Lunderman和R.Orozco,地球物理学中基于特征的数据同化,非线性过程地球物理学,25(2018),第355-374页。
[47] N.Nuésken和S.Reich,《关于相互作用的朗之万扩散:梯度结构和集合卡尔曼采样器的注记》,Garbuno-Inigo、Hoffmann、Li和Stuart著,预印本,https://arxiv.org/abs/1908.10890, 2019.
[48] J.Oakley和A.O'Hagan,计算机模型输出不确定性分布的贝叶斯推断,Biometrika,89(2002),第769-784页。
[49] J.Oakley和A.O'Hagan,《复杂模型的概率敏感性分析:贝叶斯方法》,J.R.Stat.Soc.Ser。B统计方法。,66(2004),第751-769页·Zbl 1046.62027号
[50] P.A.O’Gorman和T.Schneider,用理想化GCM模拟的大范围气候的水文循环,《气候杂志》,21(2008),第3815-3832页。
[51] D.S.Oliver、A.C.Reynolds和N.Liu,《油藏描述和历史拟合的反演理论》,剑桥大学出版社,英国剑桥,2008年。
[52] S.Olla,随机场扩散过程的均匀化,École Polytechnique,1994。
[53] S.Pathiraja和S.Reich,计算贝叶斯推断的离散梯度,J.Compute。动态。,6 (2019). ·Zbl 1437.62110号
[54] G.Pavliotis和A.Stuart,《多尺度方法:平均和均匀化》,纽约斯普林格出版社,2008年·Zbl 1160.35006号
[55] G.Pavliotis、A.Stuart和U.Vaes,使用多尺度动力学的无导数贝叶斯反演,预印本,https://arxiv.org/abs/1202.00540, 2021. ·Zbl 1493.62132号
[56] G.A.Pavliotis,《随机过程与应用》,施普林格,纽约,2015年。
[57] P.Plechaíč和G.Simpson,《粗糙能源景观采样》,预印本,https://arxiv.org/abs/1903.09998, 2019. ·Zbl 1466.65010号
[58] S.Reich,《数据同化:薛定谔视角》,《数值学报》。,28(2019年),第635-711页·Zbl 1437.62350号
[59] S.Reich和S.Weissmann,Fokker-Planck粒子系统用于贝叶斯推理:计算方法,SIAM/ASA J.不确定性。数量。,9(2021年),第446-482页·Zbl 1473.65274号
[60] A.J.Robert,《原始气象方程低阶谱形式的集成》,日本气象学会期刊。序列号。II、 44(1966),第237-245页。
[61] G.O.Roberts和R.L.Tweedie,Langevin分布及其离散近似的指数收敛性,Bernoulli,2(1996),第341-363页·兹比尔0870.60027
[62] J.Sacks、W.J.Welch、T.J.Mitchell和H.P.Wynn,《计算机实验的设计与分析》,统计学。科学。,4(1989年),第409-423页·Zbl 0955.62619号
[63] M.L.Stein,《空间数据插值:克里格的一些理论》,施普林格,纽约,2012年。
[64] H.Strathmann、D.Sejdinovic、S.Livingstone、Z.Szabo和A.Gretton,有效核指数族的无梯度哈密顿蒙特卡罗,《神经信息处理系统进展》,2015年,第955-963页。
[65] R.H.Swendsen和J.-S.Wang,《自旋玻璃的复制蒙特卡罗模拟》,物理学。修订稿。,57(1986),第2607-2609页。
[66] P.D.Williams,《罗伯特·阿塞林时间过滤器的拟议修改》,《月度天气评论》,137(2009),第2538-2546页。
[67] L.Yan和T.Zhou,基于深度神经网络的大规模贝叶斯反问题自适应代理建模,Commun。计算。物理。,28 (2020). ·Zbl 1482.65206号
[68] F.Zhang、Y.Q.Sun、L.Magnusson、R.Buizza、S.J.Lin、J.H.Chen和K.Emanuel,中纬度天气的可预测极限是什么?,大气科学杂志。,76(2019),第1077-1091页,https://doi.org/10.1175/JAS-D-18-0269.1。
[69] J.Zhang和A.A.Taflaidis,通过基于Kriging的自适应独立提案和延迟拒绝加速MCMC,计算。方法应用。机械。工程,355(2019),第1124-1147页·Zbl 1441.65002号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。