×

局部逼近MCMC的速率最优细化策略。 (英语) Zbl 1495.62009号

摘要:许多贝叶斯推理问题涉及目标分布,其密度函数的计算代价很高。将目标密度替换为基于少量精心选择的密度评估的局部近似值,可以显著降低马尔可夫链蒙特卡罗(MCMC)采样的计算开销。此外,局部逼近的不断细化可以保证渐近精确采样。我们设计了一种新的策略来平衡由近似值引起的偏差衰减率和MCMC方差衰减率。我们证明了所得到的局部近似MCMC(LA-MCMC)算法的误差大致以预期的\(1/\sqrt{T}\)速率衰减,并用数值方法证明了这一速率。我们还引入了一个算法参数,该参数确保在非常弱的尾部边界下收敛,从而显著加强了先前的收敛结果。最后,我们将LA-MCMC应用于地下水水文中的计算密集型贝叶斯反问题。

MSC公司:

62-08 统计问题的计算方法
2015年1月62日 贝叶斯推断
65二氧化碳 蒙特卡罗方法
65立方厘米 马尔可夫链的数值分析或方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Al-Murad,M。;Zubari,WK;Uddin,S.,《透射率的地质统计学表征:科威特含水层的实例》,Water,10,7,828(2018)·doi:10.3390/w10070828
[2] Angelikopoulos,P。;Papadimitriou,C。;Koumoutsakos,P.,X-TMCMC:贝叶斯逆建模的自适应克立格法,计算。方法应用。机械。工程,289,409-428(2015)·Zbl 1426.62089号 ·doi:10.1016/j.cma.2015.01.015
[3] Blanco,J.L.,Rai,P.K.:nanoflann:FLANN的一个C++头专用分支,一个具有kd-trees的最近邻(NN)库。https://github.com/jlblancoc/nanoflann (2014)
[4] 布拉特曼,G。;Sudret,B.,基于最小角度回归的自适应稀疏多项式混沌展开,J.Compute。物理。,230, 6, 2345-2367 (2011) ·Zbl 1210.65019号 ·doi:10.1016/j.jcp.2010.12.021
[5] 北卡罗来纳州布利兹纽克。;Ruppert博士。;Shoemaker,CA,计算昂贵后验密度的局部无导数近似,J.Compute。图表。Stat.,21,2,476-495(2012年)·doi:10.1080/10618600.2012.681255
[6] 克雷布提,OA;DA坎贝尔;Calderhead,B。;Girolma,MA,微分方程贝叶斯解不确定性量化,贝叶斯分析。,11, 4, 1239-1267 (2016) ·Zbl 1357.62108号
[7] JA克里斯滕;Fox,C.,《使用近似的马尔可夫链蒙特卡罗》,J.Compute。图表。《法律总汇》第14、4、795-810页(2005年)·doi:10.1198/106186005X76983
[8] 连接器,AR;Scheinberg,K。;Vicente,LN,《无导数优化导论》(2009),费城:暹罗,费城·Zbl 1163.49001号 ·数字对象标识代码:10.1137/1.9780898718768
[9] 康拉德,公关;马尔祖克,YM;皮莱,NS;Smith,A.,通过局部近似加速计算密集型模型的渐近精确MCMC,美国统计协会,111,516,1591-1607(2016)·doi:10.1080/01621459.2015.1096787
[10] 康拉德,公关;Davis,AD;马尔祖克,YM;皮莱,NS;Smith,A.,昂贵模型的并行局部近似MCMC,SIAM/ASA J.不确定性。量化。,6, 1, 339-373 (2018) ·Zbl 1398.65017号 ·doi:10.1137/16M1084080
[11] 康斯坦丁,PG;肯特,C。;Bui Thanh,T.,具有活动子空间的加速马尔可夫链蒙特卡罗,SIAM J.Sci。计算。,38、5、A2779-A2805(2016)·Zbl 1348.65010号 ·doi:10.1137/15M1042127
[12] 开口销,SL;Dashti,M。;Stuart,AM,偏微分方程的贝叶斯反问题逼近,SIAM J.Numer。分析。,48, 1, 322-345 (2010) ·Zbl 1210.35284号 ·数字对象标识代码:10.1137/090770734
[13] Cui,T.,Fox,C.,O'sullivan,M.:采用新的自适应延迟接受Metropolis Hastings算法对大型地热储层模型进行贝叶斯校准。水资源研究47(10)(2011)
[14] 崔,T。;马丁·J。;马尔祖克,YM;Solonen,A。;Spantini,A.,非线性反问题的似然信息降维,逆概率。,30, 11 (2014) ·Zbl 1310.62030 ·doi:10.1088/0266-5611/30/11/114015
[15] 崔,T。;Y.Marzouk。;Willcox,K.,《通过似然参数和状态约简实现大规模贝叶斯逆问题的可缩放后验近似》,J.Compute。物理。,315, 363-387 (2016) ·Zbl 1349.65189号 ·doi:10.1016/j.jcp.2016.03.055
[16] TJ Dodwell;凯特尔森,C。;Scheichl,R。;Teckentrup,AL,应用于地下水流不确定性量化的分层多级马尔可夫链蒙特卡罗算法,SIAM/ASA J.Uncertain。数量。,3, 1, 1075-1108 (2015) ·Zbl 1330.65007号 ·doi:10.1137/130915005
[17] Haario,H。;Saksman,E。;Tamminen,J.,《自适应大都会算法》,伯努利,7,2,223-242(2001)·Zbl 0989.65004号 ·doi:10.2307/3318737
[18] Janetti,EB;Riva,M。;斯特拉费斯,S。;Guadagnini,A.,通过地下水流量矩方程的地质统计反演对蒙塔尔托乌夫古戈研究场地(意大利)进行随机表征,J.Hydrol。,381, 1-2, 42-51 (2010) ·doi:10.1016/j.jhydrol.2009.11.023
[19] 贾达尼,A。;杜邦,JP;Revil,A。;马赛,N。;M.福尼尔。;Laignel,B.,潮汐影响下非均质冲积含水层导水率场的地质统计反演建模,J.Hydrol。,472, 287-300 (2012) ·doi:10.1016/j.jhydrol.2012.09.031
[20] Jasra,A.,Kamatani,K.,Law,K.J.,Zhou,Y.:一种多指标马尔可夫链蒙特卡罗方法。国际期刊不确定性。数量。8(1) (2018) ·Zbl 1455.65008号
[21] Johndrow,J.E.,Mattingly,J.C.,Mukherjee,S.,Dunson,D.:贝叶斯推理的最佳近似马尔可夫链。arXiv预印arXiv:1508.03387(2015)
[22] Johnson,S.G.:nlopt非线性优化包(2014)
[23] 凯皮奥,J。;Somersalo,E.,《统计与计算反问题》(2006),柏林:施普林格,柏林·Zbl 1068.65022号
[24] 凯皮奥,J。;Somersalo,E.,《统计反问题:离散化、模型简化和反犯罪》,J.Compute。申请。数学。,198, 2, 493-504 (2007) ·Zbl 1101.65008号 ·doi:10.1016/j.cam.2005.09.027
[25] Kohler,M.,局部多项式核回归估计的通用一致性,Ann.Inst.Stat.Math。,54, 4, 879-899 (2002) ·Zbl 1047.62033号 ·doi:10.1023/A:1022427805425
[26] 英国阿图兹涅斯基。;Rosenthal,JS,遏制条件和AdapFail算法,J.Appl。可能性。,51, 4, 1189-1195 (2014) ·Zbl 1329.60263号 ·doi:10.1239/jap/1421763335
[27] Li,J.等人。;Marzouk,YM,逆向问题贝叶斯解的代理自适应构造,SIAM J.Sci。计算。,36、3、A1163-A1186(2014)·Zbl 1415.65009号 ·doi:10.1137/130938189
[28] Llorente,F.、Martino,L.、Read,J.、Delgado,D.:蒙特卡罗方法在噪声和高成本密度方面的调查及其在强化学习中的应用。arXiv预打印arXiv:2108.00490(2021)
[29] Y.Marzouk。;Xiu,D.,反问题中贝叶斯推断的随机搭配方法,Commun。计算。物理。,6, 4, 826-847 (2009) ·Zbl 1364.62064号 ·doi:10.4208/cicp.2009.v6.p826
[30] Matott,LS,泵和处理系统设计的筛选水平敏感性分析,地下水监测。补救措施。,32, 2, 66-80 (2012) ·doi:10.1111/j.1745-6592.2011.01375.x
[31] Medina-Aguayo,F.,Rudolf,D.,Schweizer,N.:通过限制近似法在大都会内蒙特卡罗的扰动边界。arXiv预印arXiv:1809.09547(2018)·Zbl 07188046号
[32] 梅恩,SP;Tweedie,RL,马尔可夫链和随机稳定性(2012),柏林:施普林格出版社,柏林·兹比尔0925.60001
[33] 无,N.:40 cfr第191部分第b和c子部分和40 cfr 194监测实施计划(第3版)。美国新墨西哥州卡尔斯巴德市废物隔离试验工厂(WIPP)技术代表;华盛顿(2003)
[34] Pillai,N.S.,Smith,A.:近似MCMC链的遍历性及其在大型数据集中的应用。arXiv预印arXiv:1405.0182(2014)
[35] Pool,M。;Carrera,J。;Alcolea,A。;Bocanegra,E.,《Mar del Plata含水层区域尺度反演建模的确定性和随机方法比较》,J.Hydrol。,531, 214-229 (2015) ·doi:10.1016/j.jhydrol.2015.09.064
[36] 罗伯茨,GO;Rosenthal,JS,自适应马尔可夫链蒙特卡罗算法的耦合和遍历性,J.Appl。可能性。,44, 2, 458-475 (2007) ·Zbl 1137.62015年 ·doi:10.1239/jap/1183667414
[37] 罗伯茨,GO;Tweedie,RL,多维Hastings和Metropolis算法的几何收敛和中心极限定理,Biometrika,83,1,95-110(1996)·Zbl 0888.60064号 ·doi:10.1093/biomet/83.1.95
[38] Rote,G。;Tichy,RF,拟蒙特卡罗方法和点序列的离散,数学。计算。型号。,23, 8-9, 9-23 (1996) ·Zbl 0855.11041号 ·doi:10.1016/0895-7177(96)00036-2
[39] 鲁道夫,D。;Schweizer,N.,基于Wasserstein距离的马尔可夫链扰动理论,伯努利,24,4,2610-2639(2018)·Zbl 1465.60065号 ·文件编号:10.3150/17-BEJ938
[40] 席林斯,C。;Schwab,C.,参数算子方程贝叶斯反演中的稀疏性,逆概率。,30, 6 (2014) ·Zbl 1291.65033号 ·doi:10.1088/0266-5611/30/6/065007
[41] 夏洛克,C。;Golightly,A。;亨德森(Henderson)、DA、Adaptive、延迟接受MCMC(适用于高风险目标)、J.Compute。图表。Stat.,26,2,434-444(2017)·doi:10.1080/10618600.2016.1231064
[42] Stone,C.J.:一致非参数回归。《Ann.Stat.595-620》(1977年)·Zbl 0366.62051号
[43] Stuart,A.,Teckentrup,A.:贝叶斯后验分布的高斯过程近似的后验一致性。数学。计算。87(310), 721-753 (2018) ·Zbl 1429.60040号
[44] 威尔曼,M。;Carrera,J。;Sánchez-Vila,X。;Vázquez-Suñé,E.,关于从回收试验中获得的透射率值的含义,《水文地质学》。J.,15,5,833-842(2007)·doi:10.1007/s10040-006-0147-8
[45] 沃尔夫,美国。;Collaboration,A.,Montecarlo错误较少,计算。物理学。社区。,156, 2, 143-153 (2004) ·Zbl 1196.65138号 ·doi:10.1016/S0010-4655(03)00467-3
[46] Zahm,O.,Cui,T.,Law,K.,Spantini,A.,Marzouk,Y.:非线性贝叶斯反问题的证明降维。计算数学(2022)·兹伯利07541892
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。