×

校准、模拟、采样。 (英语) Zbl 07508438号

总结:应用中出现的许多参数估计问题都可以在贝叶斯反演的框架下进行求解。这不仅可以估计参数,还可以量化估计中的不确定性。通常在此类问题中,参数到数据映射的评估成本很高,并且计算映射的导数或导数关联可能不可行。此外,在许多应用程序中,可能只能对地图进行噪音评估。我们提出了一种基于集合卡尔曼反演方法无导数优化能力的贝叶斯反演方法。总体方法是首先使用集合卡尔曼采样(EKS)校准拟合数据的未知参数;其次,使用EKS的输出模仿参数到数据映射;第三,到样品近似贝叶斯后验分布,其中参数到数据映射被其仿真器取代。这就产生了一种近似贝叶斯推断的原则性方法,只需要对参数到数据映射进行少量评估(可能是噪声近似)。它不需要这个映射的导数,而是利用了集合卡尔曼方法的强大功能。此外,EKS具有理想的特性,它将参数集合演化到大部分参数后质量所在的区域,从而为方法的仿真阶段很好地定位它们。本质上,EKS方法为在参数空间中放置点的设计问题提供了一个廉价的解决方案,以有效地训练参数到数据映射的仿真器,从而实现贝叶斯反演。

MSC公司:

65-XX岁 数值分析
62至XX 统计
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abarbanel,H.,《预测未来:完成观测复杂系统的模型》(2013),施普林格出版社·Zbl 1281.62212号
[2] 阿尔伯斯,D.J。;宾夕法尼亚州布兰克夸特。;莱文,M.E。;Seylabi,E.E。;Stuart,A.M.,带约束的集成卡尔曼方法,反问题,35,9,文章095007 pp.(2019)·Zbl 1422.93173号
[3] 亚历山大·A。;佩特拉,N。;斯塔德勒,G。;Ghattas,O.,无限维贝叶斯非线性反问题实验的快速可扩展A-最优设计方法,SIAM J.Sci。计算。,38,1,A243-A272(2016)·Zbl 06536072号
[4] Alvarez,医学硕士。;Rosasco,L。;Lawrence,N.D.,《向量值函数的内核:综述》,Found。趋势马赫数。学习。,4, 3, 195-266 (2012) ·兹比尔1301.68212
[5] 安德里亚纳基斯,I。;Challenor,P.G.,金块对计算机模型高斯过程模拟器的影响,计算。统计数据分析。,56, 12, 4215-4228 (2012) ·Zbl 1255.62306号
[6] Arbogast,T。;惠勒,M.F。;Yotov,I.,张量系数为以单元为中心的有限差分的椭圆问题的混合有限元,SIAM J.Numer。分析。,34, 2, 828-852 (1997) ·Zbl 0880.65084号
[7] Asch,M.(医学博士)。;博奎特,M。;Nodet,M.,《数据同化:方法、算法和应用》,第11卷(2016年),SIAM·Zbl 1361.93011号
[8] 阿特金森,S。;Zabaras,N.,结构化贝叶斯-高斯过程潜在变量模型:数据驱动降维和高维反演的应用,J.Compute。物理。,383, 166-195 (2019) ·Zbl 1451.62095号
[9] Bilinis,I。;北卡罗来纳州扎巴拉斯。;科诺米,学士。;Lin,G.,《多输出可分离高斯过程:实现不确定性量化的高效、完全贝叶斯范式》,J.Compute。物理。,241, 212-239 (2013) ·Zbl 1349.76760号
[10] 查达,新罕布什尔州。;Stuart,A.M。;Tong,X.T.,集合卡尔曼反演中的Tikhonov正则化(2019),arXiv预印本
[11] 陈,V。;邓洛普,M.M。;O.帕帕斯皮利奥普洛斯。;Stuart,A.M.,高维非高斯和分层先验的稳健MCMC抽样(2018),arXiv预印本
[12] 陈,Y。;Oliver,D.,作为迭代集成平滑器的集成随机最大似然方法,数学。地质科学。,44, 1, 1-26 (2002)
[13] O.R.A.Dunbar,A.Garbuno-Inigo,T.Schneider,A.M.Stuart,理想GCM中对流参数的不确定性量化。准备中,2020年。
[14] 康拉德,P.R。;Marzouk,Y.M。;新南威尔士州皮莱。;Smith,A.,通过局部近似加速计算密集型模型的渐近精确MCMC,美国统计协会,111,516,1591-1607(2016)
[15] 科特,S.L。;Roberts,G.O。;Stuart,A.M。;White,D.,MCMC函数方法:修改旧算法使其更快,Stat.Sci。,28, 3, 424-446 (2013) ·Zbl 1331.62132号
[16] Cressie,N.A.,空间数据统计(1993),John Wiley&儿子
[17] 柯林,C。;米切尔,T。;莫里斯,M。;Ylvisaker,D.,确定性函数的贝叶斯预测及其在计算机实验设计和分析中的应用,美国统计协会,86,416,953-963(1991)
[18] Del Moral,P。;Doucet,A。;Jasra,A.,顺序蒙特卡罗采样器,J.R.Stat.Soc.,Ser。B、 统计方法。,68, 3, 411-436 (2006) ·Zbl 1105.62034号
[19] 埃莫里克,A。;Reynolds,A.,用简单水库模型研究基于集合的方法的采样性能,计算。地质科学。,17, 2, 325-350 (2013) ·Zbl 1382.86018号
[20] Ernst,O.G。;斯普伦克,B。;Starkloff,H.-J.,贝叶斯反问题中的集合和多项式混沌卡尔曼滤波器分析,SIAM/ASA J.不确定。量化。,3, 1, 823-851 (2015) ·Zbl 1339.60041号
[21] Evensen,G.,《数据同化:集合卡尔曼滤波器》(2009),Springer Science&商业媒体
[22] Evensen,G.,求解逆问题的迭代集合平滑器分析,计算。地质科学。,22, 3, 885-908 (2018) ·Zbl 1405.86018号
[23] 法卡斯,I.-G。;Latz,J。;厄尔曼,E。;内克尔,T。;Bungartz,H.-J.,贝叶斯反问题的多级自适应稀疏Leja近似,SIAM J.Sci。计算。,42、1、A424-A451(2020)·Zbl 1432.35250号
[24] Fisher,R.A.,《理论统计学的数学基础》,Philos。事务处理。英国皇家学会。,序列号。A、 包含。巴普。数学。物理学。字符,222,594-604,309-368(1922)
[25] 加布诺·伊尼戈,A。;Nüsken,N。;Reich,S.,贝叶斯推断的仿射不变相互作用Langevin动力学(2019),arXiv预印本
[26] 加布诺·伊尼戈,A。;霍夫曼,F。;李伟(Li,W.)。;Stuart,A.M.,《相互作用的朗之万扩散:梯度结构和集合卡尔曼采样器》,SIAM J.Appl。动态。系统。,19, 1, 412-441 (2020) ·Zbl 1447.65119号
[27] Gelman,A。;Carlin,J。;斯特恩,H。;邓森,D。;Vehtari,A。;Rubin,D.,贝叶斯数据分析,查普曼和霍尔/CRC统计科学文本(2013),泰勒和弗朗西斯
[28] Gelman,A。;D.辛普森。;Betancourt,M.,先验通常只能在可能性的背景下理解,熵,19,10555(2017)
[29] Geyer,C.J.,《马尔可夫链蒙特卡罗简介》(Brooks,S.;Gelman,A.;Jones,G.L.;Meng,X.-L.,《马尔柯夫链蒙特卡洛手册》,《现代统计方法手册》(2011年),查普曼和霍尔/CRC),3-48,第1章·Zbl 1229.65014号
[30] 古德费罗,I。;Y.本吉奥。;A.Courville,《深度学习》(2016),麻省理工学院出版社·Zbl 1373.68009号
[31] Hastings,W.,《使用马尔可夫链的蒙特卡罗抽样方法及其应用》,《生物统计学》,57,1,97-109(1970)·Zbl 0219.65008号
[32] 希格顿,D。;M.肯尼迪。;卡文迪什,J.C。;Cafeo,J.A。;Ryne,R.D.,结合现场数据和计算机模拟进行校准和预测,SIAM J.Sci。计算。,26, 2, 448-466 (2004) ·2018年6月10日
[33] 希格顿,D。;Gattiker,J。;威廉姆斯,B。;Rightley,M.,《使用高维输出进行计算机模型校准》,美国统计协会,103,482,570-583(2008)·兹比尔1469.62414
[34] Houtekamer,P.L。;Zhang,F.,大气数据同化的集合卡尔曼滤波器综述,周一。《天气评论》,144,4489-4532(2016)
[35] Iglesias,医学硕士。;法律,K.J。;Stuart,A.M.,反问题的集合卡尔曼方法,反问题。,第29、4条,第045001页(2013年)·Zbl 1311.65064号
[36] Iglesias,医学硕士。;法律,K.J。;Stuart,A.M.,水库模型中数据同化的高斯近似评估,计算。地质科学。,17, 5, 851-885 (2013) ·兹比尔1393.86020
[37] Järvinen,H。;莱恩,M。;Solonen,A。;Haario,H.,《集合预测和参数估计系统:概念》,Q.J.R.Meteorol。《社会学杂志》,138663281-288(2012)
[38] Jolliffe,I.,主成分分析(2011),施普林格
[39] 凯皮奥,J。;Somersalo,E.,《统计与计算反问题》,第160卷(2006),Springer Science&商业媒体
[40] Kalnay,E.,《大气建模、数据同化和可预测性》(2003),剑桥大学出版社
[41] 坎塔斯,N。;Beskos,A。;Jasra,A.,高维逆问题的序贯蒙特卡罗方法:Navier-Stokes方程的案例研究,SIAM/ASA J.不确定性。量化。,2, 1, 464-489 (2014) ·Zbl 1308.65010号
[42] M.C.肯尼迪。;O'Hagan,A.,《计算机模型的贝叶斯校准》,J.R.Stat.Soc.,Ser。B、 统计方法。,63、3、425-464(2001年8月)·Zbl 1007.62021号
[43] 克鲁格曼,S.A。;潘杰尔,H.H。;Willmot,G.E.,《损失模型:从数据到决策》(Loss Models:From Data to Decisions)(2012),John Wiley&儿子·Zbl 1272.62002号
[44] 科瓦奇奇,N.B。;Stuart,A.M.,《集成卡尔曼反演:机器学习任务的无导数技术》,《反演问题》。(2019) ·兹比尔1430.68266
[45] Krige,D.G.,《威特沃特斯兰德一些基本矿山估价问题的统计方法》,J.S.Afr。仪表最小金属。,52, 6, 119-139 (1951)
[46] 兰·S。;Bui-Thanh,T。;克里斯蒂,M。;Girolma,M.,贝叶斯反问题流形蒙特卡罗方法中高阶张量的仿真,J.Compute。物理。,308, 81-101 (2016) ·Zbl 1352.65010号
[47] 法律,K。;Stuart,A.M。;Zygalakis,K.,《数据同化:数学导论》(2015),施普林格科学;amp;amp;amp;amp;amp;商业媒体·Zbl 1353.60002号
[48] Le Gland,F。;蒙贝特,V。;Tran,V.-D.,集合卡尔曼滤波器的大样本渐近性(2009),INRIA,博士论文
[49] 莱姆库勒,B。;马修斯,C。;Weare,J.,马尔可夫链蒙特卡罗模拟的集成预处理,统计计算。,28, 2, 277-290 (2018) ·Zbl 1384.65004号
[50] 李,J。;Marzouk,Y.M.,反问题贝叶斯解的代理的自适应构造,SIAM J.Sci。计算。,36、3、A1163-A1186(2014)·兹比尔1415.65009
[51] Lorenz,E.,《可预测性:部分解决的问题》(可预测性研讨会,第1卷(1995年),ECMWF),1-18
[52] Lorenz,E.N.,《确定性非周期流》,J.Atmos。科学。,20, 2, 130-141 (1963) ·Zbl 1417.37129号
[53] Majda,A.J。;Harlim,J.,《过滤复杂湍流系统》(2012),剑桥大学出版社·Zbl 1250.93002号
[54] 北卡罗来纳州大都会。;Ulam,S.,《蒙特卡罗方法》,《美国统计协会期刊》,44,335-341(1949)·Zbl 0033.28807号
[55] 北卡罗来纳州大都会。;罗森布鲁斯,A.W。;Rosenbluth,M.N。;出纳员,A.H。;Teller,E.,快速计算机器的状态方程计算,J.Chem。物理。,21, 6, 1087-1092 (1953) ·Zbl 1431.65006号
[56] Meyn,S.P。;Tweedie,R.L.,《马尔可夫链与随机稳定性》(2012),施普林格科学;amp;amp;amp;amp;amp;商业媒体
[57] Morzfeld,M。;亚当斯,J。;伦德曼,S。;Orozco,R.,《地球物理学中基于特征的数据同化,非线性过程》。地球物理学。,25, 355-374 (2018)
[58] Nüsken,N。;Reich,S.,《相互作用的朗之万扩散:梯度结构和集合卡尔曼采样器的注释》,Garbuno-Inigo,Hoffmann,Li和Stuart(2019),arXiv预印本
[59] 奥克利,J.E。;O'Hagan,A.,计算机模型输出不确定性分布的贝叶斯推断,Biometrika,89,4,769-784(2002)
[60] 奥克利,J.E。;O'Hagan,A.,《复杂模型的概率敏感性分析:贝叶斯方法》,J.R.Stat.Soc.,Ser。B、 统计方法。,66、3751-769(2004年8月)·Zbl 1046.62027号
[61] Oliver,D.S。;雷诺兹,A.C。;Liu,N.,《油藏描述与历史拟合反演理论》(2008),剑桥大学出版社
[62] Pavliotis,G.A.,《随机过程和应用:扩散过程,福克-普朗克和朗之万方程》(2014),施普林格·Zbl 1318.60003号
[63] 罗伯特·C。;Casella,G.,Monte Carlo统计方法(2004),Springer Science&商业媒体·兹比尔1096.62003
[64] Roberts,G.O。;Rosenthal,J.S.,《Langevin扩散离散近似的最佳缩放》,J.R.Stat.Soc.,Ser。B、 统计方法。,60, 1, 255-268 (1998) ·Zbl 0913.60060号
[65] Roberts,G.O。;Rosenthal,J.S.,《一般状态空间马尔可夫链和MCMC算法》,Probab。调查。,1, 20-71 (2004) ·Zbl 1189.60131号
[66] Roberts,G.O。;Tweedie,R.L.,Langevin分布及其离散近似的指数收敛性,Bernoulli,2,4,341-363(1996)·Zbl 0870.60027号
[67] 罗素·T·F。;Wheeler,M.F.,多孔介质中连续流动的有限元和有限差分方法,(油藏模拟数学(1983),SIAM),35-106·Zbl 0572.76089号
[68] Sacks,J。;Welch,W.J。;米切尔·T·J。;Wynn,H.P.,《计算机实验的设计与分析》,统计科学。,409-423 (1989)
[69] 桑特纳,T.J。;威廉姆斯,B.J。;Notz,W.I.,《计算机实验的设计与分析》(2013),施普林格科学;amp;amp;amp;amp;amp;商业媒体
[70] 桑兹·阿隆索,D。;Stuart,A.M。;Taeb,A.,反问题和数据同化(2018),arXiv预印本
[71] 席林斯,C。;Stuart,A.M.,《反问题的集合卡尔曼滤波器分析》,SIAM J.Numer。分析。,55, 3, 1264-1290 (2017) ·Zbl 1366.65101号
[72] 席林斯,C。;Stuart,A.M.,《集合卡尔曼反演的收敛分析:线性、噪声情况》,应用。分析。,97, 1, 107-123 (2018) ·Zbl 1448.65209号
[73] 施耐德,T。;兰·S。;Stuart,A.M。;Teixeira,J.,《地球系统建模2.0:从观测和目标高分辨率模拟中学习的模型蓝图》,Geophys。Res.Lett.公司。,44, 24 (2017)
[74] Stein,M.L.,《空间数据插值:克里金的一些理论》(2012),斯普林格科学与;amp;amp;amp;amp;amp;商业媒体
[75] Stuart,A.M。;Teckentrup,A.,贝叶斯后验分布高斯过程近似的后验一致性,数学。计算。,87, 310, 721-753 (2018) ·Zbl 1429.60040号
[76] Yan,L。;Zhou,T.,反演问题中贝叶斯推断的自适应多保真多项式混沌方法,J.Compute。物理。,381, 110-128 (2019) ·Zbl 1451.62033号
[77] Yan,L。;Zhou,T.,基于深度神经网络的大规模贝叶斯反问题自适应代理建模,arXiv预印本·Zbl 1482.65206号
[78] Yan,L。;Zhou,T.,基于PC的自适应多义性集合卡尔曼反演反问题,国际期刊《不确定性》。量化。,9, 3 (2019) ·Zbl 1498.62074号
[79] 张杰。;李伟(Li,W.)。;曾磊。;Wu,L.,地下水污染源识别问题中高效贝叶斯实验设计的基于自适应高斯过程的方法,水资源。研究,52,8,5971-5984(2016)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。