×

非线性递阶统计反问题的基于优化的马尔可夫链蒙特卡罗方法。 (英语) Zbl 07307677号

摘要:在许多层次逆问题中,我们不仅要估计参数到观测值映射中的高维或无限维模型参数,而且还必须估计表示统计和数学建模过程中关键假设的超参数。由于模型参数和超参数的联合后验分布中的高维性、非线性相关性和非凹陷结构的共同影响,在分层贝叶斯环境下求解逆问题是一个重大的计算挑战。在这项工作中,我们开发了基于可扩展优化的马尔可夫链蒙特卡罗(MCMC)方法,用于求解具有非线性参数-可观测映射和更广泛的超参数的分层贝叶斯反问题。我们的算法开发基于最近开发的可扩展随机优化(RTO)方法[J.M.Bardsley等人。,SIAM J.科学。计算。,42(2016),pp.A1317-A1347],用于探索高维或无限维参数空间。我们首先将RTO机制扩展到泊松似然,并讨论RTO在分层设置中的实现。然后,通过将RTO用作Gibbs更新中的大都会中的建议分布或伪边际MCMC中的偏差分布[C.Andrieu和G.O.Roberts,安。统计师。,37(2009),第697-725页],我们为分层贝叶斯反演提供了有效的采样工具。特别是,RTO和伪边际MCMC的集成具有对模型参数维鲁棒的采样性能。在PDE约束反问题和正电子发射层析成像中的数值例子证明了我们的方法的性能。

MSC公司:

65层22 数值线性代数中的不适定性和正则化问题
65二氧化碳 蒙特卡罗方法
65立方厘米60 统计中的计算问题(MSC2010)
94A08型 信息与通信理论中的图像处理(压缩、重建等)

软件:

GMRF库
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] S.Agapiou、J.M.Bardsley、O.Papaspiliopoulos和A.M.Stuart,层次逆问题吉布斯采样器分析,SIAM/ASA J.不确定性。数量。,2(2014年),第511-544页·Zbl 1308.62097号
[2] C.Andrieu和G.O.Roberts,有效蒙特卡罗计算的伪边缘方法,《统计年鉴》。,37(2009),第697-725页·兹比尔1185.60083
[3] C.Andrieu和M.Vihola,在MCMC的精确近似之间建立某种秩序,Ann.Appl。概率。,26(2016),第2661-2696页·Zbl 1351.60097号
[4] J.M.Bardsley,基于MCMC的不确定性量化图像重建,SIAM J.Sci。计算。,34(2012年),第A1316-A1332页·Zbl 1246.15022号
[5] J.M.Bardsley,反问题的计算不确定性量化,Comput。科学。工程19,SIAM,费城,2018年·Zbl 1435.60001号
[6] J.M.Bardsley、D.Calvetti和E.Somersalo,PET图像保边重建的层次正则化,反问题,26(2010),035010·Zbl 1188.41023号
[7] J.M.Bardsley、T.Cui、Y.M.Marzouk和Z.Wang,函数空间上基于可缩放优化的采样,SIAM J.Sci。计算。,42(2020年),第A1317-A1347页·Zbl 1471.62023号
[8] J.M.Bardsley、A.Solonen、H.Haario和M.Laine,《随机优化:非线性反问题的后验分布抽样方法》。,SIAM J.科学。计算。,36(2014年),第A1895-A1910页·Zbl 1303.65003号
[9] A.Beskos、G.O.Roberts、A.M.Stuart和J.Voss,扩散桥MCMC方法,斯托克。动态。,8(2008),第319-350页·Zbl 1159.65007号
[10] R.D.Brown、J.M.Bardsley和T.Cui,贝叶斯逆问题中Whittle-Matérn先验建模的半变差函数方法,逆问题,36(2020),055006·Zbl 1475.62120号
[11] T.Bui-Thanh、O.Ghattas、J.Martin和G.Stadler,无限维贝叶斯反问题的计算框架。第一部分:线性化情况及其在全球地震反演中的应用,SIAM J.Sci。计算。,35(2013年),第A2494-A2523页·Zbl 1287.35087号
[12] D.Calvetti、H.Hakula、S.Pussiainen和E.Somersalo,脑源定位的条件高斯超模型,SIAM J.成像科学。,2(2009年),第879-909页·Zbl 1176.62107号
[13] D.Calvetti和E.Somersalo,贝叶斯成像框架中的超模型,反问题,24(2008),034013·Zbl 1137.62062号
[14] G.Chan,Algorithm as 312:模拟平稳高斯随机场的算法,J.R.Stat.Soc.Ser。C申请。《统计》,46(1997),第171-181页·Zbl 0913.65142号
[15] V.Chen、M.M.Dunlop、O.Papaspiliopoulos和A.M.Stuart,《高维非高斯先验和层次先验稳健MCMC抽样》,预印本,https://arxiv.org/abs/11803.03344, 2018.
[16] J.A.Christen和C.Fox,使用近似的马尔可夫链蒙特卡罗,J.Compute。图表。统计人员。,14(2005),第795-810页。
[17] S.L.Cotter、G.O.Roberts、A.M.Stuart和D.White,《函数的MCMC方法:修改旧算法使其更快》,Statist。科学。,28(2013),第424-446页·Zbl 1331.62132号
[18] T.Cui、C.Fox和M.J.O'Sullivan,采用新的自适应延迟接受Metropolis Hastings算法对大型地热储层模型进行贝叶斯校准,《水资源研究》,47(2011),W10521。
[19] T.Cui、C.Fox和M.J.O'Sullivan,延迟验收MCMC中简化模型的后验随机校正,应用于多相地下反演问题,国际。J.数字。方法工程,118(2019),第578-605页。
[20] T.Cui、K.J.H.Law和Y.M.Marzouk,《独立维度》,类似于MCMC、J.Compute。物理。,304(2016),第109-137页·Zbl 1349.65009号
[21] M.Dashti和A.M.Stuart,椭圆反问题的不确定性量化和弱近似,SIAM J.Numer。分析。,49(2011),第2524-2542页·Zbl 1234.35309号
[22] A.Doucet、M.K.Pitt、G.Deligiannidis和R.Kohn,《使用无偏似然估计量时马尔可夫链蒙特卡罗的有效实现》,《生物统计学》,102(2015),第295-313页·Zbl 1452.62055号
[23] M.M.Dunlop、T.Helin和A.M.Stuart,贝叶斯MAP估计中的超参数估计:参数化和一致性,SMAI J.Compute。数学。,6(2020年),第69-100页·Zbl 1441.62084号
[24] M.M.Dunlop、M.A.Iglesias和A.M.Stuart,《层次贝叶斯水平集反演》,统计学家。计算。,27(2017),第1555-1584页·Zbl 1384.62084号
[25] M.Feischl、F.Y.Kuo和I.H.Sloan,用H-矩阵快速生成随机场,数值。数学。,140(2018),第639-676页·Zbl 1404.65033号
[26] C.Fox和R.A.Norton,线性高斯反问题中的快速采样,SIAM/ASA J.不确定性。数量。,4(2016),第1191-1218页·Zbl 1398.94081号
[27] G.H.Golub和C.F.V.Loan,《矩阵计算》,约翰霍普金斯大学出版社,巴尔的摩,2012年·Zbl 0865.65009号
[28] I.G.Graham、F.Y.Kuo、D.Nuyens、R.Scheichl和I.H.Sloan,采样平稳随机场的循环嵌入方法分析,SIAM J.Numer。分析。,56(2018),第1871-1895页·Zbl 1434.60114号
[29] H.Haario、E.Saksman和J.Tamminen,自适应大都会算法,伯努利,7(2001),第223-242页·Zbl 0989.65004号
[30] N.Halko、P.Martinsson和J.A.Tropp,《寻找随机结构:构造近似矩阵分解的概率算法》,SIAM Rev.,53(2011),第217-288页·Zbl 1269.65043号
[31] H.Harbrecht、M.Peters和M.Siebenmorgen,用于数值应用的随机场的有效近似,Numer。线性代数应用。,22(2015),第596-617页·Zbl 1349.65048号
[32] J.Heikkinen,《X射线层析成像中的统计反演理论》,论文,LUT大学,2008年。
[33] J.P.Kaipio和E.Somersalo,统计和计算反问题,应用。数学。科学。160,Springer,New York,2004年·Zbl 1068.65022号
[34] B.N.Khoromskij、A.Litvinenko和H.G.Matthies,层次矩阵在计算Karhunen-Loeéve展开式中的应用,《计算》,84(2009),第49-67页·Zbl 1162.65306号
[35] K.J.H.Law,《加快功能空间MCMC的提案》,J.Compute。申请。数学。,262(2014),第127-138页·Zbl 1301.65004号
[36] F.Lindgren,H.Rue和J.Lindstroëm,高斯场和高斯马尔可夫随机场之间的显式联系:随机偏微分方程方法,J.R.Stat.Soc.Ser。B统计方法。,73(2011),第423-498页·Zbl 1274.62360号
[37] J.S.Liu,科学计算中的蒙特卡罗策略,Springer,纽约,2008年·Zbl 1132.65003号
[38] J.S.Liu和R.Chen,动态系统的序贯蒙特卡罗方法,J.Amer。统计师。协会,93(1998),第1032-1044页·Zbl 1064.65500号
[39] F.Lucka,《使用L1型先验值进行高维反问题稀疏贝叶斯推断的快速马尔可夫链蒙特卡罗抽样》,《反问题》,28(2012),第125012页·Zbl 1266.65013号
[40] J.Martin、L.C.Wilcox、C.Burstedde和O.Ghattas,《大规模统计反演问题的随机牛顿MCMC方法及其在地震反演中的应用》,SIAM J.Sci。计算。,34(2012),第A1460-A1487页·Zbl 1250.65011号
[41] Y.M.Marzouk和H.N.Najm,反问题中贝叶斯推理的降维和多项式混沌加速,J.Compute。物理。,228(2009),第1862-1902页·Zbl 1161.65308号
[42] M.Morzfeld、X.Tu、E.Atkins和A.J.Chorin,隐式过滤器的随机映射实现,J.Compute。物理。,231(2012),第2049-266页·Zbl 1242.65012号
[43] D.S.Oliver,改进多峰分布抽样的都市随机最大似然,SIAM/ASA J.Uncertain。数量。,5(2017年),第259-277页·Zbl 1370.62018年
[44] A.B.Owen,蒙特卡洛理论、方法和实例,2013,https://statweb.stanford.edu/欧文/麦克/。
[45] N.Petra、J.Martin、G.Stadler和O.Ghattas,无限维贝叶斯反问题的计算框架:第二部分。随机牛顿MCMC及其在冰盖流动逆问题中的应用,SIAM J.Sci。计算。,34(2014),第A1525-A1555页·Zbl 1303.35110号
[46] G.O.Roberts和O.Stramer,《利用Metropolis-Hastings算法推断部分观测到的非线性扩散模型》,Biometrika,88(2001),第603-621页·Zbl 0985.62066号
[47] L.Roininen、M.Girolama、S.Lasanen和M.Markkanen,Mateárn油田的Hyperpriors及其在贝叶斯反演中的应用,反演问题成像,13(2019)·Zbl 1454.60068号
[48] D.Rudolf和B.Sprungk,关于预处理Crank-Nicolson Metropolis算法的推广,Found。计算。数学。,18(2018),第309-343页·兹比尔1391.60169
[49] H.Rue和L.Held,《高斯马尔可夫随机场:理论和应用》,查普曼霍尔/CRC,博卡拉顿,佛罗里达州,2005年·邮编1093.60003
[50] A.Saibaba、D.A.Brown和A.Alexendarian,分层贝叶斯反问题的基于边缘化的MCMC方法,SIAM/ASA J.Uncertain。数量。,7(2019年),第1105-1131页·Zbl 07118424号
[51] C.Schwab和R.A.Todor,用广义快速多极方法对随机场进行Karhunen-Loève近似,J.Compute。物理。,217(2006),第100-122页·Zbl 1104.65008号
[52] A.M.Stuart,《逆向问题:贝叶斯观点》,《数值学报》。,19(2010年),第451-559页·Zbl 1242.65142号
[53] A.Tarantola,模型参数估计的反问题理论和方法,SIAM,费城,2005年·Zbl 1074.65013号
[54] J.Wang和N.Zabaras,热传导逆问题的层次贝叶斯模型,逆问题,21(2004),第183-206页·Zbl 1060.62036号
[55] K.Wang,T.Bui Thanh和O.Ghattas,高维非线性贝叶斯反问题后验抽样的随机最大后验方法,SIAM J.Sci。计算。,40(2018年),第A142-A171页·Zbl 1386.35391号
[56] Z.Wang、J.M.Bardsley、A.Solonen、T.Cui和Y.M.Marzouk,具有l_1先验的贝叶斯反问题:随机优化方法,SIAM J.Sci。计算。,39(2017),第S140-S166页·Zbl 1422.65028号
[57] A.T.Wood和G.Chan,《([0,1]^d)中平稳高斯过程的模拟》,J.Compute。图表。统计人员。,3(1994年),第409-432页。
[58] 姚振中,胡振中,李振中,无限维贝叶斯反问题的TV-高斯先验及其数值实现,《反问题》,32(2016),075006·Zbl 1382.65164号
[59] Y.Yu和X.-L.Meng,以中心还是不以中心为中心:这不是提高MCMC效率的问题,J.Compute。图表。统计人员。,20(2011年),第531-570页。
[60] Q.Zhou,T.Yu,X.Zhang,J.Li,利用泊松数据重建医学图像的贝叶斯推断和不确定性量化,SIAM J.Imaging Sci。,13(2020年),第29-52页·Zbl 1437.92072号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。