×

贝叶斯线性逆问题的面向目标的最优逼近。 (英语) Zbl 1373.15027号

摘要:我们提出了用于解决面向目标的线性高斯逆问题的最优降维技术,其中感兴趣量(QoI)是反演参数的函数。这些近似值适用于大规模应用。特别地,我们研究了QoI的后验协方差作为其先验协方差的低秩负更新的近似,并证明了该更新相对于对称正定矩阵流形上的自然测地距离的最优性。假设精确了解QoI的后验平均值,优化结果将延伸到有关Kullback-Leibler散度和相关分布之间的Hellinger距离的分布的优化。我们还建议将QoI的后验均值近似为数据的低阶线性函数,并证明了这种近似对于加权Bayes风险的最佳性。这两种最佳近似都避免了参数的完全后验分布的显式计算,而是将重点放在由数据充分告知且与QoI相关的方向上。这些方向源于面向目标的反问题的所有组成部分之间的平衡:先验信息、正向模型、测量噪声和最终目标。我们使用传热中的高维逆问题来说明该理论。

MSC公司:

15年29日 线性代数中的反问题
2015年1月62日 贝叶斯推断
68周25 近似算法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] P.A.Absil、C.G.Baker和K.A.Gallivan,{对称广义特征值问题的截断-CG型方法},J.Compute。申请。《数学》,189(2006),第274-285页·Zbl 1090.65042号
[2] P.A.Absil、C.G.Baker、K.A.Gallivan和A.Sameh,{广义特征值问题的自适应模型信赖域方法},国际计算科学会议,纽约斯普林格,2005年,第33-41页·Zbl 1129.65307号
[3] V.Akçelik、G.Biros、O.Ghattas、J.Hill、D.Keyes和B.van Bloemen Waanders,《PDE约束优化的并行算法》,并行过程。科学。计算。,20(2006),第291页。
[4] S.Amari和H.Nagaoka,{信息几何方法},Transl。数学。单声道。191,AMS,普罗维登斯,RI,2007年·Zbl 1146.62001号
[5] V.Arsigny、P.Fillard、X.Pennec和N.Ayache,《对称正定矩阵上新型向量空间结构的几何意义》,SIAM J.Matrix Ana。申请。,29(2007),第328-347页·Zbl 1144.47015号
[6] C.Atkinson和A.F.S.Mitchell,{拉奥距离测量},SankhyāA,43(1981),第345-365页·Zbl 0534.62012号
[7] H.Auvinen、J.M.Bardsley、H.Haario和T.Kauranne,{使用有限内存BFGS方法的大尺度卡尔曼滤波},电子。事务处理。数字。分析。,35(2009年),第217-233页·Zbl 1188.65084号
[8] H.Auvinen、J.M.Bardsley、H.Haario和T.Kauranne,{变分卡尔曼滤波器和使用有限内存BFGS}的有效实现,国际。J.数字。《液体方法》,64(2010),第314-335页·Zbl 1197.65213号
[9] O.Axelsson和I.Kaporin,{关于共轭梯度法的次线性和超线性收敛速度},Numer。《算法》,25(2000),第1-22页·Zbl 0972.65024号
[10] Z.Bai、J.Demmel、J.Dongarra、A.Ruhe和H.van der Vorst,《代数特征值问题求解的模板:实用指南》,《软件环境》。工具11,SIAM,费城,2000年·Zbl 0965.65058号
[11] C.G.Baker、P.A.Absil和K.A.Gallivan,《对称广义特征问题的隐式黎曼信赖域方法》,摘自纽约斯普林格国际计算科学会议,2006年,第210-217页·Zbl 1155.65325号
[12] A.Barachant、S.Bonnet、M.Congedo和C.Jutten,《使用基于黎曼核的BCI应用协方差矩阵分类》,《神经计算》,112(2013),第172-178页。
[13] T.L.Bergman、F.P.Incorpera和A.S.Lavine,《传热传质基础》,威利,纽约,2011年。
[14] R.Bhatia,{正定矩阵},普林斯顿大学出版社,新泽西州普林斯顿,2009年·兹比尔1125.15300
[15] R.Bhatia,{矩阵分析},梯度。数学课文。169,Springer Science&Business Media,纽约,2013年。
[16] S.Bonnabel和R.Sepulchre,{定秩正半定矩阵的黎曼度量和几何平均},SIAM J.矩阵分析。申请。,31(2009),第1055-1070页·Zbl 1220.47025号
[17] S.Boyd和L.Vandenberghe,{凸优化},剑桥大学出版社,英国剑桥,2004年·Zbl 1058.90049号
[18] C.M.Branco、R.Ritchie和V.Sklenicka,《高温下材料的力学行为》,北约科学。合伙企业子公司。15,施普林格科学与商业媒体,纽约,1996年。
[19] T.Bui-Thanh,C.Burstedde,O.Ghattas,J.Martin,G.Stadler,L.Wilcox,{由PDEs控制的贝叶斯反问题的极限尺度UQ},《高性能计算、网络、存储和分析国际会议论文集》,IEEE计算机社会出版社,纽约,2012年,第3页。
[20] T.Bui-Thanh和O.Ghattas,{逆散射问题的Hessian分析:}I.{声波的逆形状散射},逆问题,28(2012),055001·Zbl 1239.78006号
[21] T.Bui-Thanh、O.Ghattas和D.Higdon,《概率密度近似的自适应Hessian非平稳高斯过程响应面方法及其在大规模反问题贝叶斯解中的应用》,SIAM J.Sci。计算。,34(2012年),第A2837-A2871页·Zbl 1257.62035号
[22] D.Calvetti和E.Somersalo,《线性系统的先决条件》,《反问题》,21(2005),第1397-1418页·Zbl 1087.65044号
[23] S.T.Choi,{奇异线性方程组和最小二乘问题的迭代方法},斯坦福大学博士论文,2006年。
[24] E.Chow和Y.Saad,{抽样多元高斯分布的预处理Krylov子空间方法},SIAM J.Sci。计算。,36(2014年),第A588-A608页·Zbl 1296.60087号
[25] J.Chung和M.Chunng,{图像处理的最优低阶矩阵近似计算},载于《信号、系统和计算机Asilomar会议》,IEEE,2013年,第670-674页。
[26] J.Chung和M.Chunng,{计算最优低秩正则逆矩阵的有效方法},反问题,30(2014),114009·Zbl 1305.65130号
[27] J.Chung、M.Chunng和D.P.O'Leary,《为反问题设计最优谱滤波器》,SIAM J.Sci。计算。,33(2011年),第3132-3152页·Zbl 1269.65040号
[28] J.Chung、M.Chunng和D.P.O'Leary,{利用校准数据进行图像反褶积的最佳滤波器,数据采集误差},J.Math。《成像视觉》,44(2012),第366-374页·Zbl 1255.94011号
[29] J·钟,M·钟,D·P·奥利里,{最优正则化低阶逆逼近},线性代数应用。,468(2015),第260-269页·Zbl 1307.65048号
[30] T.Cui、K.J.H.Law和Y.M.Marzouk,{\it Dimension independent似然告知MCMC},J.Comput。物理。,304(2016),第109-137页·Zbl 1349.65009号
[31] T.Cui、J.Martin、Y.M.Marzouk、A.Solonen和A.Spantini,{非线性反问题的似然信息降维},反问题,30(2014),114015·Zbl 1310.62030
[32] J.Cullum和W.Donath,{计算q代数最大特征值和大型稀疏实对称矩阵对应特征空间的块Lanczos算法},《决策与控制会议,包括第13届自适应过程研讨会》,IEEE,1974年,第505-509页。
[33] M.Dashti和A.M.Stuart,《逆向问题的贝叶斯方法》,预印本,2013年。
[34] J.Dick、R.N.Gantner、Q.T.L.Gia和C.Schwab,{贝叶斯估计的高阶拟蒙特卡罗积分},预印本,2016年·Zbl 1442.62051号
[35] C.R.Dietrich和G.N.Newsam,{通过协方差矩阵的循环嵌入快速准确地模拟平稳高斯过程},SIAM J.Sci。计算。,18(1997),第1088-1107页·Zbl 0890.65149号
[36] M.P.do Carmo,{黎曼几何},Birkha¨user,巴塞尔,1992年。
[37] L.Dykes和L.Reichel,{线性离散不适定问题求解的简化GSVD计算},J.Compute。申请。数学。,255(2014),第15-27页·Zbl 1291.65117号
[38] R.A.Fisher,《论理论统计学的数学基础》,Philos。事务处理。R.Soc.伦敦。序列号。数学。物理学。工程科学。,222(1922),第309-368页·JFM 48.1280.02型
[39] H.P.Flath、L.Wilcox、V.Akçelik、J.Hill、B.van Bloemen Waanders和O.Ghattas,基于低阶部分Hessian近似的大规模线性反问题中贝叶斯不确定性量化的快速算法,SIAM J.Sci。计算。,33(2011),第407-432页·Zbl 1229.65174号
[40] P.T.Fletcher、C.Lu、S.M.Pizer和S.Joshi,《形状非线性统计研究的主要测地分析》,IEEE Trans。《医学成像》,23(2004),第995-1005页。
[41] D.C.Fong和M.Saunders,《LSMR:稀疏最小二乘问题的迭代算法》,SIAM J.Sci。计算。,33(2011年),第2950-2971页·Zbl 1232.65052号
[42] W.Foörstner和B.Moonen,{协方差矩阵的度量},《大地测量学——第三个千年的挑战》,纽约斯普林格,2003年,第299-309页。
[43] C.Fox和A.Parker,{切比雪夫加速吉布斯采样器方差收敛},SIAM J.Sci。计算。,36(2014),第A124-A147页·Zbl 1291.65097号
[44] S.Friedland和A.Torokhti,{广义秩约束矩阵近似},SIAM J.矩阵分析。申请。,29(2007),第656-659页·Zbl 1144.15004号
[45] G.H.Golub和C.F.Van Loan,《矩阵计算》,第三版,约翰霍普金斯大学出版社,巴尔的摩,2012年·Zbl 1268.65037号
[46] G.H.Golub和Q.Ye,{对称广义特征值问题的无逆预处理Krylov子空间方法},SIAM J.Sci。计算。,24(2002),第312-334页·兹伯利1016.65017
[47] G.Guglielmini和C.Pisoni,{it Elementi di trasmissione del calore},维斯基,1990年。
[48] N.Halko、P.Martinsson和J.A.Tropp,《寻找随机结构:构造近似矩阵分解的概率算法》,SIAM Rev.,53(2011),第217-288页·Zbl 1269.65043号
[49] P.C.Hansen,{it正则化,GSVD和截断GSVD},BIT,29(1989),第491-504页。
[50] M.R.Hestenes和E.Stiefel,{求解线性系统的共轭梯度方法},J.Res.Natl。伯尔。《标准》,49 DC,(1952),第409-436页·Zbl 0048.09901号
[51] D.Higdon、C.S.Reese、J.D.Moulton、J.A.Vrugt和C.Fox,{计算密集型正向模型的后验探索},《马尔可夫链蒙特卡罗手册》,CRC出版社,佛罗里达州博卡拉顿,2011年,第401-418页·兹比尔1229.65016
[52] I.Horev,F.Yger和M.Sugiyama,{对称正定矩阵的几何软件主成分分析},载于《JMLR:研讨会和会议记录》,2015年·Zbl 1459.62236号
[53] Y.Hua和W.Liu,{广义Karhunen-Loeve变换},IEEE信号处理。莱特。,5(1998年),第141-142页。
[54] T.Isaac、N.Petra、G.Stadler和O.Ghattas,{通过推理将不确定性从数据传播到大规模问题预测的可扩展高效算法,应用于南极冰盖流动},J.Compute。物理。,296(2015),第348-368页·Zbl 1352.86017号
[55] S.T.Jensen,《私人通信》,1976年。
[56] J.Kaipio和E.Somersalo,《统计反问题:离散化、模型约简和反犯罪》,J.Comput。申请。数学。,198(2007),第493-504页·Zbl 1101.65008号
[57] A.G.Kalmikov和P.Heimbach,《全球海洋状态估计中基于Hessian的不确定性量化方法》,SIAM J.Sci。计算。,36(2014年),第S267-S295页·Zbl 1311.35321号
[58] A.Klinvex、F.Saied和A.Sameh,{稀疏对称特征值问题的迹最小化方案tracemin的并行实现},计算。数学。申请。,65(2013),第460-468页·兹比尔1319.65027
[59] D.Kressner、M.M.Pandur和M.Shao,{它是用于确定矩阵铅笔的LOBPCG的不定变体},Numer。《算法》,66(2014),第681-703页·Zbl 1297.65040号
[60] C.Lanczos,{求解线性微分和积分算子特征值问题的迭代方法},美国政府出版局,1950年·Zbl 0045.39702号
[61] W.Li和O.A.Cirpka,{结构化和非结构化网格的有效地质统计反演方法},《水资源研究》,42(2006)。
[62] E.Liberty、F.Woolfe、P.Martinsson、V.Rokhlin和M.Tygert,{矩阵低阶近似的随机算法},Proc。国家。阿卡德。科学。,美国,104(2007),第20167-20172页·Zbl 1215.65080号
[63] C.Lieberman和K.Willcox,《面向目标的推断:方法、线性理论和对流扩散的应用》,SIAM J.Sci。计算。,34(2012年),第A1880-A1904页·Zbl 1250.62058号
[64] C.Lieberman和K.Willcox,《非线性目标导向贝叶斯推断:碳捕获和储存的应用》,SIAM J.Sci。计算。,36(2014年),第B427-B449页·Zbl 1429.62711号
[65] J.Liesen和P.Tichỳ,{Krylov子空间方法的收敛性分析},GAMM-Mitt。,27(2004),第153-173页·Zbl 1071.65041号
[66] F.Lindgren,H.Rue,and J.Lindstro­m,{it高斯场与高斯马尔可夫随机场之间的明确联系:随机偏微分方程方法},J.Roy。统计师。Soc.序列号。B、 73(2011),第423-498页·Zbl 1274.62360号
[67] P.C.Mahalanobis,{关于统计学中的广义距离},Proc。国家。科学研究所。(加尔各答),2(1936年),第49-55页·Zbl 0015.03302号
[68] I.Markovsky,{结构化低阶近似及其应用},Automatica,44(2008),第891-909页·Zbl 1283.93061号
[69] J.Martin,L.Wilcox,C.Burstede,and O.Ghattas,{it大规模统计反演问题的随机牛顿MCMC方法及其在地震反演中的应用},SIAM J.Sci。计算。,34(2012),第A1460-A1487页·兹比尔1250.65011
[70] Y.M.Marzouk和H.N.Najm,{反问题中贝叶斯推理的降维和多项式混沌加速},J.Compute。物理。,228(2009),第1862-1902页·Zbl 1161.65308号
[71] X.Meng,M.A.Saunders和M.W.Mahoney,{它是LSRN:强过定或欠定系统的并行迭代求解器},SIAM J.Sci。计算。,36(2014年),第C95-C118页·Zbl 1298.65053号
[72] M.Moakher和M.Zeárai¨,{\it正定矩阵空间的黎曼几何及其在正定矩阵值数据正则化中的应用},J.Math。成像视觉。,40(2011年),第171-187页·Zbl 1255.68195号
[73] T.Moselhy和Y.Marzouk,{最优映射的贝叶斯推断},J.Compute。物理。,231(2012),第7815-7850页·Zbl 1318.62087号
[74] J.B.Nagel和B.Sudret,《贝叶斯推断的谱似然展开》,J.Compute。物理。,309(2016),第267-294页·Zbl 1351.62077号
[75] D.P.O'Leary,{块共轭梯度算法及其相关方法},线性代数应用。,29(1980),第293-322页·Zbl 0426.65011号
[76] C.C.Paige,{本征问题Lanczos方法的计算变体},IMA J.Appl。数学。,10(1972年),第373-381页·兹比尔0253.65020
[77] C.C.Paige和M.A.Saunders,《走向广义奇异值分解》,SIAM J.Numer。分析。,18(1981),第398-405页·Zbl 0471.65018号
[78] C.C.Paige和M.A.Saunders,《稀疏线性方程组和稀疏最小二乘算法》,ACM Trans。数学。《软件》,8(1982),第43-71页·Zbl 0478.65016号
[79] L.Pardo,{基于发散测度的统计推断},CRC出版社,佛罗里达州博卡拉顿,2005年·Zbl 1118.62008号
[80] A.Parker和C.Fox,{带共轭梯度的Krylov空间中的抽样高斯分布},SIAM J.Sci。计算。,34(2012),第B312-B334页·Zbl 1246.65057号
[81] X.Pennec、P.Fillard和N.Ayache,《张量计算的黎曼框架》,国际计算机杂志。视觉。,66(2006),第41-66页·Zbl 1287.53031号
[82] N.Petra、J.Martin、G.Stadler和O.Ghattas,《无限维贝叶斯反问题的计算框架》,第二部分:随机牛顿MCMC及其在冰盖流动反问题中的应用》,SIAM J.Sci。计算。,36(2014年),第A1525-A1555页·Zbl 1303.35110号
[83] A.Quartroni和A.Valli,{偏微分方程的数值逼近},Springer Ser。计算。数学。23,Springer Science&Business Media,纽约,2008年·兹比尔1151.65339
[84] C.R.Rao,{信息和统计参数估计中可达到的精度},Bull。加尔各答数学。《社会学杂志》,37(1945),第81-89页·Zbl 0063.06420号
[85] C.R.Rao,《论两个群体之间的距离》,桑赫亚,9(1949),第246-248页。
[86] C.R.Rao,{概率空间中的微分度量},微分几何。统计师。推理,10(1987),第217-240页。
[87] Y.Saad,{稀疏线性系统的迭代方法},SIAM,费城,2003·Zbl 1031.65046号
[88] A.K.Saibaba、J.Lee和P.K.Kitanidis,广义厄米特徵值问题的随机化算法及其在计算Karhunen-Loe展开式中的应用,Numer。线性代数应用。,(2015). ·Zbl 1413.65104号
[89] A.H.Sameh和J.A.Wisniewski,{广义特征值问题的迹最小化算法},SIAM J.Numer。分析。,19(1982),第1243-1259页·Zbl 0493.65017号
[90] C.Schillings和C.Schwab,{贝叶斯反问题的稀疏自适应Smolyak求积},反问题,29(2013),065011·Zbl 1278.65008号
[91] C.Schillings和C.Schwab,{计算贝叶斯反演中的尺度极限},研究报告2014-26,ETH Zu¨rich,2014·Zbl 1358.65013号
[92] M.K.Schneider和A.S.Willsky,{随机过程和场的协方差近似和模拟的Krylov子空间方法},多维。系统。信号处理。,14(2003),第295-318页·Zbl 1056.93020号
[93] L.T.Skovgaard,{多元正态模型的黎曼几何},Scand。《美国法律总汇》,11(1984),第211-223页·Zbl 0579.62033号
[94] S.T.Smith,{\it协方差,子空间和内在Crame-r-Rao界},IEEE Trans。信号处理。,53(2005),第1610-1630页·Zbl 1370.94242号
[95] A.Solonen、H.Haario、J.Hakkarainen、H.Auvinen、I.Amour和T.Kauranne,使用有限内存BFGS的变分集合卡尔曼滤波,Electron。事务处理。数字。分析。,39(2012),第271-285页·兹比尔1321.93060
[96] S.Sommer、F.Lauze、S.Hauberg和M.Nielsen,{流形值统计、精确主测地线分析和线性近似的影响},《计算机视觉学报-ECCV 2010》,Springer,2010年,第43-56页。
[97] A.Spantini、A.Solonen、T.Cui、J.Martin、L.Tenorio和Y.Marzouk,{贝叶斯线性逆问题的最优低阶近似},SIAM J.Sci。计算。,37(2015),第A2451-A2487页·Zbl 1325.62060号
[98] A.M.Stuart,《反问题:贝叶斯观点》,《数值学报》。,19(2010年),第451-559页·Zbl 1242.65142号
[99] C.F.Van Loan,{广义奇异值分解},SIAM J.Numer。分析。,13(1976年),第76-83页·Zbl 0338.65022号
[100] A.T.A.Wood和G.Chan,{([0,1]^d)}中平稳高斯过程的模拟,J.Compute。图表。统计人员。,3(1994年),第409-432页。
[101] Y.Yue和P.L.Speckman,{非平稳空间高斯马尔可夫随机场},J.Compute。图表。统计人员。,19(2010年),第96-116页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。