F.J.平斯基。;G.辛普森。;A.M.斯图亚特。;韦伯，H。 无限维概率测度的Kullback-Leibler近似算法。 （英语） Zbl 1348.60033号 SIAM J.科学。计算。 37，第6号，A2733-A2757（2015）. 摘要：在本文中，我们研究了在希尔伯特函数空间上找到目标测度的高斯近似的算法。目标度量本身是通过其相对于参考高斯度量的密度来定义的。我们使用Kullback-Leibler散度作为距离，并通过最小化该距离找到最佳高斯近似。然后，近似高斯必须等价于高斯参考测度，为潜在的变分法问题定义了一个自然函数空间设置。我们引入了一种计算算法，该算法非常适合所需的最小化，寻求平均值作为函数，并以两种不同的方式将协方差参数化：通过参考协方差的低秩扰动和通过反向参考协方差Schrödinger势扰动。给出了两个应用：椭圆偏微分方程中的非线性反问题和条件扩散过程。这些高斯近似也有助于为改进的目标分布的预处理Crank-Nicolson Monte-Carlo-Markov链抽样提供预处理建议分布。这种方法不仅适用于高维设置，而且在反问题（即条件扩散）中对小观测噪声（即小温度）也表现良好。 引用于25文件 理学硕士： 60F05型 中心极限和其他弱定理 65 C50 概率中的其他计算问题（MSC2010） 60G15年 高斯过程 60J60型 扩散过程 62G05型 非参数估计 65二氧化碳 蒙特卡罗方法 35兰特 PDE的反问题 关键词：Kullback-Leibler近似;算法;高斯分布;相对熵;条件扩散过程;椭圆偏微分方程;反问题;蒙特卡罗-马尔可夫链抽样 软件：PRMLT公司 PDF格式BibTeX公司 XML格式引用 \textit{F.J.Pinski}等人，SIAM J.Sci。计算。37，第6号，A2733--A2757（2015；Zbl 1348.60033） 全文： 内政部 arXiv公司 参考文献： [1] C.Andrieu和Eí。Moulines，{\it关于一些自适应MCMC算法的遍历性}，Ann.Appl。概率。，16（2006），第1462-1505页·Zbl 1114.65001号 [2] C.Andrieu和J.Thoms，《自适应MCMC教程》，《统计计算》。，18（2008），第343-373页。 [3] C.Archambeau、D.Cornford、M.Opper和J.Shawe-Taylor，{随机微分方程的高斯过程近似}，J.Mach。《学习研究》，1（2007），第1-16页。 [4] S.Asmussen和P.W.Glynn，《随机模拟》，施普林格，纽约，2010年·Zbl 1126.65001号 [5] C.M.Bishop和N.M.Nasrabadi，{模式识别和机器学习}，第1卷，Springer，纽约，2006年·Zbl 1107.68072号 [6] J.R.Blum，{以概率一收敛的近似方法}，《数学年鉴》。统计人员。，25（1954年），第382-386页·Zbl 0055.37806号 [7] V.I.Bogachev，{高斯测度}，数学。调查专题。62，AMS，普罗维登斯，RI，1998年·Zbl 0913.60035号 [8] R.H.Byrd、G.M.Chin、J.Nocedal和Y.Wu，{机器学习优化方法中的样本大小选择}，数学。程序。，134（2012），第127-155页·Zbl 1252.49044号 [9] H.-F.Chen，L.Guo和A.-J.Gao，{截断在随机变化边界处的Robbins-Monro算法的收敛性和鲁棒性}，随机过程。申请。，27（1988），第217-231页·Zbl 0632.62082号 [10] P.R.Conrad、Y.M.Marzouk、N.S.Pillai和A.Smith，{通过计算密集型模型的局部近似的渐近精确MCMC算法}，预印本，arXiv:1402.1694V41015。 [11] S.L.Cotter、G.O.Roberts、A.M.Stuart和D.White，｛it函数的MCMC方法：修改旧算法使其更快｝，Statist。科学。，28（2013），第424-446页·Zbl 1331.62132号 [12] A.Dvoretzky，《随机近似重访》，高级应用。数学。，7（1986），第220-227页·Zbl 0601.62102号 [13] T.A.El Moselhy和Y.M.Marzouk，{最优映射的贝叶斯推理}，J.Compute。物理。，231（2012），第7815-7850页·Zbl 1318.62087号 [14] H.P.Flath、L.C.Wilcox、V.Akçelik、J.Hill、B.van Bloemen Waanders和O.Ghattas，基于低阶部分Hessian近似的大规模线性反问题中贝叶斯不确定性量化的快速算法，SIAM J.Sci。计算。，33（2011），第407-432页·Zbl 1229.65174号 [15] B.Gershgorin和A.J.Majda，{用模型误差量化气候变化和长期预测情景的不确定性。第一部分：高斯模型}，《气候杂志》，25（2012），第4523-4548页。 [16] M.Girolma和B.Calderhead，{it Riemann流形Langevin和Hamilton Monte Carlo方法}，J.R.Stat.Soc.Ser。B统计方法。，73（2011），第123-214页·Zbl 1411.62071号 [17] H.Haario、E.Saksman和J.Tamminen，《自适应大都会算法》，伯努利，7（2001），第223-242页·Zbl 0989.65004号 [18] M.Hairer、A.Stuart和S.Vollmer，{无限维Metropolis-Hastings算法的光谱间隙}，Ann.Appl。探针。，24（2014），第2455-2490页·Zbl 1307.65002号 [19] M.Hairer、A.Stuart和J.Voss，《函数空间上的信号处理问题：贝叶斯公式、随机偏微分方程和有效的MCMC方法》，载于《牛津非线性滤波手册》，D.Crisan和B.Rozovsky主编，牛津大学出版社，牛津，2011年，第833-873页·Zbl 1262.94012号 [20] N.J.Higham，{计算最近对称半正定矩阵}，线性代数应用。，103（1988），第103-118页·Zbl 0649.65026号 [21] M.Hinze、R.Pinnau、M.Ulbrich和S.Ulbich，《PDE约束下的优化》，Springer，纽约，2009年·Zbl 1167.49001号 [22] M.A.Katsoulakis和P.Plechaáč，{非平衡扩展系统参数化粗粒度的信息理论工具}，J.Chem。物理。，139 (2013), 074115. [23] H.J.Kushner和G.Yin，{随机逼近和递归算法及应用}，Springer，纽约，2003年·Zbl 1026.62084号 [24] J.Martin、L.C.Wilcox、C.Burstedde和O.Ghattas，《大规模统计反演问题的随机Newton-MMC方法及其在地震反演中的应用》，SIAM J.Sci。计算。，34（2012），第A1460-A1487页·Zbl 1250.65011号 [25] Y.M.Marzouk、H.N.Najm和L.A.Rahn，{反问题有效贝叶斯解的随机谱方法}，J.Compute。物理。，24（2007年），第560-586页·Zbl 1120.65306号 [26] R.Pasupathy和S.Kim，《随机寻根问题》，ACM Trans。模型。计算。模拟。，21 (2011), 19. ·Zbl 1386.65054号 [27] F.Pinski、G.Simpson、A.Stuart和H.Weber，｛\it Algorithms for Kullback-Leibler Approximation of Probability Measures in Infinite Dimensions｝，预印本，arXiv:1408.199202014·Zbl 1348.60033号 [28] F.J.Pinski、G.Simpson、A.M.Stuart和H.Weber，无限维空间上概率测度的{it Kullback-Leibler近似}，SIAM J.Math。分析。，47（2015），第4091-4122页·Zbl 1342.60049号 [29] M.G.Reznikoff和E.Vanden-Eijnden，《随机偏微分方程和条件扩散的不变测度》，C.R.Math。阿卡德。科学。巴黎，340（2005），第305-308页·Zbl 1063.60092号 [30] H.Robbins和S.Monro，《随机近似方法》，《数学年鉴》。统计人员。，22（1950），第400-407页·Zbl 0054.05901号 [31] G.O.Roberts和J.S.Rosenthal，{自适应马尔可夫链蒙特卡罗算法的耦合和遍历性}，J.Appl。概率。，44（2007），第458-475页·Zbl 1137.62015年 [32] M.S.Shell，《相对熵是多尺度和逆热力学问题的基础》，J.Chem。物理。，129 (2008), 144108. [33] A.Spantini、A.Solonen、T.Cui、J.Martin、L.Tenorio和Y.Marzouk，{贝叶斯线性逆问题的最优低阶近似}，SIAM J.Sci。计算。，37（2015），第A2451-A2487页·Zbl 1325.62060号 [34] A.M.Stuart，《反问题：贝叶斯观点》，《数值学报》。，19（2010年），第451-559页·Zbl 1242.65142号 [35] G.Yin和Y.M.Zhu，{关于H值Robbins-Monro过程}，J.多元分析。，34（1990年），第116-140页·Zbl 0702.62076号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。