×

集中密度的低秩张量重建及其在贝叶斯反演中的应用。 (英语) Zbl 1484.62002年

摘要:本文提出了一种新的精确函数逼近可能高度集中概率密度的方法。它是基于几种现代技术的结合,例如通过非侵入张量序列重建的传输图和低阶近似。其核心思想是根据参考密度的方便表示法计算感兴趣的统计量,如力矩,可采用精确的数值方法。由于从目标到参考的传输通常无法准确确定,因此必须处理由于数值近似传输图而引起的参考密度扰动。通过引入分层近似和适当的坐标变换,将问题分解为在单独选择的正交基函数中的一组独立近似,并结合了(h)-和(p)-精化概念(即“网格大小”和多项式次数)。通过变分蒙特卡罗方法实现了扰动参考密度的有效低阶表示。这种非侵入式回归技术以张量序列格式重建地图。对Hellinger距离和Kullback-Leibler散度中不同(确定性和统计)近似引入的误差项进行了先验收敛分析。给出了重要的应用,特别是贝叶斯逆问题的背景,这是开发该方法的主要动机。几个数值例子说明了不同复杂度的密度以及传输到参考密度的扰动程度的有效性。与蒙特卡罗和马尔可夫链蒙特卡罗方法相比,证明了该方法的(优越)收敛性。

理学硕士:

62-08 统计问题的计算方法
2015年1月62日 贝叶斯推断
62G07年 密度估算
60华氏35 随机方程的计算方法(随机分析方面)
65号35 偏微分方程边值问题的谱、配置及相关方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 巴布什卡,I。;Nobile,F。;Tempone,R.,具有随机输入数据的椭圆偏微分方程的随机配置方法,SIAM J.Numer。分析。,45, 3, 1005-1034 (2007) ·Zbl 1151.65008号
[2] 巴布什卡,I。;Nobile,F。;Tempone,R.,带随机输入数据的椭圆偏微分方程的随机配置方法,SIAM Rev.,52,2,317-355(2010)·Zbl 1226.65004号
[3] Bachmayr先生。;施耐德,R。;Uschmajew,A.,求解高维偏微分方程的张量网络和层次张量,Found。计算。数学。,16, 6, 1423-1472 (2016) ·Zbl 1357.65153号
[4] 巴赫迈尔,M。;科恩,A。;Dahmen,W.,参数偏微分方程:稀疏或低阶近似?,IMA J.数字。分析。,38, 4, 1661-1708 (2017) ·兹比尔1477.65189
[5] Ballani,J。;Grasedyck,L。;Kluge,M.,分层塔克格式张量的黑箱近似,线性代数应用。,438, 2, 639-657 (2013) ·Zbl 1260.65037号
[6] Baptista,R.M.、Bigoni,D.、Morrison,R.、Spantini,A.:运输地图(麻省理工学院不确定性量化小组,2015-2018)。http://transportmaps.mit.edu/docs/
[7] 布伦南,M。;比戈尼(D.Bigoni)。;O.扎姆。;斯潘蒂尼,A。;Marzouk,Y.,《利用结构开发惰性映射进行贪婪推断》,《高级神经信息处理》。系统。,33, 8330-8342 (2020)
[8] 陈,P。;Schwab,C.,《稀疏网格,降基贝叶斯反演:非仿射参数非线性方程》,J.Compute。物理。,316, 470-503 (2016) ·Zbl 1349.62076号
[9] 科恩,A。;Migliorati,G.,最优加权最小二乘法,SMAI J.计算。数学。,3, 181-203 (2017) ·Zbl 1416.62177号 ·doi:10.5802/smai-jcm.24
[10] Cui,T.,Dolgov,S.:使用平方反比Rosenblatt传输的张量-应变的深度组成。已找到。计算。数学。,第1-60页(2021年)
[11] Da Fies,G。;Vianello,M.,《关于亚周期三角插值的Lebesgue常数》,《J近似理论》,167,59-64(2013)·兹比尔1266.42005
[12] Dashti,M.,Stuart,A.M.:反问题的贝叶斯方法。《不确定性量化手册》,第1-118页(2016年)
[13] Detommaso,G.,Cui,T.,Marzouk,Y.,Spantini,A.,Scheichl,R.:Stein变分牛顿法。在:《神经信息处理系统的进展》,第9169-9179页(2018)
[14] Detomamaso,G.,Kruse,J.,Ardizzone,L.,Rother,C.,Köthe,U.,Scheichl,R.:提示:一般和顺序贝叶斯推理的层次可逆神经传输。arXiv预印本arXiv:1905.10687(2019)
[15] Dodwell,T。;凯特尔森,C。;Scheichl,R。;Teckentrup,A.,多级马尔可夫链蒙特卡罗,SIAM Rev.,61,3,509-545(2019)·Zbl 1432.65008号
[16] 多尔戈夫,S。;Anaya-Izquierdo,K。;福克斯,C。;Scheichl,R.,张量列分解中多元概率分布的近似和抽样,统计计算。,30303-625(2020)·Zbl 1436.62192号
[17] Dunkl,CF;Xu,Y.,《多变量正交多项式》(2014),剑桥:剑桥大学出版社,剑桥·Zbl 1317.33001号
[18] Eigel,M.、Gruhlke,R.、Marschall,M.和Zander,E.:不确定性量化中谱方法和低阶近似的python框架。https://bitbucket.org/aleadev/alea网站
[19] 艾格尔,M。;吉特尔森,CJ;施瓦布,C。;Zander,E.,自适应随机Galerkin FEM,计算。方法应用。机械。工程,270,247-269(2014)·Zbl 1296.65157号
[20] 艾格尔,M。;Pfeffer,M。;Schneider,R.,具有层次张量表示的自适应随机Galerkin FEM,Numer。数学。,136, 3, 765-803 (2017) ·Zbl 1397.65262号
[21] 艾格尔,M。;Marschall,M。;Schneider,R.,带自适应分层张量表示的无采样贝叶斯反演,逆概率。,34, 3 (2018) ·Zbl 1404.65261号
[22] 艾格尔,M。;Neumann,J。;施耐德,R。;Wolf,S.,高维随机偏微分方程的非侵入张量重建,计算。方法应用。数学。,19, 1, 39-53 (2019) ·兹伯利1419.35259
[23] 艾格尔,M。;施耐德,R。;特朗施克,P。;Wolf,S.,机器学习和高维偏微分方程的变分蒙特卡罗桥接概念,高级计算。数学。(2019年)·Zbl 1435.68258号 ·doi:10.1007/s10444-019-09723-8
[24] 艾格尔,M。;Marschall,M。;Pfeffer,M。;Schneider,R.,分层张量表示中对数正态系数的自适应随机Galerkin FEM,Numer。数学。,145, 3, 655-692 (2020) ·Zbl 1439.65160号
[25] TA El Moselhy;Marzouk,YM,最优映射的贝叶斯推理,计算机J。物理。,231, 23, 7815-7850 (2012) ·Zbl 1318.62087号
[26] Ernst,O.G.,Sprungk,B.,Tamellini,L.:对数正态椭圆偏微分方程稀疏网格配置的展开式和节点。arXiv预印本arXiv:1906.01252(2019)
[27] 埃斯皮格,M。;Grasedyck,L。;Hackbusch,W.,使用纤维交叉的黑盒低张量-库近似,Constr。约30,3557(2009年)·Zbl 1181.65064号
[28] Foo,J。;Karniadakis,GE,高维多元素概率配置法,J.Compute。物理。,229, 5, 1536-1557 (2010) ·Zbl 1181.65014号
[29] Garcke,J。;Griebel,M.,《稀疏电网和应用》(2012),柏林:施普林格出版社,柏林·Zbl 1088.68550号
[30] 吉尔克斯,WR;理查森,S。;Spiegelhalter,D.,Markov Chain Monte Carlo in Practice(1995),伦敦:查普曼和霍尔/CRC,伦敦·Zbl 0832.00018号
[31] Gorodetsky,A.A.,Karaman,S.,Marzouk,Y.M.:功能训练:张量训练分解的连续模拟。arXiv预印arXiv:1510.09088(2015)·Zbl 1440.65054号
[32] Grasedyck,L。;Kressner,D。;Tobler,C.,低阶张量近似技术的文献综述,GAMM Mitteilungen,36,1,53-78(2013)·兹比尔1279.65045
[33] 格里贝尔,M。;Harbrecht,H.,关于稀疏张量积空间的构造,数学。计算。,82, 282, 975-994 (2013) ·兹比尔1267.41012
[34] Hackbusch,W.,张量空间和数值张量微积分(2012),柏林:施普林格出版社,柏林·Zbl 1244.65061号
[35] 黄,VH;Schwab,C.,对数正态高斯随机输入椭圆偏微分方程的N项Wiener混沌逼近率,数学。模型方法应用。科学。,24, 4, 797-826 (2014) ·Zbl 1294.65010号
[36] Huber,B.,Wolf,S.:Xerus——通用张量库。https://libxerus.org网站/(2014-2017年)
[37] 凯皮奥,J。;Somersalo,E.,《统计与计算反问题》(2006),柏林:施普林格出版社,柏林·Zbl 1068.65022号
[38] 李,J。;Marzouk,YM,逆向问题贝叶斯解的代理自适应构造,SIAM J.Sci。计算。,36、3、A1163-A1186(2014)·Zbl 1415.65009号
[39] Liu,Q.,Wang,D.:Stein变分梯度下降:通用贝叶斯推理算法。摘自:神经信息处理系统进展,第2378-2386页(2016)
[40] Marzouk,Y.,Moselhy,T.,Parno,M.,Spantini,A.:通过测量传输取样的介绍。arXiv预印arXiv:1602.05023(2016)·Zbl 1356.62038号
[41] 米德,K。;Delves,L.,关于广义Fourier展开的收敛速度,IMA J.Appl。数学。,12, 3, 247-259 (1973) ·Zbl 0293.42010
[42] Neal,RM,退火重要性抽样,统计计算。,11, 2, 125-139 (2001)
[43] Nobile,F。;丹蓬,R。;Webster,CG,带随机输入数据的偏微分方程的稀疏网格随机配置方法,SIAM J.Numer。分析。,46, 5, 2309-2345 (2008) ·Zbl 1176.65137号
[44] Oseledets,IV,张量-应变分解,SIAM J.Sci。计算。,33, 5, 2295-2317 (2011) ·Zbl 1232.15018号
[45] Oseledets,I。;Tyrtyshnikov,E.,多维数组的TT-交叉逼近,线性代数应用。,432, 1, 70-88 (2010) ·Zbl 1183.65040号
[46] 帕帕马卡里奥斯,G。;Nalisnick,E。;Rezende,DJ;穆罕默德,S。;Lakshminarayanan,B.,概率建模和推理的规范化流,J.Mach。学习。第22、57、1-64号决议(2021年)·兹伯利07370574
[47] 医学博士帕诺;Marzouk,YM,运输图加速马尔可夫链蒙特卡罗,SIAM/ASA J.不确定性。数量。,6, 2, 645-682 (2018) ·Zbl 1394.65004号
[48] 帕诺,M。;Moselhy,T。;Marzouk,Y.,《使用传输图进行贝叶斯推断的多尺度策略》,SIAM/ASA J.Uncertain。数量。,4, 1, 1160-1190 (2016) ·兹比尔1356.62038
[49] Paszke,A.、Gross,S.、Chintala,S.,Chanan,G.、Yang,E.、DeVito,Z.、Lin,Z.,Desmaison,A.、Antiga,L.、Lerer,A.:PyTorch中的自动区分。致:NIPS-W(2017)
[50] Rezende,D.,Mohamed,S.:规范化流的变分推理。参加:机器学习国际会议。PMLR,第1530-1538页(2015年)
[51] Rohrbach,P.B.,Dolgov,S.,Grasedyck,L.,Scheichl,R.:张量-应变格式中近似高斯密度的秩界。arXiv预印arXiv:2001.08187(2020)
[52] 鲁道夫,D。;Sprungk,B.,Metropolis-Hastings重要性抽样估计器,PAMM,17,1,731-734(2017)·Zbl 1450.62104号
[53] Santambrogio,F.,《应用数学家的最佳交通》,纽约州伯卡用户,55,58-63(2015)·Zbl 1401.49002号
[54] 席林斯,C。;Schwab,C.,计算贝叶斯反演中的缩放极限,ESAIM数学。模型。数字。分析。,50, 6, 1825-1856 (2016) ·Zbl 1358.65013号
[55] 席林斯,C。;斯普伦克,B。;Wacker,P.,关于贝叶斯反问题基于Laplace的蒙特卡罗方法的Laplace近似的收敛性和噪声级鲁棒性,Numer。数学。,145, 4, 915-971 (2020) ·Zbl 1446.65098号
[56] 施耐德,R。;Uschmajew,A.,周期Sobolev空间中层次张量格式的近似速率,J.Complex。,30, 2, 56-71 (2014) ·Zbl 1329.41033号
[57] 施瓦布,C。;Gittelson,CJ,高维参数和随机PDE的稀疏张量离散化,Acta Numer。,20291-467(2011年)·Zbl 1269.65010号
[58] Stuart,AM,《逆向问题:贝叶斯观点》,《数值学报》。,19, 451-559 (2010) ·Zbl 1242.65142号
[59] Tran,D。;瓦法,K。;阿格拉瓦尔,K。;Dinh,L。;Poole,B.,《离散流:离散数据的可逆生成模型》,高级神经网络。信息处理。系统。,32, 14719-14728 (2019)
[60] 维拉尼,C.,《最佳交通:新旧》(2008),柏林:施普林格出版社,柏林·Zbl 1156.53003号
[61] Weare,J.,通过平行边缘化进行有效蒙特卡罗抽样,Proc。国家。阿卡德。科学。,104, 31, 12657-12662 (2007)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。