×

概率积分:在统计计算中的作用? (英语) Zbl 1420.62135号

摘要:科学计算领域出现了一个研究前沿,其中离散化误差被视为可以建模的认知不确定性的来源。这带来了几个统计挑战,包括设计统计方法,通过(可能是确定性的)计算工作流实现概率的相干传播,以评估离散化错误对计算机输出的影响。本文研究了常规统计计算中概率数值方法的情况。我们的重点是数值积分,其中概率积分器具有输出的完全分布,反映了被积函数已离散化的事实。我们的主要技术贡献是首次建立了一种这种方法的后收缩率。提供了一些用于说明和关键评估的实质性应用,包括来自统计建模、计算机图形学和油藏计算机模型的示例。

MSC公司:

62G05型 非参数估计
65天30分 数值积分
65C60个 统计中的计算问题(MSC2010)
第60页 统计学在工程和工业中的应用;控制图
62K05美元 最佳统计设计

软件:

引导程序
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bauer,B.、Devroye,L.、Kohler,M.、Krzyżak,A.和Walk,H.(2017)。根据随机点的无噪声观测值对函数进行非参数估计。《多元分析杂志》160 93-104·Zbl 1373.62122号 ·doi:10.1016/j.jmva.2017.05.010
[2] Berlinet,A.和Thomas-Agnan,C.(2004年)。概率统计中的再生核希尔伯特空间。Kluwer Academic,马萨诸塞州波士顿·兹比尔1145.62002
[3] Bogachev,V.I.(1998年)。高斯度量。数学调查和专题论文62。阿默尔。数学。佛罗里达州普罗维登斯Soc。
[4] Bondarenko,A.、Radchenko,D.和Viazovska,M.(2013)。球面设计的最优渐近界。数学年鉴。(2) 178 443-452. ·Zbl 1270.05026号 ·doi:10.4007/年鉴.2013.178.2.2
[5] Briol,F.-X.、Oates,C.J.、Girolma,M.和Osborne,M.A.(2015)。Frank-Wolfe Bayesian求积:具有理论保证的概率积分。程序中。高级Neur。英寸(NIPS)1162-1170。
[6] Briol,F.-X.、Cockayne,J.、Teymur,O.、Yoo,W.W.、Schober,M.和Hennig,P.(2016a)。对Chkrebtii、Campbell、Calderhead和Girolma的文章进行了讨论[MR3577378]。贝叶斯分析11 1285-1293·Zbl 1357.62106号 ·doi:10.1214/16-BA1017A
[7] Briol,F.-X.、Oates,C.J.、Girolma,M.、Osborne,M.A和Sejdinovic,D.(2019年)。对“概率积分:统计计算中的作用?”DOI:10.1214/18-STS660SUPP的补充·Zbl 1420.62135号
[8] Brouillat,J.、Bouville,C.、Loos,B.、Hansen,C.和Bouatouch,K.(2009年)。全局照明的贝叶斯蒙特卡罗方法。计算。图表。论坛28 2315-2329。
[9] Buchholz,A.和Chopin,N.(2017年)。通过拟蒙特卡罗改进近似贝叶斯计算。arXiv:1710:01057·兹伯利07499023
[10] Calderhead,B.和Girolma,M.(2009年)。通过热力学积分和总体MCMC估计贝叶斯因子。计算。统计师。数据分析53 4028-4045·Zbl 1453.62055号 ·doi:10.1016/j.csda.2009.07.025
[11] Cialenco,I.、Fasshauer,G.E.和Ye,Q.(2012)。随机偏微分方程的核配置逼近。国际期刊计算。数学89 2543-2561·Zbl 1269.65006号 ·doi:10.1080/00207160.2012.688111
[12] Diaconis,P.(1988年)。贝叶斯数值分析。《统计决策理论及相关主题》,第四卷,第1卷(西拉斐特,印第安纳州,1986年)163-175。纽约州施普林格·Zbl 0671.65117号
[13] Dick,J.、Kuo,F.Y.和Sloan,I.H.(2013)。高维积分:准蒙特卡罗方法。《数字学报》22 133-288·Zbl 1296.65004号 ·doi:10.1017/S0962492913000044
[14] Dick,J.和Pillichshammer,F.(2010年)。数字网络和序列。剑桥大学出版社,剑桥。差分理论与拟蒙特卡罗积分·Zbl 1282.65012号
[15] Efron,B.和Tibshirani,R.J.(1993年)。引导程序简介。统计学和应用概率专著57。CRC出版社,纽约·Zbl 0835.62038号
[16] Eftang,J.L.和Stamm,B.(2012年)。参数多域“(hp)”经验插值。国际。J.数字。方法工程90 412-428·Zbl 1242.65255号 ·doi:10.1002/nme.3327
[17] Friel,N.、Hurn,M.和Wyse,J.(2014)。改进统计证据的功率后验估计。统计计算24 709-723·Zbl 1322.62098号 ·doi:10.1007/s11222-013-9397-1
[18] Friel,N.和Pettitt,A.N.(2008)。通过功率后验估计边际似然。J.R.统计社会服务。B.统计方法70 589-607·Zbl 05563360号 ·doi:10.1111/j.1467-9868.2007.00650.x
[19] Gelman,A.和Meng,X.-L.(1998)。模拟归一化常数:从重要性采样到桥接采样再到路径采样。统计师。科学.13 163-185·Zbl 0966.65004号 ·doi:10.1214/ss/1028905934
[20] Gerber,M.和Chopin,N.(2015)。序贯拟蒙特卡罗。J.R.统计社会服务。B.统计方法77 509-579·Zbl 1414.62109号
[21] Gunter,T.、Garnett,R.、Osborne,M.、Hennig,P.和Roberts,S.(2014)。快速贝叶斯求积概率模型中推理的抽样。程序中。新高级。公元2789-2797年。
[22] Hajizadeh,Y.、Christie,M.和Demyanov,V.(2011年)。用于油藏模型历史拟合和不确定性量化的蚁群优化。J.宠物。科学。工程77 78-92。
[23] Hennig,P.、Osborne,M.A.和Girolma,M.(2015)。概率数字和计算中的不确定性。程序。R.Soc.伦敦。序列号。数学。物理学。工程科学471 20150142,17·Zbl 1372.65010号 ·doi:10.1098/rspa.2015.0142
[24] Hickernell,F.J.(1998)。广义差分和求积误差界。数学。组件67 299-322·Zbl 0889.41025号 ·doi:10.1090/S0025-5718-98-00894-1
[25] Hickernell,F.J.、Lemieux,C.和Owen,A.B.(2005)。准蒙特卡罗控制变量。统计师。科学.20 1-31·Zbl 1100.65006号 ·doi:10.1214/08834230400000468
[26] Hug,S.、Schwarzfischer,M.、Hasenauer,J.、Marr,C.和Theis,F.J.(2016)。利用Simpson规则,通过热力学积分计算Bayes因子的自适应调度方案。统计计算26 663-677·兹比尔1505.62196 ·doi:10.1007/s11222-015-9550-0
[27] Huszar,F.和Duvenaud,D.(2012年)。最优加权羊群是贝叶斯求积。程序中。人工智能中的不确定性(UAI)377-385。
[28] Kadane,J.B.(1985年)。并行和顺序计算:统计学家的观点。J.复杂性1 256-263·Zbl 0606.68034号 ·doi:10.1016/0885-064X(85)90014-7
[29] Kadane,J.B.和Wasilkowski,G.W.(1985)。计算机科学中的平均案例复杂性。贝叶斯观点。贝叶斯统计,2(Valencia,1983)361-374。荷兰北部,阿姆斯特丹·Zbl 0678.68040号
[30] Kallenberg,O.(2002)。《现代概率论基础》,第二版,《概率论及其应用》(纽约)。纽约州施普林格·Zbl 0996.60001号
[31] Kanagawa,M.、Sriperumbudur,B.K.和Fukumizu,K.(2016)。在错误指定的设置中,基于核的求积规则的收敛保证。程序中。高级Neur。英寸(NIPS)·Zbl 07161204号
[32] Kanagawa,M.、Sriperumbudur,B.K.和Fukumizu,K.(2017年)。错误设置下基于确定性核的求积规则的收敛性分析。arXiv:1709.00147·Zbl 07161204号
[33] Karvonen,T.和Särkkä,S.(2017年)。通过高斯过程的经典求积规则。IEEE I车间机器。学习。信号处理。出现·Zbl 1437.65012号
[34] Karvonen,T.和Särkkä,S.(2018年)。完全对称核求积。SIAM J.科学。计算40 A697-A720·Zbl 1385.65024号
[35] Kennedy,M.(1998)。具有非正规逼近函数的贝叶斯求积。《法律总汇》第8卷第365-375页。
[36] Kuo,F.Y.、Dunsmuir,W.T.M.、Sloan,I.H.、Wand,M.P.和Womersley,R.S.(2008)。高结构广义响应模型的准蒙特卡罗方法。Methodol公司。计算。申请。概率10 239-275·Zbl 1234.62110号 ·doi:10.1007/s11009-007-905-3
[37] Lan,S.、Bui-Thanh,T.、Christie,M.和Girolma,M.(2016)。贝叶斯反问题流形蒙特卡罗方法中高阶张量的仿真。J.计算。物理308 81-101·Zbl 1352.65010号 ·doi:10.1016/j.jcp.2015.12.032
[38] Larkin,F.M.(1972年)。希尔伯特空间中的高斯测度及其在数值分析中的应用。落基山数学杂志。2 379-421·Zbl 0258.65058号 ·doi:10.1216/RMJ-1972-2-3-379
[39] Marques,R.、Bouville,C.、Ribardiere,M.、Santos,L.P.和Bouatouch,K.(2013)。用于光滑表面贝叶斯蒙特卡罗渲染的球形高斯框架。IEEE传输。视觉。计算。图19 1619-1632。
[40] Marques,R.、Bouville,C.、Santos,L.和Bouatouch,K.(2015)。照明积分的有效求积规则:从准蒙特卡罗到贝叶斯蒙特卡罗。合成。莱克特。计算。图表。动画7 1-92·Zbl 1402.65004号
[41] Mohamed,L.、Christie,M.和Demyanov,V.(2010年)。不确定性量化随机抽样算法的比较。石油工程师协会J.15 31-38。
[42] Mosbach,S.和Turner,A.G.(2009年)。数值常微分方程解中舍入误差累积的定量概率研究。计算。数学。申请57 1157-1167·Zbl 1186.65096号 ·doi:10.1016/j.camwa.2009.01.020
[43] Novak,E.和Woźniakowski,H.(2008)。多元问题的可拓性。第一卷:线性信息。EMS数学拖拉机6。苏黎世欧洲数学学会(EMS)·Zbl 1156.65001号
[44] Novak,E.和Woźniakowski,H.(2010)。多元问题的可拓性。第二卷:函数的标准信息。EMS数学拖拉机12。苏黎世欧洲数学学会(EMS)·Zbl 1241.65025号
[45] O'Hagan,A.(1991)。Bayes-Hermite求积。J.统计。计划。推断29 245-260·Zbl 0829.65024号 ·doi:10.1016/0378-3758(91)90002-V
[46] O'Hagan,A.(1992年)。一些贝叶斯数值分析。贝叶斯统计,4(佩尼斯科拉,1991)345-363。牛津大学出版社,纽约。
[47] Oates,C.J.、Cockayne,J.和Aykroyd,R.G.(2017年)。工业过程监测的贝叶斯概率数值方法。arXiv:1707.06107·Zbl 1428.62515号
[48] Oates,C.J.、Girolma,M.和Chopin,N.(2017年)。蒙特卡罗积分的控制函数。J.R.统计社会服务。B.统计方法79 695-718·兹比尔1411.62088
[49] Oates,C.J.、Papamarkou,T.和Girolma,M.(2016)。贝叶斯模型证据评估的受控热力学积分。J.艾默。统计师。协会111634-645。
[50] Oates,C.J.、Cockayne,J.、Briol,F.-X.和Girolma,M.(2016)。基于Stein恒等式的一类估计量的收敛速度。伯努利(即将出现),arXiv:1603.03220·Zbl 1459.60064号
[51] Oates,C.J.、Niederer,S.、Lee,A.、Briol,F.X.和Girolma,M.(2017年)。功能性心脏模型评估中积分误差的概率模型。程序中。高级Neur。英寸(NIPS)。出现。
[52] Oettershagen,J.(2017)。波恩大学最佳容积算法的构建及其在计量经济学和不确定性量化中的应用博士论文·Zbl 1378.90001号
[53] Osborne,M.A.、Duvenaud,D.、Garnett,R.、Rasmussen,C.E.、Roberts,S.和Ghahramani,Z(2012)。使用贝叶斯求积主动学习模型证据。程序中。高级Neur。英寸(NIPS)46-54。
[54] Park,H.、Scheidt,C.、Fenwick,D.、Boucher,A.和Caers,J.(2013)。具有多种地质解释的岩相模型的历史匹配和不确定性量化。计算。地理17 609-621。
[55] Pharr,M.和Humphreys,G.(2004年)。基于物理的渲染:从理论到实现。考夫曼(Los Altos Kaufmann)。
[56] Rasmussen,C.E.和Ghahramani,Z(2002)。贝叶斯蒙特卡罗。程序中。高级Neur。信息(NIPS)489-496。
[57] Rasmussen,C.E.和Williams,C.K.I.(2006)。机器学习的高斯过程。自适应计算和机器学习。麻省理工学院出版社,马萨诸塞州剑桥·Zbl 1177.68165号
[58] Robert,C.P.和Casella,G.(1999年)。蒙特卡洛统计方法。统计中的斯普林格文本。纽约州施普林格·Zbl 0935.62005号
[59] Särkka,S.、Hartikainen,J.、Svensson,L.和Sandblom,F.(2016)。关于高斯过程求积和σ点方法之间的关系。高级信息融合杂志11 31-46。
[60] Schölkopf,B.和Smola,A.(2002年)。使用内核学习:支持向量机、正则化、优化及其他。麻省理工学院出版社,剑桥。
[61] Sickel,W.和Ullrich,T.(2009年)。Sobolev-Besov空间的张量积及其在双曲叉逼近中的应用。J.近似理论161 748-786·Zbl 1194.46056号 ·doi:10.1016/j.jat.2009.01.01
[62] Sinescu,V.、Kuo,F.Y.和Sloan,I.H.(2012)。关于统计中一类广义响应模型的拟蒙特卡罗方法在函数空间中权重的选择。程序中。蒙特卡罗和准蒙特卡罗方法·Zbl 1302.65021号
[63] Smola,A.、Gretton,A.、Song,L.和Schölkopf,B.(2007年)。分布的希尔伯特空间嵌入。程序中。第18章。Conf算法学习。理论13-31·Zbl 1142.68407号
[64] Sommariva,A.和Vianello,M.(2006)。基于径向基函数的散乱数据的数值容积。计算76 295-310·Zbl 1091.65026号 ·文件编号:10.1007/s00607-005-0142-2
[65] Stein,M.L.(1995年a)。利用晶格上的观测预测随机场的积分。统计年鉴23 1975-1990·Zbl 0856.62083号 ·doi:10.1214/aos/1034713643
[66] Stein,M.L.(1995年b)。各向同性随机场的局部晶格采样设计。统计年鉴23 1991-2012·Zbl 0856.62084号 ·doi:10.1214/aos/1034713644
[67] Stein,M.L.(1999)。空间数据插值。统计学中的斯普林格系列。纽约州斯普林格。克里金的一些理论·Zbl 0924.62100号
[68] Steinwart,I.和Christmann,A.(2008年)。支持向量机。信息科学与统计。纽约州施普林格·兹比尔1203.68171
[69] Suldin,A.B.(1959年)。维纳测度及其在逼近方法中的应用。I.Izvestiya Vysshikh Uchebnykh Zavedenii公司。Matematika6 145-158。
[70] Szabó,B.、van der Vaart,A.W.和van Zanten,J.H.(2015)。自适应非参数贝叶斯可信集的频繁覆盖。统计年鉴43 1391-1428·Zbl 1317.62040号 ·doi:10.1214/14-AOS1270
[71] Traub,J.F.、Wasilkowski,G.W.和Woźniakowski,H.(1988)。基于信息的复杂性。计算机科学和科学计算。学术出版社,马萨诸塞州波士顿·Zbl 0654.94004号
[72] Wahba,G.(1990年)。观测数据的样条模型。CBMS-NSF应用数学区域会议系列59。宾夕法尼亚州费城SIAM·Zbl 0813.62001号
[73] Wendland,H.(2005)。分散数据近似。剑桥应用数学和计算数学专著17。剑桥大学出版社,剑桥·兹比尔1075.65021
[74] Xi,X.、Briol,F.-X.和Girolma,M.(2018)。多重相关积分的贝叶斯求积。国际机器学习会议,PMLR 80:5369-5378,arXiv:1801.04153。
[75] Xu,W.和Stein,M.L.(2017)。光滑高斯随机场模型的最大似然估计。SIAM/ASA J.不确定性。数量。5 138-175·兹伯利06736498 ·数字对象标识码:10.1137/15M105358X
[76] Yang,Y.和Dunson,D.B.(2016)。贝叶斯流形回归。统计年鉴44 876-905·Zbl 1341.62196号 ·doi:10.1214/15-AOS1390
[77] Yu,Y.、Debevec,P.、Malik,J.和Hawkins,T.(1999)。反向全局照明:从照片中恢复真实场景的反射模型。程序中。Ann.Conf.计算。图表。国际技术215-224。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。