×

稀疏分层非平稳模型的后验推理。 (英语) Zbl 1510.62068号

概述:高斯过程是非参数建模的有用工具,通常采用平稳性假设。虽然消除这一假设可以改善预测,但拟合此类模型具有挑战性。基于具有随机空间变化参数的高斯马尔可夫随机场,构造了层次模型。重要的是,这允许非平稳性,同时也通过精度矩阵的稀疏带状表示来解决计算负担。在这种情况下,由于参数和超参数的强后验耦合,高效的马尔可夫链蒙特卡罗(MCMC)采样具有挑战性。为了更快地进行推理,利用带状矩阵运算,开发并比较了三种自适应MCMC方案。此外,通过一种保持模型灵活性和可扩展性的加性结构,同时继承了加性方法的可解释性,提出了一种对高维输入空间的新扩展。针对模拟实验和计算机仿真问题,对这些方法在非平稳环境中的效率和准确性进行了全面评估。

MSC公司:

2008年6月62日 统计问题的计算方法
62G05型 非参数估计
62M40型 随机字段;图像分析
62立方米 从空间过程推断
60G15年 高斯过程
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Anderes,E.B。;Stein,M.L.,估计平面上各向同性高斯随机场的变形,Ann.Statist。,36, 2, 719-741 (2008) ·Zbl 1133.62077号
[2] 贝罗卡尔,V.J。;Raftery,A.E。;Gneiting,T。;Steed,R.C.,《冬季道路养护的概率天气预报》,J.Amer。统计师。协会,105490522-537(2010)·Zbl 1392.62330号
[3] Blomqvist,K。;Kaski,S。;Heinonen,M.,深卷积高斯过程(2018),arXiv:1810.03052,未发表的结果
[4] Buja,A。;哈斯蒂,T。;Tibshirani,R.,线性平滑器和加法模型,Ann.Statist。,17, 2, 453-510 (1989) ·Zbl 0689.62029号
[5] 陈,V。;邓洛普,M.M。;O.帕帕斯皮利奥普洛斯。;Stuart,A.M.,贝叶斯反问题中的维稳健MCMC(2019),arXiv:1803.03344,未发表的结果
[6] Cheng,L。;Ramchandran,S。;Vatanen,T。;利特赞,n。;拉赫斯马,R。;Vehtari,A。;Lähdesmäki,H.,纵向数据可解释非参数分析的加性高斯过程回归模型,自然公社。,10, 1, 1798 (2019)
[7] Damianou,A。;Lawrence,N.,Deep Gaussian processes,(Carvalho,C.M.;Ravikumar,P.,《第十六届人工智能与统计国际会议论文集》,《第十七届人工智能和统计国际会议文献集》,机器学习研究论文集,第31卷(2013),PMLR),207-215
[8] Donoho,D.L。;Johnstone,I.M.,《通过小波收缩适应未知平滑度》,J.Amer。统计师。协会,90,432,1200-1224(1995)·Zbl 0869.62024号
[9] 邓洛普,M.M。;吉罗拉米,M。;Stuart,A.M。;Teckentrup,A.L.,深高斯过程有多深?,J.马赫。学习。决议,19,1-46(2018)·Zbl 1469.60107号
[10] 北卡罗来纳州杜兰德。;V·亚当。;波尔多,L。;Eleftheriadis,S。;Hensman,J.,自动微分时代高斯马尔可夫模型的带状矩阵算子,(Chaudhuri,K。;Sugiyama,M.,《第22届国际人工智能与统计会议论文集》。第22届国际人工智能与统计会议论文集,《机器学习研究论文集》,第89卷(2019年),PMLR),2780-2789
[11] Duvenaud,D。;尼基什,H。;Rasmussen,C.E.,加法高斯过程,(《第24届神经信息处理系统国际会议论文集》,第24届国际神经信息处理会议论文集,NIPS’11(2011),Curran Associates Inc.),226-234
[12] Duvenaud,D。;Rippel,O。;亚当斯,R。;Ghahramani,Z.,《在非常深的网络中避免病理学》,(第十七届国际人工智能和统计会议论文集。第十七届人工智能和统计学国际会议论文集,机器学习研究论文集,第33卷(2014),PMLR),202-210
[13] Fagan,F。;班达里,J。;坎宁安,J.P.,带期望传播的椭圆切片取样,(第三十二届人工智能不确定性会议论文集。第三十二次人工智能不确定度会议论文集,UAI’16(2016),AUAI出版社),172-181
[14] Filippone,M。;钟,M。;Girolma,M.,高斯过程模型随机推理方法的比较评估,马赫数。学习。,93, 1, 93-114 (2013) ·Zbl 1294.62048号
[15] Fouedjio,F。;北卡罗来纳州德萨西斯。;Rivoirard,J.,非平稳随机函数的广义卷积模型和估计,Spat。统计,16,35-52(2016)
[16] 弗里德曼,J.H。;Stuetzle,W.,投影寻踪回归,J.Amer。统计师。协会,76376817-823(1981)
[17] Fuglstad,G.A。;林格伦,F。;D.辛普森。;Rue,H.,探索一类新的具有不同局部各向异性的非平稳空间高斯随机场,Statist。Sinica,25,1,115-133(2015)·兹比尔1480.62194
[18] Fuglstad,G.A。;D.辛普森。;林格伦,F。;Rue,H.,非平稳空间数据总是需要非平稳随机场吗?,小争吵。统计,14,505-531(2015)
[19] Gilboa,E。;Saatçi,Y。;坎宁安,J.P.,使用投影加性近似缩放多维高斯过程,(第30届机器学习国际会议论文集(2013)),454-461
[20] 吉尔博亚,E。;Saatçi,Y。;坎宁安,J.P.,结构化高斯过程的尺度多维推理,IEEE Trans。模式分析。机器。智力。,37, 2, 424-436 (2015)
[21] Gramacy,R.B.,Tgp:一个用于贝叶斯非平稳、半参数非线性回归的R包,并通过树状高斯过程模型进行设计,J.Stat.Softw。,19, 9, 1-46 (2007)
[22] Gramacy,R.B.,LaGP:通过R,J.Stat.Softw中的局部近似高斯过程进行大尺度空间建模。,72, 1, 1-46 (2016)
[23] Gramacy,R.B。;Lee,H.K.,贝叶斯树高斯过程模型及其在计算机建模中的应用,J.Amer。统计师。协会,103,483,1119-1130(2008)·Zbl 1205.62218号
[24] Harville,D.A.,《统计学家视角下的矩阵代数》,第1卷(1997),施普林格出版社·Zbl 0881.15001号
[25] 希顿,M.J。;Datta,A。;芬利,A.O。;富勒,R。;吉尼斯,J。;Guhaniyogi,R。;Gerber,F。;Gramacy,R.B。;哈姆林,D。;Katzfuss,M。;林格伦,F。;Nychka,D.W。;Sun,F。;Zammit-Magion,A.,《大型空间数据分析方法之间的竞争案例研究》,J.Agric。生物与环境。统计,24,3,398-425(2018)·Zbl 1426.62345号
[26] Hegde,P。;海诺宁,M。;Lähdesmäki,H。;Kaski,S.,《微分高斯过程流的深度学习》,(Chaudhuri,K.;Sugiyama,M.,《第二十二届国际人工智能与统计会议论文集》,《第22届国际人工智慧与统计会议文献集》,机器学习研究论文集,第89卷(2019),PMLR), 1812-1821
[27] 海诺宁,M。;Mannerström,H。;鲁苏,J。;Kaski,S。;Lähdesmäki,H.,《非静态高斯过程与哈密尔顿蒙特卡罗回归》,(《第19届国际人工智能与统计会议论文集》,《第19次国际人工智能和统计会议论文集中》,《机器学习研究论文集》第51卷(2016),PMLR),732-740
[28] 凯皮奥,J。;Somersalo,E.,《统计与计算反问题》(2006),Springer Science&Business Media·Zbl 0927.35134号
[29] Katzfush,M.,《超大数据集的贝叶斯非平稳空间建模》,环境计量学,24,3,189-200(2013)
[30] Kim,H.-M。;马利克,B.K。;Holmes,C.,《使用分段高斯过程分析非平稳空间数据》,J.Amer。统计师。协会,100470653-668(2005)·Zbl 1117.62368号
[31] 克莱伯,W。;Nychka,D.,多元空间过程的非平稳建模,J.多元分析。,112, 76-91 (2012) ·Zbl 1273.62235号
[32] 朗·T。;普拉格曼,C。;Burgard,W.,地形建模的自适应非平稳核回归,(机器人:科学与系统(RSS)(2007))
[33] 林格伦,F。;H街。;Lindström,J.,《高斯场和高斯-马尔可夫随机场之间的明确联系:随机偏微分方程方法》,J.R.Stat.Soc.Ser。B统计方法。,73, 4, 423-498 (2011) ·Zbl 1274.62360号
[34] Matheron,G.,《内在随机函数及其应用》,高级应用。可能性。,439-468 (1973) ·Zbl 0324.60036号
[35] 马修斯,A.G。;范德威尔克,M。;Nickson,T。;Fujii,K。;布库瓦拉斯,A。;利奥·维拉格拉,P。;加赫拉马尼,Z。;Hensman,J.,《GPflow:使用TensorFlow,J.Mach的高斯过程库》。学习。第18号、第1号、第1299-1304号决议(2017年)·Zbl 1437.62127号
[36] 蒙塔格纳,S。;Tokdar,S.T.,非平稳高斯过程的计算机仿真,SIAM/ASA J.不确定性。数量。,4, 1, 26-47 (2016) ·Zbl 1387.62091号
[37] 我·穆雷。;Adams,R.P.,潜在高斯模型的切片抽样协方差超参数,(Lafferty,J.;Williams,C.;Shawe-Taylor,J.,Zemel,R.;Culotta,A.,《神经信息处理系统的进展》(2010),Curran Associates,Inc.),1732-1740
[38] 我·穆雷。;亚当斯,共和党人。;麦凯,D.J.,椭圆切片取样,(《第13届国际人工智能与统计会议论文集》,第13届人工智能与统计学国际会议论文集,《机器学习研究论文集》第9卷(2010)),541-548
[39] Neto,J.H.V。;施密特,A.M。;Guttorp,P.,《空间协方差结构中空间变化方向效应的解释》,J.R.Stat.Soc.Seri。C.申请。统计,63,1,103-122(2014)
[40] Paciorek,C.J。;Schervish,M.J.,使用一类新的非平稳协方差函数的空间建模,环境计量学,17,5,483-506(2006)
[41] Pintore,A。;Holmes,C.,《通过空间自适应谱的空间自适应非平稳协方差函数技术报告》(2004),牛津大学
[42] Raftery,A.E。;Lewis,S.M.,【实用马尔可夫链蒙特卡罗】:评论:诊断的一个长期运行:马尔可夫链蒙特卡罗的实现策略,统计师。科学。,7, 4, 493-497 (1992)
[43] Risser,M.D.,《非平稳空间建模,重点是过程卷积和协变量驱动方法》(2016),arXiv:1610.02447,未发表的结果
[44] Risser,医学博士。;Calder,C.A.,具有空间可变参数的协方差函数的局部似然估计:R,J.Stat.Softw的convoSPAT包。,81, 1, 1-32 (2017)
[45] Roberts,G.O。;Rosenthal,J.S.,自适应MCMC示例,J.Compute。图表。统计学。,18, 2, 349-367 (2009)
[46] 罗伊宁,L。;Girolma,M。;Lasanen,S。;Markkanen,M.,Matérn场的超验函数及其在贝叶斯反演中的应用,逆问题。成像,13,1,1-29(2019)·Zbl 1454.60068号
[47] H街。;Held,L.,《高斯马尔可夫随机场:理论与应用》(2005),Chapman和Hall/CRC·兹比尔1093.60003
[48] 桑普森,P。;Damian,D。;Guttorp,P.,《具有非平稳空间协方差的环境过程建模和推断进展》,(GeoENV III-环境应用地理统计学,第11卷(2001年),Springer),17-32
[49] 塞勒,M.C。;Seiler,F.A.,《C中的数值配方:科学计算的艺术》,《风险分析》。,9, 3, 415-416 (1989)
[50] Stathopoulos,V。;Zamora-Gutierrez,V。;琼斯,K。;Girolma,M.,用高斯过程多项式概率回归和动态时间扭曲核进行蝙蝠叫声识别,(《第十七届国际人工智能与统计会议论文集》,《第十七届国际人工智能与统计会议论文集》,《机器学习研究论文集》,第33卷(2014),PMLR),913-921
[51] Stein,M.L.,《非平稳空间协方差函数技术报告21》(2005年),芝加哥大学统计与环境科学整合中心:芝加哥大学统计和环境科学集成中心
[52] Titsias,M.K。;Papaspiliopoulos,O.,《基于梯度的辅助采样算法》,J.R.Stat.Soc.Ser。B统计方法。,80749-767(2018)·Zbl 1398.62035号
[53] Vannucci,M。;Corradi,F.,《小波系数的协方差结构:贝叶斯视角下的理论和模型》,J.R.Stat.Soc.Ser。B统计方法。,61, 4, 971-986 (1999) ·Zbl 0940.62023号
[54] Volodina,V。;Williamson,D.B.,使用内核混合的诊断驱动非平稳仿真器,SIAM/ASA J.Uncertain。数量。,8, 1, 1-26 (2020) ·Zbl 1436.62365号
[55] Wood,S.,Mgcv:带自动平滑度估计的混合GAM计算工具(2019年),R包版本1.8-31
[56] Yu,Y。;孟晓乐,“以中心还是不以中心为中心:这不是一个问题——提高MCMC效率的并行充分交织策略(ASIS),J.Compute。图表。统计学。,20, 3, 531-570 (2011)
[57] Yu,Y.R。;D.辛普森。;林格伦,F。;Rue,H.,使用随机微分方程的贝叶斯自适应平滑样条,贝叶斯分析。,9, 2, 397-424 (2014) ·Zbl 1327.62234号
[58] Zhang,H.,基于模型的地质统计学中的不一致估计和渐近相等插值,J.Amer。统计师。协会,99,465,250-261(2004)·Zbl 1089.62538号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。