×

双棘手分布的函数仿真方法。 (英语) Zbl 07499272号

摘要:在许多情况下,例如在点过程的马尔可夫模型和网络的指数随机图模型中,都会出现双重难以处理的分布。这些模型的贝叶斯推断具有挑战性,因为它们涉及难以规范化的“常数”,而这些“常数”实际上是相关参数的函数。尽管已经为这些模型开发了几种计算方法,但对于许多问题来说,每种方法都可能会带来计算负担,甚至不可行。我们提出了一种新的算法,该算法通过用基于高斯过程的近似代替标准化函数的蒙特卡罗近似来提供比现有方法更高的计算增益。我们为这种方法提供了理论依据。我们还开发了一种密切相关的算法,该算法更广泛地适用于评估成本高昂的任何似然函数。我们说明了我们的方法在挑战模拟和实际数据示例中的应用,包括指数随机图模型、马尔可夫点过程和传染病动力学模型。与现有方法相比,该算法在计算效率方面有显著提高,并有可能在更具挑战性的问题上获得更大的增益。对于随机图模型示例,我们展示了当其他算法在计算上不实用时,这种效率上的提高如何使我们能够进行准确的贝叶斯推断。本文的补充材料可在网上获得。

MSC公司:

62至XX 统计
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿尔基尔,P。;弗里尔,N。;埃弗里特,R。;Boland,A.,“噪声蒙特卡罗:具有近似转移核的马尔可夫链的收敛性”,《统计与计算》,26,29-47(2016)·Zbl 1342.60122号 ·doi:10.1007/s11222-014-9521-x
[2] Andrieu,C。;Roberts,G.O.,“有效蒙特卡罗计算的伪边缘方法”,《统计年鉴》,第37期,第697-725页(2009年)·Zbl 1185.60083号 ·doi:10.1214/07-AOS574
[3] 阿查德,Y。;Lartillot,N。;Robert,C.P.,“具有难控制归一化常数的统计模型的贝叶斯计算”,《巴西概率与统计杂志》,27416-436(2008)·Zbl 1298.62046号 ·doi:10.1214/11-BJPS174
[4] Beaumont,M.A.,“遗传监测人群中人口增长或下降的估计”,《遗传学》,1641139-1160(2003)
[5] 博蒙特,医学硕士。;张伟。;Balding,D.J.,“群体遗传学中的近似贝叶斯计算”,遗传学,1622025-2035(2002)
[6] Besag,J.,“晶格系统的空间相互作用和统计分析”,《皇家统计学会杂志》,B辑,36192-236(1974)·Zbl 0327.60067号 ·doi:10.1111/j.2517-6161.1974.tb00999.x
[7] 北卡罗来纳州布利兹纽克。;Ruppert,D。;Shoemaker,C.A.,“计算昂贵后验密度的无局部导数近似”,《计算与图形统计杂志》,21,476-495(2012)·doi:10.1080/10618600.2012.681255
[8] Boland,A。;弗里尔,N。;Maire,F.,使用预计算的吉布斯随机场的有效MCMC,arXiv编号1710.04093(2017)
[9] Christen,J.A。;Fox,C.,“使用近似的马尔可夫链蒙特卡罗”,《计算与图形统计杂志》,第14795-810页(2005年)·doi:10.1198/106186005X76983
[10] 康拉德,P.R。;Marzouk,Y.M。;新南威尔士州皮莱。;Smith,A.,“通过局部近似加速计算密集型模型的渐近精确MCMC”,美国统计协会杂志,1111591-1607(2016)·doi:10.1080/01621459.2015.1096787
[11] Cressie,N.,《空间数据统计》(2015),纽约:威利,纽约·Zbl 1347.62005年
[12] 达贡,L。;Menon,R.,“OpenMP:共享内存编程的行业标准API”,IEEE计算科学与工程,546-55(1998)·数字对象标识代码:10.1109/99.660313
[13] Dietz,K.,“流行病和谣言:一项调查”,《皇家统计学会杂志》,A辑,130,505-528(1967)·doi:10.2307/2982521
[14] Drovandi,C.C。;摩尔,麻省理工学院。;Boys,R.J.,“使用高斯过程加速伪边缘MCMC”,计算统计与数据分析,118,1-17(2018)·Zbl 1469.62057号 ·doi:10.1016/j.csda.2017.09.002
[15] Eddelbuettel,D。;弗朗索瓦,R。;Allaire,J。;钱伯斯,J。;贝茨,D。;Ushey,K.,“Rcpp:无缝R和C++集成”,《统计软件杂志》,第40期,第1-18页(2011年)·doi:10.18637/jss.v040.2008
[16] Flegal,J.M。;哈兰,M。;Jones,G.L.,“马尔可夫链蒙特卡罗:我们能相信第三个重要数字吗?”,《统计科学》,23,250-260(2008)·Zbl 1327.62017年 ·doi:10.1214/08-STS257
[17] Geyer,C.J。;布鲁克斯,S。;Gelman,A。;孟,X.-L。;Jones,G.L.,《马尔可夫链蒙特卡罗手册》,《马尔柯夫链蒙特卡洛简介》(2011),佛罗里达州博卡拉顿:查普曼和霍尔,佛罗里达州波卡拉顿·Zbl 1218.65001号
[18] 盖耶,C.J。;Möller,J.,“空间点过程的模拟程序和似然推断”,《斯堪的纳维亚统计杂志》,21359-373(1994)·Zbl 0809.62089号
[19] Geyer,C.J。;Thompson,E.A.,“相关数据的约束蒙特卡罗最大似然”,《皇家统计学会杂志》,B辑,54,657-699(1992)·doi:10.1111/j.2517-6161.1992.tb01443.x
[20] Goldstein,J。;哈兰,M。;西蒙诺夫,I。;弗里克斯,J。;Chiaromonte,F.,“呼吸道合胞病毒感染的吸引-排斥点过程模型”,生物统计学,71,376-385(2015)·Zbl 1390.62261号 ·doi:10.1111/biom.12667
[21] Golightly,A。;亨德森,D.A。;Sherlock,C.,“随机动力学模型中用于精确推断的延迟接受粒子MCMC”,统计学与计算,251039-1055(2015)·Zbl 1332.60117号 ·doi:10.1007/s11222-014-9469-x
[22] Gramacy,R.B。;Apley,D.W.,“大型计算机实验的局部高斯过程近似”,《计算与图形统计杂志》,24561-578(2015)·doi:10.1080/10618600.2014.914442
[23] Gramacy,R.B。;Lee,H.K.,“贝叶斯树高斯过程模型及其在计算机建模中的应用”,美国统计协会杂志,103,1119-1130(2008)·Zbl 1205.62218号 ·doi:10.1198/0162145000000689
[24] Gutmann,M.U。;Corander,J.,“基于模拟的统计模型无似然推断的贝叶斯优化”,《机器学习研究杂志》,17,4256-4302(2016)·Zbl 1392.62072号
[25] 休斯,J。;哈兰,M。;Caragea,P.,“格上二进制数据的自动逻辑模型”,《环境计量学》,22,857-871(2011)·doi:10.1002/env.1102
[26] Hunter,D.R.,“社交网络的曲线指数族模型”,《社交网络》,第29期,第216-230页(2007年)·doi:10.1016/j.socnet.2006.08.005
[27] 亨特·D·R。;Handcock,M.S.,“网络弯曲指数族模型的推断”,《计算与图形统计杂志》,第15期,第565-583页(2006年)·doi:10.1198/106186006X133069
[28] 亨特·D·R。;手动旋塞,M.S。;巴特斯,C.T。;Goodreau,S.M。;Morris,M.,“ergm:拟合、模拟和诊断网络指数族模型的软件包”,《统计软件杂志》,24,nihpa54860(2008)·doi:10.18637/jss.v024.i03
[29] 伊哈卡,R。;R.绅士,“R:数据分析和图形语言”,《计算与图形统计杂志》,5,299-314(1996)·doi:10.1080/10618600.1996.10474713
[30] Järvenpää,M。;古特曼,M。;Vehtari,A。;Marttinen,P.,估计细菌水平基因转移的近似贝叶斯计算中的高斯过程建模,arXiv编号1610.06462(2016)
[31] Jin,I.H。;袁,Y。;Liang,F.,“使用自适应交换采样器对指数随机图模型进行贝叶斯分析”,《统计学及其接口》,6559(2013)·Zbl 1326.05142号 ·doi:10.4310/SII.2013.v6.n4.a13
[32] Jones,G.L。;哈兰,M。;Caffo,B.S。;Neath,R.,“马尔可夫链蒙特卡罗固定宽度输出分析”,美国统计协会杂志,1011537-1547(2006)·Zbl 1171.62316号 ·doi:10.1198/016214500000492
[33] Joseph,V.R.,“使用基于实验设计的插值技术的贝叶斯计算”,《技术计量学》,54,209-225(2012)·doi:10.1080/00401706.2012.680399
[34] 约瑟夫·V·R。;Dasgupta,T。;Tuo,R。;Wu,C.J.,“使用最小能量设计对复杂曲面进行顺序探索”,《技术计量学》,57,64-74(2015)·doi:10.1080/0401706.2014.881749
[35] Kass,R.E。;卡林,B.P。;Gelman,A。;Neal,R.M.,“实践中的马尔可夫链蒙特卡罗:圆桌讨论”,《美国统计学家》,52,93-100(1998)·doi:10.1080/00031305.1998.10480547
[36] M.C.肯尼迪。;O'Hagan,A.,“计算机模型的贝叶斯校准”,《皇家统计学会杂志》,B辑,63,425-464(2001)·Zbl 1007.62021号 ·数字标识代码:10.1111/1467-9868.00294
[37] Krige,D.G.,“威特沃特斯兰德一些基本矿山估价问题的统计方法”,南非化学、冶金和采矿学会杂志,52,119-139(1951)
[38] Liang,F.,“具有不可测归一化常数的空间模型的双大都会-黑斯廷斯采样器”,《统计计算与模拟杂志》,80,1007-1022(2010)·Zbl 1233.62117号 ·doi:10.1080/00949650902882162
[39] 梁,F。;Jin,I.H.等人。;宋,Q。;Liu,J.S.,“从具有不可测归一化常数的分布中采样的自适应交换算法”,美国统计协会杂志,111,377-393(2016)·doi:10.1080/01621459.2015.1009072
[40] Lyne,A.-M。;Girolma,M。;阿查德,Y。;斯特拉赫曼,H。;Simpson,D.,“关于具有双重不可测可能性的贝叶斯推断的俄罗斯轮盘赌估计”,《统计科学》,30,443-467(2015)·兹比尔1426.62092 ·doi:10.1214/15-STS523
[41] 马林·J·M。;Pudlo,P。;罗伯特·C·P。;Ryder,R.J.,“近似贝叶斯计算方法”,《统计与计算》,第22期,第1167-1180页(2012年)·兹比尔1252.62022 ·doi:10.1007/s11222-011-9288-2
[42] 马约拉姆,P。;莫利托,J。;Plagnol,V.公司。;Tavaré,S.,“没有可能性的马尔可夫链蒙特卡罗”,《美利坚合众国国家科学院院刊》,10015324-15328(2003)·doi:10.1073/pnas.0306899100
[43] Y.Marzouk。;Xiu,D.,“逆向问题中贝叶斯推断的随机搭配方法”,《计算物理通信》,6826-847(2009)·Zbl 1364.62064号 ·doi:10.4208/cicp.2009.v6.p826
[44] Marzouk,Y.M。;Najm,H.N。;Rahn,L.A.,“反问题贝叶斯有效解的随机谱方法”,计算物理杂志,224560-586(2007)·Zbl 1120.65306号 ·doi:10.1016/j.jcp.2006.10.010
[45] Meeds,E。;Welling,M.,GPS-ABC:高斯过程替代近似贝叶斯计算,593-602(2014)
[46] Mitrophanov,A.Y.,“一致遍历马尔可夫链的灵敏度和收敛性”,《应用概率杂志》,421003-1014(2005)·Zbl 1092.60027号 ·doi:10.1239/jap/1134587812
[47] 莫勒,J。;Pettitt,A.N。;里夫斯,R。;Berthelsen,K.K.,“具有不可测归一化常数的分布的有效马尔可夫链蒙特卡罗方法”,Biometrika,93,451-458(2006)·Zbl 1158.62020号 ·doi:10.1093/biomet/93.2.451
[48] 摩尔,麻省理工学院。;Drovandi,C.C。;Mengersen,K。;Robert,C.P.,“图像分析中近似贝叶斯计算的预处理”,《统计与计算》,25,23-33(2015)·Zbl 1331.62158号 ·doi:10.1007/s11222-014-9525-6
[49] 默里,我。;加赫拉马尼,Z。;麦凯,D.J.C.,《第22届人工智能不确定性年会论文集》(UAI-06),双不可分分布MCMC,359-366(2006),AUAI出版社
[50] Park,J。;Goldstein,J。;哈兰,M。;Ferrari,M.,“预测疫苗接种对尼日尔轮状病毒病影响的集合方法”,《疫苗》,35,5835-5841(2017)·doi:10.1016/j.vacine.2017.09.020
[51] Park,J。;Haran,M.,“存在难以处理的归一化函数时的贝叶斯推断”,美国统计协会杂志,1131372-1390(2018)·Zbl 1402.62046号 ·doi:10.1080/01621459.2018.1448824
[52] Propp,J.G。;Wilson,D.B.,“耦合马尔可夫链的精确抽样及其在统计力学中的应用”,《随机结构与算法》,第9期,第223-252页(1996年)·Zbl 0859.60067号 ·doi:10.1002/(SICI)1098-2418(199608/09)9:1/2<223::AID-RSA14>3.0.CO;2-O型
[53] Rasmussen,C.E.,机器学习高级讲座,“机器学习中的高斯过程”,63-71(2004),柏林,海德堡:施普林格,柏林·Zbl 1120.68436号
[54] Reich,B.J。;加德纳,B.,“陆地物种的空间捕获-捕获模型”,环境计量学,25,630-637(2014)·Zbl 1525.62204号 ·doi:10.1002/env.2317
[55] Resnick,医学博士。;Bearman,P.S。;布鲁姆,R.W。;Bauman,K.E。;哈里斯·K·M。;Jones,J。;Tabor,J。;Beuhring,T。;筛分,R.E。;休,M。;爱尔兰M.,“保护青少年免受伤害:国家青少年健康纵向研究的结果”,Jama,278823-832(1997)
[56] 罗伯特·C。;Casella,G.,Monte Carlo Statistical Methods(2013),纽约:Springer Science&Business Media,纽约
[57] 罗宾斯,G。;帕蒂森,P。;卡利什,Y。;Lusher,D.,“社交网络指数随机图(p*)模型简介”,《社交网络》,29173-191(2007)·doi:10.1016/j.socnet.2006.08.002
[58] Roustant,O。;金斯堡,D。;Deville,Y.,“DiceKriging,DiceOptim:基于Kriging-Based Metamodeling and Optimization的计算机实验分析的两个R包”,《统计软件杂志》,51,1-55(2012)·doi:10.18637/jss.v051.i01
[59] Sacks,J。;Welch,W.J。;米切尔,T.J。;Wynn,H.P.,“计算机实验的设计与分析”,《统计科学》,第4期,第409-423页(1989年)·Zbl 0955.62619号 ·doi:10.1214/ss/1177012413
[60] 夏洛克,C。;Golightly,A。;Henderson,D.A.,“具有昂贵可能性的目标的自适应、延迟接受MCMC”,《计算与图形统计杂志》,26,434-444(2017)·doi:10.1080/10618600.2016.1231064
[61] 斯特劳斯,D.J.,“聚类模型”,《生物统计学》,62467-475(1975)·Zbl 0313.62044号 ·doi:10.1093/biomet/62.2.467
[62] Torrie,G.M。;Valleau,J.P.,“蒙特卡罗自由能估计中的非物理抽样分布:伞抽样”,《计算物理杂志》,23,187-199(1977)·doi:10.1016/0021-991(77)90121-8
[63] 王,H。;Li,J.,具有昂贵似然函数的贝叶斯推断的自适应高斯过程近似,arXiv编号1703.09930(2017)
[64] Wilkinson,R.D.,使用高斯过程加速ABC方法,JMLR研讨会和会议记录,331015-1023(2014)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。