×

离散空间中当地MCMC的知情提议。 (英语) Zbl 1445.60053号

摘要:对于具有离散值高维参数的统计模型,缺乏设计高效马尔可夫链蒙特卡罗(MCMC)算法的方法学结果。出于这一考虑,我们提出了一个简单的框架,用于设计知情的MCMC提案(即适当纳入目标当地信息的Metropolis-Hastings提案分发),该框架自然适用于离散空间。利用马尔可夫核的Peskun型比较,我们显式地刻画了该框架下的渐近最优建议分布类,我们称之为局部平衡的建议。与其他MCMC方案(包括哈密顿蒙特卡罗的离散版本)相比,所得算法在离散空间中实现简单,效率提高了几个数量级。使用模拟数据集和实际数据集进行模拟,包括贝叶斯记录链接的详细应用。与基于梯度的MCMC的直接联系表明,局部平衡方案可以被视为将后者扩展到离散空间的自然方式。

MSC公司:

60J22型 马尔可夫链中的计算方法
65二氧化碳 蒙特卡罗方法

软件:

化学需氧量
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Barker,A.A.,“质子-电子等离子体径向分布函数的蒙特卡罗计算”,《澳大利亚物理杂志》,第18期,第119-134页(1965年)·doi:10.1071/PH650119
[2] 布里斯科里尼,D。;Di Consiglio,L。;Liseo,B。;Tancredi,A。;Tuoto,T.,“具有联系不确定性的小面积估算新方法”,《国际近似推理杂志》,94,30-42(2018)·Zbl 1450.62011年 ·doi:10.1016/j.ijar.2017.12.005
[3] 科帕斯,J。;Hilton,F.,“记录链接:匹配计算机记录的统计模型”,《皇家统计学会杂志》,A辑,153287-320(1990)·doi:10.2307/2982975
[4] Dellaert,F.公司。;塞茨,S。;索普,C。;Thrun,S.,EM,MCMC,和未知对应的从运动到结构的链式翻转,机器学习,50,45-71(2003)·Zbl 1033.68083号
[5] Durmus,A。;Roberts,G.O。;Vilmart,G。;Zygalakis,K.C.,“基于langevin的高维MCMC快速算法”,《应用概率年鉴》,27,2195-2237(2017)·Zbl 1373.60053号 ·doi:10.1214/16-AAP1257
[6] Fellegi,I.P。;Sunter,A.B.,“记录关联理论”,《美国统计协会杂志》,64,1183-1210(1969)·Zbl 0186.53903号 ·doi:10.1080/016214591969.10501049
[7] Girolma,M。;Calderhead,B.,“黎曼流形-朗之万和哈密尔顿蒙特卡罗方法”,《皇家统计学会杂志》,B辑,73,123-214(2011)·兹比尔1411.62071 ·文件编号:10.1111/j.1467-9868.2010.00765.x
[8] Green,P.J。;Mardia,K.V.,“使用层次模型的贝叶斯对齐,在蛋白质生物信息学中的应用”,《生物特征》,93,235-254(2006)·Zbl 1153.62020年 ·doi:10.1093/biomet/93.2235
[9] Hastings,W.K.,“使用马尔可夫链的蒙特卡罗采样方法及其应用”,《生物特征分析》,第57期,第97-109页(1970年)·Zbl 0219.65008号 ·doi:10.1093/biomet/57.1.97
[10] Hurn,M.,《马尔可夫链蒙特卡罗方法中使用辅助变量的困难,统计与计算》,第7期,第35-44页(1997年)
[11] Jerrum,M。;Sinclair,A.,NP-hard问题的近似算法,“马尔可夫链蒙特卡罗方法:近似计数和积分的方法,482-520(1996),波士顿:PWS出版公司,波士顿
[12] Johndrow,J。;Lum,K。;Dunson,D.,“记录链接的微聚类理论极限”,《生物统计学》,105,431-446(2018)·兹伯利07072422 ·doi:10.1093/biomet/asy003
[13] A.李。;Yau,C。;贾尔斯,M.B。;Doucet,A。;Holmes,C.C.,“关于图形卡在高级蒙特卡罗方法大规模并行模拟中的应用”,《计算与图形统计杂志》,19,769-789(2010)·doi:10.1198/jcgs.2010.10039
[14] 莱文,D。;佩雷斯,Y。;Wilmer,E.,Markov Chains and Mixing Times(2009),普罗维登斯,RI:美国数学学会,普罗维登斯,RI·Zbl 1160.60001号
[15] Liu,J.S。;梁,F。;Wong,W.H.,“都市抽样中的多重尝试方法和局部优化”,《美国统计协会杂志》,95,121-134(2000)·Zbl 1072.65505号 ·doi:10.1080/01621459.2000.10473908
[16] McVeigh,B.S。;Murray,J.S.,“记录关联的实用贝叶斯推断”,arXiv预印本arXiv:1710.10558(2017)
[17] 北卡罗来纳州大都会。;罗森布鲁斯,A.W。;Rosenbluth,M.N。;出纳员,A.H。;Teller,E.,“快速计算机的状态方程计算”,《化学物理杂志》,211087-1092(1953)·Zbl 1431.65006号 ·doi:10.1063/1.1699114
[18] 摩尔,麻省理工学院。;哈格雷夫,C.E。;Deegan,T。;鲍尔森,M。;哈登,F。;Mengersen,K.,“隐Potts模型的外场先验及其在锥束计算层析成像中的应用”,计算统计与数据分析,86,27-41(2015)·Zbl 1468.62141号 ·doi:10.1016/j.csda.2014.12.001
[19] 摩尔,麻省理工学院。;Pettitt,A.N。;Mengersen,K.,“隐藏Potts模型逆温度的可缩放贝叶斯推断”,arXiv预印本arXiv:1503.08066(2015)
[20] 尼尔·R。;布鲁克斯,S。;Gelman,A。;琼斯·G。;Meng,X.,《马尔可夫链蒙特卡罗手册》,《使用哈密顿动力学的MCMC》,113-162(2011),纽约:CRC出版社,纽约·Zbl 1218.65001号
[21] 西村,A。;邓森,D。;Lu,J.,离散参数采样的间断哈密顿蒙特卡罗,arXiv预印本arXiv:1705.08510(2017)
[22] 哦,S。;罗素,S。;Sastry,S.,Markov Chain Monte Carlo Data Association for Multi-Target Tracking,IEEE Transactions on Automatic Control,54,481-497(2009年)·Zbl 1367.93655号
[23] Pakman,A。;Paninski,L.,“二元分布辅助变量精确哈密顿蒙特卡罗采样器,2490-2498(2013)
[24] Peskun,P.,“使用马尔可夫链的最佳蒙特卡罗采样”,《生物特征分析》,第60期,第607-612页(1973年)·Zbl 0271.62041号 ·doi:10.1093/biomet/60.3.607
[25] 普卢默,M。;贝斯特,N。;Cowles,K。;葡萄藤。,K.,Coda:MCMC的收敛诊断和输出分析,R News,6,7-11(2006)
[26] 罗伯特·C。;Casella,G.,《蒙特卡罗统计方法》(2005),海德堡:柏林施普林格出版社,海德伯格
[27] 罗伯茨,G。;Rosenthal,J.,“Langevin扩散离散近似的最优标度”,《皇家统计学会杂志》,B辑,60255-268(1998)·Zbl 0913.60060号 ·doi:10.1111/1467-9868.00123
[28] 罗伯茨,G。;Gelman,A。;Gilks,W.,“随机行走都市算法的弱收敛性和最优缩放”,《应用概率年鉴》,第7期,第110-120页(1997年)·Zbl 0876.60015号 ·doi:10.1214/aoap/1034625254
[29] Sadinel,M.,“记录关联二元匹配的贝叶斯估计”,《美国统计协会杂志》,第112期,第1-13页(2017年)
[30] Schäfer,C。;肖邦,N.,“大二进制采样空间上的序贯蒙特卡罗”,《统计与计算》,23,163-184(2013)·Zbl 1322.62035号 ·doi:10.1007/s11222-011-9299-z
[31] Steorts,R.C.,“基于经验激励先验的实体解析”,贝叶斯分析,10,849-875(2015)·兹比尔1335.62023 ·doi:10.1214/15-BA965SI
[32] 斯特尔斯,R.C。;霍尔,R。;Fienberg,S.E.,“图形记录链接和重复数据消除的贝叶斯方法”,《美国统计协会杂志》,1111660-1672(2016)·doi:10.1080/01621459.2015.1105807
[33] Swendsen,R.H。;Wang,J.-S,“蒙特卡罗模拟中的非通用临界动力学”,《物理评论快报》,58,86(1987)·doi:10.1103/PhysRevLett.58.86
[34] Tancredi,A。;Liseo,B.,“用层次贝叶斯方法记录联系和人口规模问题”,《应用统计年鉴》,51553-1585(2011)·Zbl 1223.62015年 ·doi:10.1214/10-AOAS447
[35] Tierney,L.,“关于一般状态空间的Metropolis-Hastings核的注记”,《应用概率年鉴》,8,1-9(1998)·兹比尔0935.60053 ·doi:10.1214/aoap/1027961031
[36] Titsias,M.K。;Papaspiliopoulos,O.,“基于辅助梯度的采样算法”,《皇家统计学会杂志》,B辑,80,749-767(2018)·Zbl 1398.62035号 ·doi:10.1111/rssb.12269
[37] Titsias,M.K。;Yau,C.,“汉明球采样器”,《美国统计协会杂志》,第112期,第1-14页(2017年)
[38] 韦林,M。;Teh,Y.,通过随机梯度Langevin动力学进行贝叶斯学习,681-688(2011)
[39] Zanella,G.,“盎格鲁-撒克逊地名的随机划分模型和互补聚类”,《应用统计年鉴》,9,1792-1822(2015)·Zbl 1397.62589号 ·doi:10.1214/15-AOAS884
[40] Zanella,G。;贝当古,B。;瓦拉赫,H。;Miller,J。;扎伊迪,A。;Steorts,R.C.,《应用于实体解析的微集群柔性模型》,神经信息处理系统进展,1417-1425(2016)
[41] Zhang,Y。;加赫拉马尼,Z。;Storkey,A.J。;萨顿,C.A。;佩雷拉,F。;伯格斯,C.J.C。;博图,L。;Weinberger,K.Q.,《神经信息处理系统进展,离散哈密尔顿蒙特卡罗连续松弛》,3194-3202(2012),内华达州塔霍湖:Curran Associates,Inc,内华达州塔霍湖区
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。