×

连接点:具有状态相关事件率的数值随机哈密顿蒙特卡罗。 (英语) Zbl 07633317号

摘要:介绍了数值广义随机哈密顿蒙特卡罗方法,它是一种稳健、易于使用、计算速度快的连续目标分布马尔可夫链蒙特卡罗算法的替代方法。定义了一类广泛的分段确定性马尔可夫过程,通过允许状态相关事件率来推广随机HMC(Bou-Rabee和Sanz-Serna)。在非常温和的限制下,此类过程将具有期望的目标分布作为不变分布。其次,考虑基于二阶常微分方程(ODE)自适应数值积分的此类过程的数值实现。数值实现产生了一个近似但高度鲁棒的算法,与传统的哈密顿蒙特卡罗不同,该算法能够利用完整的哈密尔顿轨迹(因此,标题)。相对于相关基准,所提出的算法可能会产生较大的加速和稳定性改进,同时产生相对于整体蒙特卡罗误差可以忽略不计的数值偏差。由于可以访问高质量的ODE代码,因此所提出的方法很容易实现和使用,即使对于具有高度挑战性和高维的目标分布也是如此。本文的补充材料可在网上获得。

MSC公司:

62至XX 统计
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 亚伯拉罕·M·J。;Murtola,T。;舒尔茨,R。;帕尔,S。;J.C.史密斯。;赫斯,B。;Lindahl,E.,“GROMACS:通过从笔记本电脑到超级计算机的多级并行性进行高性能分子模拟”,SoftwareX,1-2,19-25(2015)·doi:10.1016/j.softx.2015.06.001
[2] Andersen,H.C.,“恒定压力和/或温度下的分子动力学模拟”,《化学物理杂志》,72,2384-2393(1980)·数字对象标识代码:10.1063/1.439486
[3] 比尔肯斯,J。;费恩黑德,P。;Roberts,G.,“大数据贝叶斯分析的Zig-Zag过程和超有效抽样,统计年鉴,471288-1320(2019)·Zbl 1417.65008号 ·doi:10.1214/18-AOS1715
[4] 比尔肯斯,J。;Grazzi,S。;Kamatani,K。;Roberts,G.,《Boomerang采样器》,arXiv:2006.13777(2020)
[5] 北卡罗来纳州Bou-Rabee。;埃伯利,A.,安达信动力公司联轴器,arXiv:2009.14239(2020)·Zbl 1492.37079号
[6] 北卡罗来纳州Bou-Rabee。;Eberle,A.,未调整哈密尔顿蒙特卡罗混合时间保证,arXiv:2105.00887(2021)·Zbl 07634385号
[7] 北卡罗来纳州Bou-Rabee。;Sanz-Serna,J.M.,“随机哈密尔顿蒙特卡罗”,《应用概率年鉴》,27,2159-2194(2017)·Zbl 1373.60129号
[8] 北卡罗来纳州Bou-Rabee。;Sanz-Serna,J.M.,“几何积分器和哈密尔顿蒙特卡罗方法”,《数值学报》,第27期,第113-206页(2018年)·Zbl 1431.65004号
[9] 北卡罗来纳州Bou-Rabee。;Schuh,K.,Mean场模型的未调整哈密顿蒙特卡罗收敛性,arXiv:2009.08735(2020)·Zbl 1529.60047号
[10] 布沙尔-科特,A。;Vollmer,S.J。;Doucet,A.,“反弹粒子采样器:不可逆拒绝自由马尔可夫链蒙特卡罗方法”,美国统计协会杂志,113855-867(2018)·兹比尔1398.60084 ·doi:10.1080/01621459.2017.1294075
[11] 坎巴尼,S。;黄,S。;Simons,G.,“关于椭圆等高线分布的理论,多元分析杂志,11,368-385(1981)·Zbl 0469.60019号 ·doi:10.1016/0047-259X(81)90082-8
[12] Cances,E。;Legoll,F。;Stoltz,G.,“分子动力学某些取样方法的理论和数值比较,ESAIM:数学建模和数值分析,41,351-389(2007)·Zbl 1138.82341号 ·doi:10.1051/m2安:2007014
[13] 卡彭特,B。;Gelman,A。;霍夫曼,M。;Lee,D。;古德里奇,B。;贝当古,M。;布鲁贝克,M。;郭杰。;李,P。;Riddell,A.,“Stan:概率编程语言,统计软件杂志,76,1-32(2017)·doi:10.18637/jss.v076.i01
[14] 陈,Z。;Vempala,S.S。;Achlioptas,D。;Végh,L.A.,近似、随机化和组合优化。算法与技术,APPROX/RANDOM2019,2019年9月20日至22日,麻省理工学院,马萨诸塞州剑桥,美国,145,强对数凹分布的哈密顿蒙特卡罗的最优收敛率,64:1-64:12(2019),Schloss Dagstuhl-Leibniz Zentrum für Informatik·Zbl 07650131号
[15] Cheng,X。;查特基,新南威尔士州。;Bartlett,P.L。;M.I.乔丹。;布贝克,S。;珀歇,V。;Rigollet,P.,《第31届学习理论会议论文集》,《机器学习研究论文集》第75卷,欠阻尼Langevin mcmc:非症状分析,300-323(2018),PMLR
[16] 肖邦,N。;Ridgway,J.,“让皮马印第安人独处:二元回归作为贝叶斯计算的基准,统计科学,32,64-87(2017)·Zbl 1442.62007年 ·doi:10.1214/16-STS581
[17] 科特,S。;豪斯,T。;Pagani,F.,The NuZZ:一般模型的数值ZigZag采样,arXiv:2003.03636(2020)
[18] Davis,M.H.A.,“分段确定马尔可夫过程:非扩散随机模型的一般类”,《皇家统计学会杂志》,B辑,46,353-376(1984)·Zbl 0565.60070号 ·doi:10.1111/j.2517-6161.1984.tb01308.x
[19] Davis,M.H.A.,《马尔可夫模型与优化》(1993),伦敦:查普曼和霍尔出版社,伦敦·Zbl 0780.60002号
[20] Deligiannidis,G.(德利吉安尼迪斯,G.)。;Paulin,D。;布沙尔德·科特,A。;Doucet,A.,随机哈密顿蒙特卡罗作为反弹粒子采样器的尺度极限和无量纲收敛速度,arXiv:1808.04299(2018)·Zbl 1484.65004号
[21] J·多曼德。;Prince,P.,“Runge-Kutta-Nystrom三元组”,《计算机与数学应用》,第13期,第937-949页(1987年)·Zbl 0633.65061号
[22] 方,Y。;桑兹·塞尔纳,J.M。;Skeel,R.D.,“可压缩广义混合蒙特卡罗,化学物理杂志,140,174108(2014)·doi:10.1063/1.4874000
[23] 费恩黑德,P。;比尔肯斯,J。;波洛克,M。;Roberts,G.O.,“连续时间蒙特卡罗的分段确定性马尔可夫过程,统计科学,33,386-412(2018)·Zbl 1403.62148号 ·doi:10.1214/18-STS648
[24] Gelman,A。;卡林,J.B。;斯特恩,H.S。;邓森,D.B。;Vehtari,A.公司。;Rubin,D.,贝叶斯数据分析(2014),佛罗里达州博卡拉顿:CRC出版社,佛罗里达州波卡拉顿·兹比尔1279.62004
[25] Geyer,C.J.,“实用马尔可夫链蒙特卡罗,统计科学,7473-483(1992)·Zbl 0085.18501号 ·doi:10.1214/ss/117701137
[26] Giles,M.B.,“多级蒙特卡罗方法,数值学报,24,259-328(2015)·Zbl 1316.65010号 ·doi:10.1017/S096249291500001X文件
[27] Girolma,M。;Calderhead,B.,“黎曼流形-朗之万和哈密尔顿蒙特卡罗方法,皇家统计学会期刊,B辑,73,123-214(2011)·Zbl 1411.62071号 ·文件编号:10.1111/j.1467-9868.2010.00765.x
[28] Goldstein,H。;普尔,C。;Safko,J.,经典力学(2002),波士顿:Addison-Wesley,波士顿
[29] 戈洛斯诺伊,V。;Gribisch,B。;Liesenfeld,R.,“多元股市波动的条件自回归Wishart模型,计量经济学杂志,167,211-223(2012)·Zbl 1441.62705号 ·doi:10.1016/j.jeconom.2011.11.004
[30] 格罗特,O。;克莱佩,T.S。;Liesenfeld,R.,“状态空间模型中具有粒子效率重要性采样的吉布斯采样器,计量经济学评论,38,1152-1175(2019)·Zbl 1490.62080号 ·doi:10.1080/074744938.2018.1536098
[31] Hairer,大肠杆菌。;诺塞特,S.P。;Wanner,G.,《求解常微分方程I》(第二版):非刚性问题(1993),柏林,海德堡·Zbl 0789.65048号
[32] 医学博士霍夫曼。;Gelman,A.,“无旋转取样器:在哈密尔顿蒙特卡罗中自适应设置路径长度”,《机器学习研究杂志》,第15期,第1593-1623页(2014年)·Zbl 1319.60150号
[33] Horowitz,A.M.,“广义引导蒙特卡罗算法,物理快报B,268247-252(1991)·doi:10.1016/0370-2693(91)90812-5
[34] Kleppe,T.S.,“基于Hessian的流形Langevin采样器的自适应步长选择,斯堪的纳维亚统计杂志,43,788-805(2016)·Zbl 1468.62435号 ·doi:10.1111/sjos.12204
[35] Lee,Y.T。;宋,Z。;Vempala,S.S.,ODE算法理论和井条件对数凹面密度采样,arXiv:1812.06243(2018)
[36] 莱姆库勒,B。;Matthews,C.,《确定性和随机数值方法的分子动力学》(2015),纽约:Springer,纽约·Zbl 1351.82001号
[37] 莱姆库勒,B。;Reich,S.,《模拟哈密顿动力学》(2004),剑桥:剑桥大学出版社,剑桥·Zbl 1069.65139号
[38] Li,D.,“关于分子动力学中安徒生恒温器收敛到平衡的速度,统计物理杂志,129265-287(2007)·2014年8月11日 ·doi:10.1007/s10955-007-9391-0
[39] 利文斯顿,S。;福克纳,M.F。;Roberts,G.O.,“哈密顿/混合蒙特卡罗中的动能选择,生物统计学,106,303-319(2019)·兹比尔1439.60070 ·doi:10.1093/biomet/asz013
[40] 卢,J。;Wang,L.,关于MCMC算法中分段确定性Markov过程的显式L^2收敛速度估计,arXiv:2007.14927(2020)
[41] Mackenze,P.B.,“改进的混合蒙特卡罗方法”,《物理快报》B,226369-371(1989)·doi:10.1016/0370-2693(89)91212-4
[42] O.Mangoubi。;Smith,A.,强对数凹面分布上哈密顿蒙特卡罗快速混合,arXiv:1708.07114(2017)
[43] O.Mangoubi。;A.史密斯。;乔杜里,K。;Sugiyama,M.,《第二十二届人工智能与统计国际会议论文集》,《机器学习研究论文集》第89卷,强对数凹面分布上哈密顿蒙特卡罗混合:数值积分,586-595(2019),PMLR
[44] Michie,D。;施皮盖尔哈特,D.J。;Taylor,C.C.,《机器学习、神经和统计分类》。人工智能系列(1994),赫特福德郡赫梅尔·亨普斯特德:埃利斯·霍伍德,赫梅尔·汉普斯特德·Zbl 0827.68094号
[45] Neal,R.M.,“切片抽样,统计年鉴,31705-767(2003)·Zbl 1051.65007号 ·doi:10.1214/aos/1056562461
[46] 尼尔·R·M。;布鲁克斯,S。;Gelman,A。;琼斯,G。;Meng,X.-L.,《马尔可夫链蒙特卡罗手册》,MCMC使用哈密顿动力学”,113-162(2010),佛罗里达州博卡拉顿:CRC出版社,佛罗里达州波卡拉顿
[47] 西村,A。;Dunson,D.,“回收中间步骤以改进哈密尔顿蒙特卡罗,贝叶斯分析,第15期,1087-1108页(2020年)·Zbl 1480.62060号 ·doi:10.1214/19-BA1171
[48] Osmundsen,K.K。;Kleppe,T.S。;Liesenfeld,R.,“贝叶斯层次模型基于重要性抽样的传输图哈密顿蒙特卡罗,计算与图形统计杂志(2021)·Zbl 07499926号 ·doi:10.1080/10618600.2021.1923519
[49] Pakman,A。;Paninski,L.,“截断多元高斯函数的精确哈密顿蒙特卡罗,计算与图形统计杂志,23,518-542(2014)·doi:10.1080/10618600.2013.788448
[50] 罗伯特·C·P。;Casella,G.,Monte Carlo统计方法(2004),纽约:Springer,纽约·Zbl 1096.62003年
[51] Roberts,G.O。;Rosenthal,J.S.,“离散近似对朗之万扩散的最佳缩放”,《皇家统计学会杂志》,B辑,60,255-268(1998)·Zbl 0913.60060号 ·doi:10.1111/1467-9868.00123
[52] 鲁道夫,D。;Schweizer,N.,“基于Wasserstein距离的马尔可夫链扰动理论”,伯努利,242610-2639(2018)·兹比尔1465.60065 ·文件编号:10.3150/17-BEJ938
[53] 桑兹·塞尔纳,J。;卡尔沃,M.,《数值哈密顿问题》(1994),纽约:多佛出版公司,纽约·Zbl 0816.65042号
[54] Stan开发团队。(2017),“Stan建模语言用户指南和参考手册2.17.0版”
[55] 瓦内蒂,P。;布沙尔德·科特,A。;Deligiannidis,G。;Doucet,A.,分段确定马尔可夫链蒙特卡罗,arXiv:1707.05296v2(2018)
[56] E.渭南。;Li,D.,“分子动力学中的安徒生恒温器,纯数学和应用数学通讯,61,96-136(2008)·Zbl 1148.82019年 ·doi:10.1002/cpa.20198
[57] 威灵,M。;Teh,Y.W.,第28届国际机器学习会议论文集,通过随机梯度Langevin动力学进行贝叶斯学习,681-688(2011),美国威斯康星州麦迪逊:Omnipress,美国威斯康星州麦迪森
[58] 吴,C。;Stoehr,J。;Robert,C.P.,通过学习跳跃标度的更快哈密顿蒙特卡罗,arXiv:1810.04449(2018)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。