×
马毅安;福克斯，艾米莉·B。;陈天琦;吴磊

跳跃和连续马尔可夫过程的不可逆采样器。 （英语） Zbl 1430.62060号

统计计算。 177-202年1月29日（2019年）.
摘要：在本文中，我们提出了Metropolis-Hastings（MH）和Metropolic-adjusted Langevin算法（MALA）的不可逆版本，主要关注后者。对于前者，我们展示了如何在拒绝时简单地在不同的提议和接受分布之间切换，以获得不可逆跳跃采样器（I-jump）。所得算法具有类似于MH的简单实现，但具有不可逆性的优点。然后，我们展示了如何将先前提出的MALA方法扩展到利用不可逆随机动力学作为I-Jump采样器中的建议分布。我们的实验探索了不可逆性如何在不同情况下提高采样器的效率。

引用于7文件

MSC公司：

2015年1月62日 贝叶斯推断
65二氧化碳 蒙特卡罗方法
60英尺74英寸 离散状态空间上的跳跃过程
62米05 马尔可夫过程：估计；隐马尔可夫模型

关键词：

贝叶斯推断;哈密尔顿蒙特卡罗;不可逆取样器;跳转进程;马尔科夫蒙特卡洛;大都会黑斯廷斯
PDF格式BibTeX公司 XML格式引用
\textit{Y.-A.Ma}等人，《统计计算》。29，第1号，177--202（2019；Zbl 1430.62060）
全文： 内政部 arXiv公司

参考文献：

[1] Andrieu，C.，Thoms，J.：自适应MCMC教程。统计计算。18, 343-373 (2008) ·doi:10.1007/s11222-008-9110-y
[2] Bardenet，R.，Doucet，A.，Holmes，C.：高数据的马尔可夫链蒙特卡罗方法。arXiv:1505.02827（2015）·Zbl 1433.68394号
[3] Bardenet，R.，Doucet，A.，Holmes，C.：走向放大马尔可夫链蒙特卡罗：一种自适应子采样方法。摘自：第30届国际机器学习会议（ICML’14）（2014）
[4] Barp，A.，Briol，F.-X.，Kennedy，A.D.，Girolma，M.：马尔可夫链蒙特卡罗的几何和动力学。arXiv:1705.02891（2017）
[5] Bartlett，M.S.：用连续谱平滑时间序列的周期图。《自然》161，686-687（1948）·数字对象标识代码：10.1038/161686a0
[6] Bierkens，J.、Fearnhead，P.、Roberts，G.：大数据贝叶斯分析的Zig-Zag过程和超高效采样。arXiv:1607.03188（2016）·Zbl 1417.65008号
[7] Bierkens，J.，Roberts，G.：居里-维斯模型中提升大都会-黑斯廷斯的分段确定性标度极限。arXiv:1509.00302（2016）·Zbl 1370.60039号
[8] Bierkens，J.：不可逆大都市——黑斯廷斯。统计计算。2015年1月26日至16日·Zbl 1360.65040号
[9] Bouchard-Cóté，A.，Vollmer，S.J.，Doucet，A.：弹性粒子采样器：一种不可逆的无排斥马尔可夫链蒙特卡罗方法。arXiv：1510.02451（2016）·Zbl 1398.60084号
[10] Bou-Rabee，N.，Owhadi，H.：随机背景下变分积分器的长程精度。SIAM J.编号分析。48, 278-297 (2010) ·Zbl 1215.65012号 ·doi:10.1137/090758842
[11] Chen，C.，Ding，N.，Carin，L.：关于具有高阶积分器的随机梯度MCMC算法的收敛性。在：神经信息处理系统进展28（NIPS’15），第2278-2286页（2015）
[12] Chen，T.，Fox，E.B.，Guestrin，C.：随机梯度Hamilton Monte Carlo。致：2014年第31届国际机器学习会议（ICML’14）
[13] Chen，F.，Lovász，L.，Pak，I.：提升马尔可夫链以加速混合。摘自：第31届年度ACM STOC会议记录，第275-281页（1999）·Zbl 1345.60075号
[14] Chen，T.-L.，Hwang，C.-R.：加速可逆马尔可夫链。统计概率。莱特。83(9), 1956-1962 (2013) ·Zbl 1285.60076号 ·doi:10.1016/j.spl.2013.05.002
[15] Chib，S.，Greenberg，E.：理解大都会黑斯廷斯算法。《美国统计》第49卷第4期，第327-335页（1995年）
[16] Crooks，G.：熵产生涨落定理和自由能差的非平衡功关系。物理学。版本E 602721-2726（1999）·doi:10.1103/PhysRevE.60.2721
[17] Dembo，A.，Deuschel，J.-D.：马尔科夫微扰、响应和涨落耗散定理。Ann.Inst.H.PoincaréProbab公司。Stat.46，822-852（2010年）·Zbl 1196.82092号 ·doi:10.1214/10-AIHP370
[18] Deuschel，J.D.，Strock，D.W.：大偏差。美国数学学会，普罗维登斯（2001）·Zbl 0705.60029号
[19] Diaconis，P.，Holmes，S.，Neal，R.M.：不可逆马尔可夫链采样器的分析。Ann.应用。普罗巴伯。10, 726-752 (2000) ·Zbl 1083.60516号 ·doi:10.1214/aoap/1019487508
[20] Ding，N.，Fang，Y.，Babbush，R.，Chen，C.，Skeel，R.D.，Neven，H.：使用随机梯度恒温器的贝叶斯采样。In：神经信息处理系统进展27（NIPS’14）（2014）
[21] Duane，S.、Kennedy，A.D.、Pendleton，B.J.、Roweth，D.：混合蒙特卡罗。物理学。莱特。B 195（2），216-222（1987）·doi:10.1016/0370-2693（87）91197-X
[22] Duncan，A.B.，Lelièvre，T.，Pavliotis，G.A.：使用不可逆Langevin采样器减少方差。《统计物理学杂志》。163(3), 457-491 (2016) ·Zbl 1343.82036号 ·doi:10.1007/s10955-016-1491-2
[23] Flegal J.M.、Vats，D.、Jones，G.L.：马尔可夫链蒙特卡罗中多元谱方差估计的强一致性。arXiv:1507.08266（2016）·兹伯利1419.62141
[24] Flegal，J.M.、Vats，D.、Jones，G.L.：马尔可夫链蒙特卡罗的多元输出分析（2017）·Zbl 1434.62100号
[25] Gelman，A.，Carhn，J.B.，Stern，H.S.，Rubin，D.B.：贝叶斯数据分析。查普曼和霍尔，博卡拉顿（2004）·Zbl 1039.62018号
[26] Geyer，C.J.：实用马尔可夫链蒙特卡罗。统计科学。7, 473-483 (1992) ·Zbl 0085.18501号 ·doi:10.1214/ss/117701137
[27] Girolma，M.，Calderhead，B.：黎曼流形Langevin和Hamilton Monte Carlo方法。J.R.统计社会服务。B（Stat.Methodol.）73（2），123-214（2011）·Zbl 1411.62071号 ·文件编号：10.1111/j.1467-9868.2010.00765.x
[28] Gustafson，P.：引导步行大都会算法。统计计算。8(4), 357-364 (1998) ·doi:10.1023/A:1008880707168
[29] 黑斯廷斯，W.K.：使用马尔可夫链的蒙特卡罗抽样方法及其应用。生物特征57，97-109（1970）·Zbl 0219.65008号 ·doi:10.1093/biomet/57.1.97
[30] Hatano，T.，Sasa，S.-I.：朗之万系统的稳态热力学。物理学。修订稿。86, 3463-3466 (2001) ·doi:10.1103/PhysRevLett.86.3463
[31] Horowitz，A.M.：广义引导蒙特卡罗算法。物理学。莱特。B 268（2），247-252（1991）·doi:10.1016/0370-2693（91）90812-5
[32] Hwang，C.-R.，Hwang-Ma，S.-Y.，Sheu，S.-J.：加速高斯扩散。Ann.应用。普罗巴伯。3(3), 897-913, 08 (1993) ·兹比尔0780.60074 ·doi:10.1214/aoap/1177005371
[33] Hwang，C.-R.，Hwang-Ma，S.-Y.，Sheu，S.-J.：加速扩散。Ann.应用。普罗巴伯。15（2）、1433、05-1444（2005）·Zbl 1069.60065号 ·doi:10.1214/1050516050000025
[34] Jansen，S.，Kurt，N.：关于马尔可夫过程的对偶概念。普罗巴伯。Surv公司。11, 59-120 (2014) ·Zbl 1292.60077号 ·doi:10.1214/12-PS206
[35] Jarner，S.F.、Roberts，G.O.：重尾蒙特卡罗-马尔可夫链算法的收敛性。扫描。《美国法律总汇》第34（4）、781-815页（2007年）·Zbl 1164.65004号
[36] Kaiser、Marcus、Jack、Robert L.、Zimmer、Johannes：通过打破详细平衡加速马尔可夫链中的收敛到平衡。《统计物理学杂志》。168(2), 259-287 (2017) ·Zbl 1376.82059号 ·doi:10.1007/s10955-017-1805-z
[37] Kim，S.，Shephard，N.，Chib，S.：随机波动性：似然推断和与ARCH模型的比较。经济收益率。螺柱65，361-393（1998）·Zbl 0910.90067号 ·doi:10.1111/1467-937X.00050
[38] Komorowski，T.、Landim，C.、Olla，S.：马尔可夫过程中的波动——时间对称性和鞅近似。柏林施普林格出版社（2012）·Zbl 1396.60002号 ·数字对象标识代码：10.1007/978-3-642-29880-6
[39] Koratikara，A.，Chen，Y.，Welling，M.：MCMC土地的紧缩：削减大都会黑斯廷斯的预算。摘自：第30届国际机器学习会议（ICML’14）（2014）
[40] Kou，S.C.，Zhou，Q.，Wong，W.H.：讨论文件：等能量采样器在统计推断和统计力学中的应用。Ann.Stat.34（4），1581-1619（2006）·Zbl 1246.82054号 ·doi:10.1214/0090536000000515
[41] Kwon，C.，Ao，P.，Thouless，D.J.：不动点附近的随机动力学结构。程序。国家。阿卡德。科学。102(37), 13029-13033 (2005) ·doi:10.1073/pnas.0506347102
[42] Leimkuhler，B.，Shang，X.：噪声梯度系统的自适应恒温器。SIAM J.科学。计算。38（2），A712-A736（2016）·Zbl 1382.65019号 ·数字对象标识码：10.1137/15M102318X
[43] Leimkuhler，B.，Matthews，C.，Tretyakov，M.：关于随机梯度系统的长期积分。程序。R.Soc.A 47020140120（2014）·doi:10.1098/rspa.2014.0120
[44] Leliévre，T.，Nier，F.，Pavliotis，G.A.：扩散收敛到平衡的最优不可逆线性漂移。《统计物理学杂志》。152, 237-274 (2013) ·Zbl 1276.82042号 ·数字对象标识代码：10.1007/s10955-013-0769-x
[45] Liu，C.，Zhu，J.，Song，Y.：随机梯度测地MCMC方法。摘自：神经信息处理系统进展29（NIPS’16），第3009-3017页（2016）
[46] Liu，J.S.：科学计算中的蒙特卡罗策略。施普林格，柏林（2001）·Zbl 0991.65001号
[47] Lu，X.，Perrone，V.，Hasenclever，L.，Teh，Y.W.，Vollmer，S.J.：相对论蒙特卡罗。摘自：《第20届国际人工智能与统计会议论文集》（AISTATS’17）（2017）
[48] Ma，Y.-A，Chen，T.，Fox，E.：随机梯度MCMC的完整配方。摘自：神经信息处理系统进展28（NIPS’15），第2899-2907页（2015）
[49] Ma，Y.-A.，Qian，H.：线性不可逆随机热力学的普遍理想行为和宏观功关系。新J.Phys。17(6), 065013 (2015) ·Zbl 1452.80023号 ·doi:10.1088/1367-2630/17/6/065013
[50] Metropolis，M.，Rosenbluth，A.W.，Rosenbruth，M.N.，Teller，A.H.，Teler，E.：快速计算机器的状态方程计算。化学杂志。《物理学》211087-1092（1953）·Zbl 1431.65006号 ·数字对象标识代码：10.1063/1.1699114
[51] Neal，R.M.：改进MCMC估计量的渐近方差：不可逆链更好。arXiv:math/0407281（2004）
[52] Neal，R.M.：神经网络的贝叶斯学习。施普林格，柏林（1996）·Zbl 0888.62021号 ·doi:10.1007/978-1-4612-0745-0
[53] Neal，R.M.：使用哈密顿动力学的MCMC。把手b。马尔可夫链蒙特卡洛54，113-162（2010）·Zbl 1229.65018号
[54] Ottobre，M.，Pillai，N.S.，Pinski，F.J.，Stuart，A.M.：具有二阶Langevin扩散极限的函数空间HMC算法。伯努利22（1），60-1062016（2016）·Zbl 1346.60119号 ·doi:10.3150/14-BEJ621
[55] Patterson，S.，Teh，Y.W.：概率单纯形上的随机梯度黎曼-朗之万动力学。In：神经信息处理系统进展26（NIPS’13）（2013）
[56] Pavliotis，G.A.：随机过程和应用。柏林施普林格出版社（2014）·兹比尔1318.60003
[57] Pazy，A.：线性算子半群及其在偏微分方程中的应用。柏林施普林格（1983）·Zbl 0516.47023号 ·doi:10.1007/978-1-4612-5561-1
[58] Poncet，R.：广义和混合Metropolis-Hastings过阻尼Langevin算法。arXiv:1701.05833（2017）
[59] Priestley，M.B.：谱分析和时间序列。圣地亚哥学术出版社（1981年）·Zbl 0537.62075号
[60] Qian，H.：不可逆扩散过程的分解，没有详细的平衡。J.数学。物理学。54, 053302 (2013) ·Zbl 1291.82096号 ·数字对象标识代码：10.1063/1.4803847
[61] 钱，H.，钱，M.，唐，X.：一般扩散过程的热力学：时间可逆性和熵产生。《统计物理学杂志》。107, 1129 (2002) ·Zbl 1029.82021号 ·doi:10.1023/A:1015109708454
[62] Rey-Bellet，L.，Spiliopoulos，K.：不可逆朗之万采样器和方差减少：大偏差方法。非线性28（7），2081（2015）·Zbl 1338.60086号 ·doi:10.1088/0951-7715/28/7/2081
[63] Rey-Bellet，L.，Spiliopoulos，K.：改进可逆采样器的收敛性。《统计物理学杂志》。164(3), 472-494 (2016) ·Zbl 1348.82046号 ·doi:10.1007/s10955-016-1565-1
[64] Robert，C.，Casella，G.：蒙特卡洛统计方法，第二版。施普林格，柏林（2004）·Zbl 1096.62003年 ·数字对象标识代码：10.1007/978-1-4757-4145-2
[65] Roberts，G.O.，Stramer，O.：朗之万扩散和大都会黑斯廷斯算法。Methodol公司。计算。申请。普罗巴伯。4, 337-357 (2002) ·Zbl 1033.65003号 ·doi:10.1023/A:1023562417138
[66] Shang，X.，Zu，Z.，Leimkuhler，B.，Storkey，A.：用于大规模贝叶斯采样的协方差控制自适应Langevin恒温器。In：神经信息处理系统进展28（NIPS’15）（2015）
[67] Shi，J.，Chen，T.，Yuan，R.，Youn，B.，Ao，P.：随机微分方程新解释与Itó过程的关系。《统计物理学杂志》。148（3），579-590（2012）·Zbl 1251.82043号 ·doi:10.1007/s10955-012-0532-8
[68] Tak，H.，Meng，X.-L.，van Dyk，D.A.：多模态的排斥吸引大都会算法。arXiv:1601.05633（2016）
[69] Turitsyn，K.S.，Chertkov，M.，Vucelja，M.：高效采样的不可逆蒙特卡罗算法。《物理学D》240（4-5），410-414（2011）·Zbl 1216.82022号 ·doi:10.1016/j.physd.20.10.003
[70] Villani，C.：矫顽力。美国数学学会，普罗维登斯（2009）·Zbl 1197.35004号 ·doi:10.1090/S0065-9266-09-00567-5
[71] Vucelja，M.：提升——一种不可逆的马尔可夫链蒙特卡罗算法。arXiv:1412.8762（2015）
[72] Welling，M.，Teh，Y.W.：通过随机梯度Langevin动力学进行贝叶斯学习。摘自：《第28届机器学习国际会议论文集》（ICML'11），第681-688页（2011）
[73] Wu，S.-J.，Hwang，C.-R.，Chu，M.T.：获得最佳高斯扩散加速度。《统计物理学杂志》。155(3), 571-590 (2014) ·Zbl 1297.82028号 ·doi:10.1007/s10955-014-0963-5
[74] Xifara，T.、Sherlock，C.、Livingstone，S.、Byrne，S.和Girolma，M.：朗之万扩散和大都会调整的朗之万算法。统计概率。莱特。91, 14-19 (2014) ·Zbl 1298.60081号 ·doi:10.1016/j.spl.2014.04.002
[75] Yin，L.，Ao，P.：没有详细平衡的非平衡过程中动力势的存在和构造。《物理学杂志》。A 39（27），8593（2006）·Zbl 1148.82016年 ·doi:10.1088/0305-4470/39/27/003
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。