×
内森·格拉特·霍尔茨;贾斯汀·克罗梅蒂斯;塞西莉亚·蒙代尼

关于Metropolis-Hastings算法的接受-投射机制。 （英语） 兹比尔1533.65022

附录申请。可能性。 33，编号6B，5279-5333（2023）.
这项工作的主要贡献是提出了一种相当通用的方法，通过定义适当的接受概率，从扩展状态空间上的给定建议核定义关于给定目标测度的可逆马尔可夫链。这扩展了经典的Metropolis-Hastings设置，更准确地说，它相当于1998年Tierney作品的一般设置。与后者相比，本方法的编写方式类似于哈密尔顿蒙特卡罗算法，该算法可能更易于解释，从而更易于应用。该方法的用途非常广泛，尤其涉及无限维问题或不可分离的哈密龙格式。一半的工作与示例有关，统一了许多流行的采样器，并引入了一些变化，特别是由于使用了所谓的“代理动力学”，它可以用较少的数值成本代替标准哈密顿动力学。
审核人：皮埃尔·蒙马奇（巴黎）

MSC公司：

65立方厘米 马尔可夫链的数值分析或方法
60J22型 马尔可夫链中的计算方法
65二氧化碳 蒙特卡罗方法

关键词：

马尔可夫链蒙特卡罗（MCMC）算法;Metropolis-Hastings算法，抽象状态空间采样;哈密尔顿蒙特卡罗;替代轨迹方法

软件：

贝叶斯DA;斯坦;坚果;GPS-ABC公司
PDF格式BibTeX公司 XML格式引用
\textit{N.Glatt-Holtz}等人，Ann.Appl。普罗巴伯。33，编号6B，5279--5333（2023；Zbl 1533.65022）
全文： 内政部 arXiv公司

参考文献：

[1] ALIPRANTIS，C.D.和BORDER，K.C.（2013）。《无限维分析：搭便车指南》，第二版，施普林格出版社，柏林。数字对象标识符：10.1007/978-3662-03961-8谷歌学者：查找链接数学科学网：MR1717083·doi:10.1007/978-3-662-03961-8
[2] AMBROSIO，L.、GIGLI，N.和SAVARé，G.（2008）。度量空间和概率测度空间中的梯度流，第2版，ETH Zürich数学讲座。巴塞尔Birkhäuser。数学科学网：MR2401600·Zbl 1145.35001号
[3] ANDRIEU，C.、LEE，A.和LIVINGSTONE，S.（2020年）。大都会黑斯廷斯内核的一般观点。预印本。可在arXiv获取：2012.14881。
[4] 阿诺德，V.I.（2013）。经典力学的数学方法。数学研究生课文60。纽约州施普林格。数学科学网：MR0690288
[5] ATCHADé，Y.F.，FORT，G.和MOULINES，E.（2017年）。关于扰动近似梯度算法。J.马赫。学习。研究18第10号论文，33页，MathSciNet:MR3634877·Zbl 1433.90199号
[6] 宾夕法尼亚州BéNYI。，OH，T.和POCOVNICU，O.（2019）。非线性色散偏微分方程的概率柯西理论。在时频分析景观中。申请。数字。哈蒙。分析。1-32. Birkhäuser/Springer，Cham公司。数学科学网：MR3889875·Zbl 1418.35389号
[7] BESAG，J.E.（1994）。对U.Grenander和M.I.Miller的“复杂系统中知识的表示”的评论。J.罗伊。统计师。Soc.系列。乙56 591-592。
[8] Beskos，A.、Girolma，M.、Lan，S.、Farrell，P.E.和Stuart，A.M.（2017年）。无穷维反问题的几何MCMC。J.计算。物理学。335 327-351. 数字对象标识符：10.1016/j.jcp.2016.12.041谷歌学者：查找链接数学科学网：MR3612501·Zbl 1375.35627号 ·doi:10.1016/j.jcp.2016.12.041
[9] BESKOS，A.、KALOGEROPOULOS，K.和PAZOS，E.（2013）。扩散路径空间采样的高级MCMC方法。随机过程。申请。123 1415-1453. 数字对象标识符：10.1016/j.spa.2012.12.001谷歌学者：查找链接数学科学网：MR3016228·Zbl 1276.60078号 ·doi:10.1016/j.spa.2012.12.001
[10] BESKOS，A.、PINSKI，F.J.、SANZ-SERNA，J.M.和STUART，A.M.（2011）。希尔伯特空间上的混合蒙特卡罗。随机过程。申请。121 2201-2230. 数字对象标识符：10.1016/j.spa.2011.06.003谷歌学者：查找链接数学科学网：MR2822774·Zbl 1235.60091号 ·doi:10.1016/j.spa.2011.06.003
[11] BESKOS，A.、ROBERTS，G.、STUART，A.和VOSS，J.（2008）。用于扩散桥的MCMC方法。斯托克。动态。8 319-350. 数字对象标识符：10.1142/S0219493708002378谷歌学者：查找链接数学科学网：MR2444507·兹比尔1159.65007 ·doi:10.1142/S0219493708002378
[12] BETANCOURT，M.（2019）。马尔可夫链蒙特卡罗方法的收敛性：从大都会方法到哈密尔顿蒙特卡罗。安·物理。531 1700214，6页数字对象标识符：10.1002/和p.201700214谷歌学者：查找链接数学科学网：MR3925439·Zbl 07759707号 ·doi:10.1002/和p.201700214
[13] Bogachev，V.I.（1998年）。高斯度量。数学调查与专著62。阿默尔。数学。Soc.，Providence，RI.数字对象标识符：10.1090/surv/062谷歌学者：查找链接数学科学网：MR1642391·doi:10.1090/surv/062
[14] Bogachev，V.I.（2007）。测量理论。第一卷，第二卷。柏林施普林格。数字对象标识符：10.1007/978-3-540-34514-5谷歌学者：查找链接数学科学网：MR2267655·兹比尔1120.2001 ·doi:10.1007/978-3-540-34514-5
[15] BORGGAARD，J.、GLATT-HOLTZ，N.和KROMETIS，J.（2020年）。从被动标量估计背景流的贝叶斯方法。SIAM/ASA J.不确定性。量化。8 1036-1060. 数字对象标识符：10.1137/19M1267544谷歌学者：查找链接数学科学网：MR4133486·Zbl 1455.65205号 ·doi:10.1137/19M1267544
[16] BOU-RABEE，N.和EBERLE，A.（2021）。无限维预处理哈密顿蒙特卡罗的两尺度耦合。斯托克。部分差异。埃克。分析。计算。9 207-242. 数字对象标识符：10.1007/s40072-020-00175-6谷歌学者：查找链接数学科学网：MR4218791·Zbl 1470.60202号 ·doi:10.1007/s40072-020-00175-6
[17] BOU-RABEE，N.和SANZ-SERNA，J.M.（2018）。几何积分器和哈密顿蒙特卡罗方法。Acta Numer公司。27 113-206. 数字对象标识符：10.1017/s0962492917000101谷歌学者：查找链接数学科学网：MR3826507·兹比尔1431.65004 ·doi:10.1017/s0962492917000101
[18] Bouchard-Cóté，A.、Vollmer，S.J.和Doucet，A.（2018年）。弹性粒子采样器：一种不可逆无排斥马尔可夫链蒙特卡罗方法。J.艾默。统计师。协会113 855-867。数字对象标识符：10.1080/01621459.2017.1294075谷歌学者：查找链接数学科学网：MR3832232·兹比尔1398.60084 ·doi:10.1080/01621459.2017.1294075
[19] Bourgain，J.（1994）。周期非线性薛定谔方程和不变测度。公共数学。物理学。166 1-26. 数学科学网：MR1309539·Zbl 0822.35126号
[20] BUI-THANH，T.和GHATTAS，O.（2014）。无限维贝叶斯逆形状声散射分析及其数值逼近。SIAM/ASA J.不确定性。量化。2 203-222. 数字对象标识符：10.1137/120894877谷歌学者：查找链接数学科学网：MR3283906·Zbl 1306.65270号 ·doi:10.1137/120894877
[21] BUI-THANH，T.和NGUYEN，Q.P.（2016）。基于FEM的PDE约束贝叶斯反问题离散化变MCMC方法。反向探测。成像10 943-975。数字对象标识符：10.3934/ipi.2016028谷歌学者：查找链接数学科学网：MR3610747·Zbl 1348.65013号 ·doi:10.3934/ipi.2016028
[22] Cotter，S.L.、Roberts，G.O.、Stuart，A.M.和White，D.（2013）。函数的MCMC方法：修改旧算法使其更快。统计师。科学。28 424-446. 数字对象标识符：10.1214/13-STS421谷歌学者：查找链接数学科学网：MR3135540·Zbl 1331.62132号 ·doi:10.1214/13-STS421
[23] Da Prato，G.和Zabczyk，J.（2014）。无限维随机方程，第二版，数学及其应用百科全书152。剑桥大学出版社，剑桥。数字对象标识符：10.1017/CBO9781107295513谷歌学者：查找链接数学科学网：MR3236753·Zbl 1317.60077号 ·doi:10.1017/CBO9781107295513
[24] DASHTI，M.和STUART，A.M.（2017年）。反问题的贝叶斯方法。在《不确定性量化手册》中。第1、2、3卷311-428。商会施普林格。数学科学网：MR3839555
[25] Duane，S.、Kennedy，A.D.、Pendleton，B.J.和Roweth，D.（1987年）。混合蒙特卡罗。物理学。莱特。B 195 216-222。数字对象标识符：10.1016/0370-2693（87）91197-x谷歌学者：查找链接MathSciNet:MR3960671·doi:10.1016/0370-2693（87）91197-x
[26] EBERLE，A.（2014）。应用于高维高斯测度扰动的Metropolis-Hastings算法的误差界。附录申请。普罗巴伯。24 337-377. 数字对象标识符：10.1214/13-AAP926谷歌学者：查找链接数学科学网：MR3161650·兹比尔1296.60195 ·doi:10.1214/13-AAP926
[27] FANG，Y.、SANZ-SERNA，J.M.和SKEEL，R.D.（2014）。可压缩广义混合蒙特卡罗。化学杂志。物理学。140 174108.
[28] Folland，G.B.（1999）。《真实分析：现代技术及其应用》，第二版，《纯粹与应用数学》（纽约）。纽约威利。数学科学网：MR1681462·Zbl 0924.28001号
[29] Gelman，A.、Carlin，J.B.、Stern，H.S.、Dunson，D.B.、Vehtari，A.和Rubin，D.B.（2014）。贝叶斯数据分析，第三版，《统计科学丛书》。佛罗里达州博卡拉顿CRC出版社，MathSciNet:MR3235677·Zbl 1279.62004号
[30] GELMAN，A.、LEE，D.和GUO，J.（2015）。Stan：一种用于贝叶斯推理和优化的概率编程语言。J.教育。贝哈夫。《美国联邦法律大全》第40卷第530-543页。数字对象标识符：10.3102/1076998615606113谷歌学者：查找链接·数字对象标识代码：10.3102/1076998615606113
[31] GEYER，C.J.（2003）。Metropolis-Hastings-Green算法。
[32] Geyer，C.J.（2011）。马尔可夫链蒙特卡罗简介。在《马尔可夫链蒙特卡罗手册》中。查普曼和霍尔/CRC Handb。国防部。统计方法3-48。CRC Press，Boca Raton，FL.数学科学网：MR2858443·Zbl 1229.65014号
[33] Girolma，M.和Calderhead，B.（2011年）。黎曼流形朗之万和哈密顿蒙特卡罗方法。J.R.统计社会服务。B.统计方法。73 123-214. 数字对象标识符：10.1111/j.1467-9868.2010.00765.x谷歌学者：查找链接数学科学网：MR2814492·Zbl 1411.62071号 ·文件编号：10.1111/j.1467-9868.2010.00765.x
[34] GLATT-HOLTZ，N.、KROMETIS，J.和MONDAINI，C.（2023年）。无限维问题哈密顿蒙特卡罗采样的降阶建模方法。出现。
[35] GLATT-HOLTZ，N.E.和MONDAINI，C.F.（2022）。有限维和无限维中哈密顿蒙特卡罗算法的混合率。斯托克。部分差异。埃克。分析。计算。10 1318-1391. 数字对象标识符：10.1007/s40072-021-00211-z谷歌学者：查找链接数学科学网：MR4503169·兹比尔1502.65004 ·doi:10.1007/s40072-021-00211-z
[36] Green，P.J.（1995）。可逆跳跃马尔可夫链蒙特卡罗计算和贝叶斯模型确定。生物特征82 711-732. 数学科学网：MR1380810·Zbl 0861.62023号
[37] HAIRER，E.、LUBICH，C.和WANNER，G.（2006年）。几何-数值积分：常微分方程的结构保持算法，第二版，计算数学中的Springer级数31。柏林施普林格。数学科学网：MR2221614·Zbl 1094.65125号
[38] HAIRER，M.、STUART，A.和VOSS，J.（2009年）。采样条件扩散。随机分析趋势。伦敦数学学会讲座笔记系列353 159-185。剑桥大学出版社，剑桥。数学科学网：MR2562154·Zbl 1203.60100号
[39] HAIRER，M.、STUART，A.和VOSS，J.（2011年）。函数空间上的信号处理问题：贝叶斯公式、随机偏微分方程和有效的MCMC方法。在牛津非线性滤波手册833-873中。牛津大学出版社，牛津。数学科学网：MR2884617·Zbl 1262.94012号
[40] Hairer，M.、Stuart，A.M.和Vollmer，S.J.（2014）。无限维Metropolis-Hastings算法的谱间隙。附录申请。普罗巴伯。24 2455-2490. 数字对象标识符：10.1214/13-AAP982谷歌学者：查找链接数学科学网：MR3262508·Zbl 1307.65002号 ·doi:10.1214/13-AAP982
[41] HAIRER，M.、STUART，A.M.和VOSS，J.（2007年）。分析路径采样中出现的SPDE。二、。非线性情况。附录申请。普罗巴伯。17 1657-1706. 数字对象标识符：10.1214/07-AAP441谷歌学者：查找链接数学科学网：MR2358638·Zbl 1140.60329号 ·doi:10.1214/07-AAP441
[42] HAIRER，M.、STUART，A.M.、VOSS，J.和WIBERG，P.（2005）。分析路径采样中出现的SPDE。I.高斯情况。Commun公司。数学。科学。3 587-603. 数学科学网：MR2188686·Zbl 1138.60326号
[43] 黑斯廷斯，W.K.（1970）。使用马尔可夫链的蒙特卡罗抽样方法及其应用。生物特征57 97-109. 数字对象标识符：10.1093/biomet/57.197谷歌学者：查找链接MathSciNet:MR33363437·Zbl 0219.65008号 ·doi:10.1093/biomet/57.1.97
[44] Hoffman，M.D.和Gelman，A.（2014）。无U转弯采样器：在哈密顿蒙特卡罗中自适应设置路径长度。J.马赫。学习。第15号决议1593-1623。zbMATH:1319.60150数学科学网：MR3214779·Zbl 1319.60150号
[45] JOSé，J.V.和SALETAN，E.J.（1998）。经典动力学：当代方法。剑桥大学出版社，剑桥。数字对象标识符：10.1017/CBO9780511803772谷歌学者：查找链接数学科学网：MR1640663·Zbl 0918.70001号 ·doi:10.1017/CBO9780511803772
[46] Kaipio，J.和Somersalo，E.（2005年）。统计和计算反问题。应用数学科学160。纽约州施普林格。数学科学网：MR2102218·Zbl 1068.65022号
[47] LAN，S.、BUI-THANH，T.、CHRISTIE，M.和GIROLAMI，M.（2016）。贝叶斯反问题流形蒙特卡罗方法中高阶张量的仿真。J.计算。物理学。308 81-101. 数字对象标识符：10.1016/j.jcp.2015.12.032谷歌学者：查找链接数学科学网：MR3448239·Zbl 1352.65010号 ·doi:10.1016/j.jcp.2015.12.032
[48] LEIMKUHLER，B.和REICH，S.（2004）。模拟哈密顿动力学。剑桥应用和计算数学专著14。剑桥大学出版社，剑桥。数学科学网：MR2132573·Zbl 1069.65139号
[49] LEVY，D.、HOFFMAN，M.D.和SOHL-DICKSTEIN，J.（2017）。用神经网络推广哈密顿蒙特卡罗。预印本。可从arXiv:1711.09268获得。
[50] LI，L.，HOLBROOK，A.，SHAHBABA，B.和BALDI，P.（2019年）。神经网络梯度哈密顿蒙特卡罗。计算。统计师。34 281-299. 数字对象标识符：10.1007/s00180-018-00861-z谷歌学者：查找链接数学科学网：MR3920582·Zbl 1417.65014号 ·doi:10.1007/s00180-018-00861-z
[51] Liu，J.S.（2008）。科学计算中的蒙特卡罗策略。统计学中的斯普林格系列。纽约斯普林格。数学科学网：MR2401592·Zbl 1132.65003号
[52] 刘J.S.、梁F.和黄W.H.（2000）。大都会抽样中的多重方法和局部优化。J.艾默。统计师。协会95 121-134。数字对象标识符：10.2307/2669532谷歌学者：查找链接数学科学网：MR1803145·Zbl 1072.65505号 ·doi:10.2307/2669532
[53] LU，X.，PERRONE，V.，HASENCLEVER，L.，TEH，Y.W.和VOLLMER，S.（2017）。相对论蒙特卡洛。在《人工智能与统计学》1236-1245。PMLR公司。
[54] MARSDEN，J.E.和RATIU，T.S.（1995）。力学和对称导论。物理学。今天48 65。
[55] MARTIN，J.、WILCOX，L.C.、BURSTEDDE，C.和GHATTAS，O.（2012）。大规模统计反演问题的随机牛顿MCMC方法及其在地震反演中的应用。SIAM J.科学。计算。34 A1460-A1487。数字对象标识符：10.1137/10845598谷歌学者：查找链接MathSciNet:MR2970260·Zbl 1250.65011号 ·数字对象标识代码：10.1137/10845598
[56] MEEDS，E.和WELLING，M.（2014）。GPS-ABC：高斯过程替代近似贝叶斯计算。预印。可从arXiv:1401.2838获得。
[57] Metropolis，N.、Rosenbluth，A.W.、Rosenbruth，M.N.、Teller，A.H.和Teller等人（1953年）。快速计算机器的状态方程计算。化学杂志。物理学。21 1087-1092. ·Zbl 1431.65006号
[58] NAHMOD，A.R.和STAFFILANI，G.（2019年）。随机性和非线性演化方程。数学表演。罪。（英语Ser.）35 903-932。数字对象标识符：10.1007/s10114-019-8297-5谷歌学者：查找链接数学科学网：MR3952697·Zbl 1419.35255号 ·doi:10.1007/s10114-019-8297-5
[59] NEAL，R.M.（1993）。使用马尔可夫链蒙特卡罗方法进行概率推断。加拿大安大略省多伦多大学计算机科学系。
[60] Neal，R.M.（1999）。使用高斯过程先验进行回归和分类。在贝叶斯统计中，6(Alcoceber公司, 1998) 475-501. 牛津大学出版社，纽约。数学科学网：MR1723510·Zbl 0974.62072号
[61] Neal，R.M.（2011）。MCMC使用哈密顿动力学。在《马尔可夫链蒙特卡罗手册》中。查普曼和霍尔/CRC Handb。国防部。Stat.方法113-162。CRC Press，Boca Raton，FL.数学科学网：MR2858447·Zbl 1229.65018号
[62] NEKLYUDOV，K.、WELLING，M.、EGOROV，E.和VETROV，D.（2020年）。对合MCMC：一个统一的框架。在国际机器学习会议7273-7822上。PMLR公司。
[63] PETRA，N.、MARTIN，J.、STADLER，G.和GHATTAS，O.（2014）。无限维贝叶斯反问题的计算框架，第二部分：随机牛顿MCMC及其在冰盖流动反问题中的应用。SIAM J.科学。计算。36 A1525-A1555。数字对象标识符：10.1137/130934805谷歌学者：查找链接数学科学网：MR3233941·Zbl 1303.35110号 ·数字对象标识代码：10.1137/130934805
[64] RADIVOJEVIch，T.和AKHMATSKAYA，E.（2020年）。贝叶斯推断的改进哈密顿蒙特卡罗方法。统计计算。30 377-404. 数字对象标识符：10.1007/s11222-019-09885-x谷歌学者：查找链接数学科学网：MR4064627·Zbl 1436.62098号 ·数字对象标识代码：10.1007/s11222-019-09885-x
[65] RASMUSSEN，C.E.（2003）。高斯过程加速昂贵贝叶斯积分的混合蒙特卡罗。在贝叶斯统计中，7(特内里费岛, 2002) 651-660. 牛津大学出版社，纽约。数学科学网：MR2003529
[66] REZNIKOFF，M.G.和VANDEN-EIJNDEN，E.（2005）。随机偏微分方程和条件扩散的不变测度。C.R.数学。阿卡德。科学。巴黎340 305-308。数字对象标识符：10.1016/j.crma.2004.12.025谷歌学者：查找链接数学科学网：MR2121896·Zbl 1063.60092号 ·doi:10.1016/j.crma.2004.12.025
[67] ROBERT，C.P.和CASELLA，G.（2013）。蒙特卡洛统计方法。统计中的斯普林格文本。纽约州施普林格。数字对象标识符：10.1007/978-1-4757-3071-5谷歌学者：查找链接数学科学网：MR1707311·doi:10.1007/978-1-4757-3071-5
[68] Roberts，G.O.和Tweedie，R.L.（1996年）。Langevin分布及其离散近似的指数收敛性。伯努利2 341-363. 数字对象标识符：10.2307/3318418谷歌学者：查找链接MathSciNet:MR1440273·Zbl 0870.60027号 ·doi:10.2307/3318418
[69] SILVESTER，J.R.（2000）。块矩阵的行列式。数学。加兹。84 460-467.
[70] Stuart，A.M.（2010年）。反问题：贝叶斯观点。Acta Numer公司。19 451-559. 数字对象标识符：10.1017/S0962492910000061谷歌学者：查找链接MathSciNet:MR22652785·Zbl 1242.65142号 ·doi:10.1017/S0962492910000061
[71] S.D.团队（2016）。Stan建模语言用户指南和参考手册。技术报告。
[72] Tierney，L.（1998）。关于一般状态空间的Metropolis-Hastings核的注记。附录申请。普罗巴伯。8 1-9. 数字对象标识符：10.1214/aoap/1027961031谷歌学者：查找链接数学科学网：MR1620401·Zbl 0935.60053号 ·doi:10.1214/aoap/1027961031
[73] TRIPURANENI，N.、ROWLAND，M.、GHAHRAMANI，Z.和TURNER，R.（2017）。磁哈密顿蒙特卡罗。在机器学习国际会议3453-3461上。
[74] TU，L.W.（2011）。流形简介，第2版。Universitext（通用文本）纽约州施普林格。数字对象标识符：10.1007/978-1-4419-7400-6谷歌学者：查找链接数学科学网：MR2723362·Zbl 1200.58001号 ·数字对象标识代码：10.1007/978-1-4419-7400-6
[75] ZHANG，C.、SHAHBABA，B.和ZHAO，H.（2017）。基于参数空间正则性的哈密顿蒙特卡罗方法的预计算策略。计算。统计师。32 253-279. 数字对象标识符：10.1007/s00180-016-0683-1谷歌学者：查找链接数学科学网：MR3604217·Zbl 1417.65018号 ·doi:10.1007/s00180-016-0683-1
[76] ZHANG，C.、SHAHBABA，B.和ZHAO，H.（2017）。使用随机基替代函数的哈密顿蒙特卡罗加速。统计计算。27 1473-1490. 数字对象标识符：10.1007/s11222-016-9699-1谷歌学者：查找链接数学科学网：MR3687321·Zbl 1384.65008号 ·doi:10.1007/s11222-016-9699-1
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。