×

实践中的自动曲折采样。 (英语) Zbl 1499.62015号

摘要:从目标分布中生成样本的新型蒙特卡罗方法,如贝叶斯分析的后验方法,在过去十年中迅速发展。基于分段确定性马尔可夫过程(PDMP)的算法,即不可逆连续时间过程,由于其重要特性(如超效率),正在发展成为自己的研究分支。然而,实践并没有赶上这一领域的理论,使用PDMP解决应用问题的情况也不普遍。这可能是因为,首先,基于PDMP的采样器面临着几个实现挑战,其次,缺乏展示应用环境中的方法和实现的论文。在这里,我们使用最有前途的PDMP之一Zig-Zag采样器作为原型示例来解决这两个问题。在解释了Zig-Zag采样器的关键要素之后,揭示并解决了其实现挑战。具体而言,提供了从感兴趣的目标分布中提取样本的算法的公式。值得注意的是,该算法的唯一要求是使用一个封闭形式的可微函数来评估感兴趣的日志目标密度,并且与以前的实现不同,不需要进一步的目标信息。通过对正则哈密顿蒙特卡罗算法的性能进行评估,证明该算法在仿真和实际数据设置中具有竞争力。最后,我们证明了在实践中可以获得超效率特性,即以比评估所有数据的可能性更低的成本绘制一个独立样本的能力。

MSC公司:

62-08 统计问题的计算方法
65二氧化碳 蒙特卡罗方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Andrieu,C。;Livingstone,S.,Peskun-tierney为马尔科维安·蒙特卡洛(Markovian Monte Carlo:Beyond the reversal scenario)所作的订购:《美国国家统计年鉴》,49,4,1958-1981(2021)·Zbl 1489.65005号 ·doi:10.1214/20-AOS2008
[2] Baydin股份有限公司;Pearlmutter,文学学士;Radul,AA;Simkind,JM,《机器学习中的自动差异化调查》,J.Mach。学习。决议,18,1-43(2018)·Zbl 06982909号
[3] Bertazzi,A.,Bierkens,J.:分段确定性蒙特卡罗算法的自适应方案。(2020). arXiv预打印arXiv:2012.13924·Zbl 1501.65001号
[4] Bertazzi,A.,Bierkens,J.,Dobson,P.:分段确定性马尔可夫过程的近似及其收敛性。(2021). arXiv预打印arXiv:2109.11827·Zbl 1500.60044号
[5] 比尔肯斯,J。;费恩黑德,P。;Roberts,G.,《大数据贝叶斯分析的Zig-Zag过程和超高效抽样》,《Ann.Stat.》,47,3,1288-1320(2019)·Zbl 1417.65008号 ·doi:10.1214/18-AOS1715
[6] Bierkens,J.、Grazzi,S.、Kamatani,K.、Roberts,G.:Boomerang采样器。机器学习国际会议908-918,(2020)(arXiv:2006.13777)
[7] 比尔肯斯,J。;Grazzi,S。;范德梅伦,F。;Schauer,M.,扩散桥的分段确定性蒙特卡罗方法,统计计算。,31, 3, 1-21 (2021) ·Zbl 1475.62019号 ·doi:10.1007/s11222-021-10008-8
[8] 比尔肯斯,J。;罗伯茨,GO;Zitt,P-A,Zig-Zag过程的遍历性,Ann.Appl。概率。,29, 4, 2266-2301 (2019) ·Zbl 1467.60020号 ·doi:10.1214/18-AAP1453
[9] Bierkens,乔里斯;亚历山大·布沙尔德·科特;杜塞特,阿诺德;安德鲁·邓肯(Andrew B.Duncan)。;保罗·费恩黑德(Paul Fearnhead);蒂博特·利纳特;加雷思·罗伯茨(Gareth Roberts);Vollmer,Sebastian J.,限制域上可伸缩蒙特卡罗的分段确定性马尔可夫过程,Stat.Probab。莱特。,136, 148-154 (2018) ·Zbl 1463.62215号 ·doi:10.1016/j.spl.2018.02.021
[10] 布沙尔德·科特,A。;Vollmer,SJ;Doucet,A.,《反弹粒子采样器:一种不可逆无排斥马尔可夫链蒙特卡罗方法》,美国统计协会,113,522,855-867(2018)·Zbl 1398.60084号 ·doi:10.1080/01621459.2017.1294075
[11] 英国石油公司卡林;路易斯,TA,《数据分析的贝叶斯方法》(2008),美国:CRC出版社,美国·Zbl 1165.62003号 ·doi:10.1201/b14884
[12] Bob Carpenter;安德鲁·盖尔曼(Andrew Gelman);马修·霍夫曼(Matthew D.Hoffman)。;丹尼尔·李(Daniel Lee);本·古德里奇;Michael Betancourt;马库斯·布鲁贝克;郭继强;彼得·李;《一种概率编程语言》,J.Stat.Software,76,1,1-32(2017)·doi:10.18637/jss.v076.i01
[13] Chevallier,A.,Fearnhead,P.,Sutton,M.:用于变量选择的可逆跳跃PDMP采样器。(2020). arXiv预印arXiv:2010.11771
[14] Chevallier,A.,Power,S.,Wang,A.Q.,Fearnhead,P.:分段光滑密度的PDMP蒙特卡罗方法。(2021). arXiv预打印arXiv:2111.05859
[15] 费恩黑德,P。;比尔肯斯,J。;波洛克,M。;Roberts,GO,连续时间的分段确定性马尔可夫过程蒙特卡罗,Stat.Sci。,33, 3, 386-412 (2018) ·兹比尔1403.62148 ·doi:10.1214/18-STS648
[16] Gilks,W.R.,Thomas,A.,Spiegelhalter,D.J.:复杂贝叶斯建模的语言和程序。皇家统计学会期刊。D(统计学家)43(1),169-177(1994)。doi:10.2307/2348941
[17] Griewank,A。;Walther,A.,《评估衍生品:算法微分的原理和技术》(2008),新德里:新德里SIAM·Zbl 1159.65026号 ·doi:10.1137/1.9780898717761
[18] 健康数据洞察CiC(n.d.)。拟像。人造类患者癌症数据,帮助研究人员获得洞察力。2022年12月1日检索自https://simuracrum.healthdatainsight.org.uk
[19] Hoffman,M.D.,Gelman,A.等人:非U形取样器:在哈密顿蒙特卡罗中自适应设置路径长度。J.马赫。学习。第15(1)号决议,1593-1623(2014)·Zbl 1319.60150号
[20] Jackson,C.H.:Flexsurv:R.J.Stat.Softw中的参数生存建模平台。(2016). doi:10.18637/jss.v070.2008
[21] Kiefer,J.:最大值的序列极小极大搜索。美国数学学会会刊4(3),502-506(1953)·Zbl 0050.35702号
[22] Koskela,J.:离散结构和不可逆系统发育MCMC的Zig-Zag采样。J.计算。Gr.Stat.(刚刚接受),1-000(2022)。doi:10.1080/10618600.2022.2032722·Zbl 07633200号
[23] Lewis,P.W.,Shedler,G.S.:通过细化模拟非均匀泊松过程。海军后勤研究。夸脱。26(3), 403-413 (1979). doi:10.1002/nav.3800260304·Zbl 0497.60003号
[24] Neal,R.M.等人:使用哈密顿动力学的MCMC。马尔可夫链蒙特卡罗手册,2(11),2(2011)。(arXiv:1206.1901)
[25] Pagani,F.、Chevallier,A.、Power,S.、House,T.、Cotter,S.:NuZZ:一般模型的数值Zig-Zag采样。(2022). arXiv预打印arXiv:2003.03636
[26] Plummer,M.等人:JAGS:使用吉布斯抽样分析贝叶斯图形模型的程序。In:第三届分布式统计计算国际研讨会论文集124,1-10(2003)
[27] 罗伯茨,GO;Rosenthal,JS,《Langevin扩散离散近似的最佳缩放》,J.Royal Stat.Soc.Ser。B(统计方法),60,1,255-268(1998)·兹比尔0913.60060 ·doi:10.1111/1467-9868.00123
[28] Roberts,G.O.,Tweedie,R.L.:朗之万分布及其离散近似的指数收敛性。伯努利2,341-363(1996)。doi:10.2307/3318418·Zbl 0870.60027号
[29] Sherlock,C.,Urbas,S.,Ludkin,M.:远地点到远地点路径采样器。(2021). arXiv预打印arXiv:2112.08187
[30] Vasdekis,G.,Roberts,G.O.:加速Zig-Zag。(2021). arXiv预打印arXiv:2103.16620·Zbl 07589164号
[31] Vetterling,W.T.,Press,W.H.,Teukolsky,S.A.,Flannery,B.P.:数字配方:示例书C(科学计算的艺术)。剑桥大学新闻集团。(第10.3节:一维抛物线插值和布伦特方法)(1992年)·Zbl 0778.65002号
[32] 吴,C。;Robert,CP,《坐标采样器:一种不可逆的类吉布斯MCMC采样器》,《统计与计算》,30,3,721-730(2020)·Zbl 1437.62115号 ·文件编号:10.1007/s11222-019-09913-w
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。