×

伪边缘随机游走Metropolis算法的效率。 (英语) Zbl 1326.65015号

马尔可夫链蒙特卡罗(MCMC)算法已被证明在复杂模型贝叶斯分析的后验分布的统计研究中特别成功。几乎所有MCMC方法都基于Metropolis-Hastings(MH)算法,该算法的成功很大程度上归功于其巨大的灵活性。伪边缘Metropolis-Hastings算法为规避目标密度评估的需要提供了一个通用方法。
本文研究了伪边缘随机游走都市(PsMRWM)算法的性能。在目标分布相对一般的条件下,当目标的维数无限接近时,得到了接受率和期望跳跃距离平方的极限公式。从混合速度和计算时间两方面考虑了算法的整体效率。在加性噪声为高斯且与无偏估计数成反比的假设下,证明了当噪声方差约为3.283,接受率约为7.001时,该算法是最优有效的。
在引言中,简要回顾了伪边缘Metropolis-Hastings算法的概念和随机游走Metropolis算法的效率。这里,\(\chi\subset{\mathbb R}^d)是一个状态空间,\(\ pi(\ cdot)\)是\(\ chi\)上的分布。提出了MH提供通过构造马尔可夫链来获得目标分布(pi(cdot))近似值的算法的概念。
在第2节中,考虑了高分布的伪边缘步行都市。在第2.1小节中,考虑了各向同性高斯提议\({\mathbf X}^*={\mathbf X}+\lambda{\mathbf Z}\),其中\({\mathbf Z}\sim N(0,I)\),\(\lambda>0\)是标度参数,\(I\)是\(d\乘以d\)单位矩阵。在第2.2小节中,提出了对数目标估计中的噪声概念。在2.3小节中,给出了高维目标分布的概念。在第2.4小节中,考虑了预期跳跃距离平方的概念。在定理1中,在对数目标中加性独立噪声的假设下,得到了极限期望平方跳跃距离的表达式,并给出了渐近接受率。获得的结果以图形方式进行了说明。在第2.5小节中,证明了PsMRWM可以通过适当的扩散极限很好地近似。在定理2中,对于具有独立且相同分布分量的目标,证明了扩散极限。该算法的效率由这种极限扩散的速度给出。
在第3节中,考虑了优化PsMRWM的问题。在3.1小节中,考虑了加性噪声遵循高斯分布的情况,即标准渐近状态(SAR)。在第3.2小节中,实现了SAR下的优化。
在第4节中,对第3.1小节的SAR进行了调查。这里使用部分边缘RWM算法对Lodka-Volterra捕食者-食饵模型进行精确推断。
第五节证明了主要结果——定理1和定理2。
在第6节中,实现了关于PsMRWM算法的行为、目标上马尔可夫链的行为、噪声、获得目标第一分量的极限扩散的一些结论。
本文以两个附录结束,其中证明了一些初步结果。

MSC公司:

65二氧化碳 蒙特卡罗方法
65立方厘米 马尔可夫链的数值分析或方法
60F05型 中心极限和其他弱定理
60J05型 一般状态空间上的离散马尔可夫过程
60J10型 马尔可夫链(离散状态空间上的离散时间马尔可夫过程)
60J22型 马尔可夫链中的计算方法
60克50 独立随机变量之和;随机游走
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Andrieu,C.、Doucet,A.和Holenstein,R.(2010年)。粒子马尔可夫链蒙特卡罗方法。J.R.统计社会服务。B统计方法。72 269-342. ·Zbl 1184.65001号 ·doi:10.1111/j.1467-9868.2009.00736.x
[2] Andrieu,C.和Roberts,G.O.(2009年)。有效蒙特卡罗计算的伪边缘方法。安。统计师。37 697-725. ·Zbl 1185.60083号 ·doi:10.1214/07-AOS574
[3] Andrieu,C.和Vihola,M.(2014)。伪边际马尔可夫链蒙特卡罗算法的收敛性。预打印。可从获取·Zbl 1326.65012号 ·doi:10.1214/14-AAP1022
[4] Beaumont,M.A.(2003年)。估计遗传监测人群的人口增长或下降。遗传学164 1139-1160。
[5] 贝达德,M.(2007)。非身份识别目标分布Metropolis算法的弱收敛性。附录申请。普罗巴伯。17 1222-1244. ·Zbl 1144.60016号 ·doi:10.1214/1050516070000096
[6] Bédard,M.和Rosenthal,J.S.(2008)。Metropolis算法的最佳缩放:朝向一般目标分布。加拿大。J.统计。36 483-503. ·兹比尔1167.60344 ·doi:10.1002/cjs.5550360401
[7] Bérard,J.、Del-Moral,P.和Doucet,A.(2013)。归一化常数粒子近似的对数正态中心极限定理。预打印。可从获取·Zbl 1308.65014号 ·doi:10.1214/EJP.v19-3428
[8] Beskos,A.、Roberts,G.和Stuart,A.(2009年)。高维非产品目标上本地Metropolis-Hastings链的最佳缩放。附录申请。普罗巴伯。19 863-898. ·Zbl 1172.60328号 ·doi:10.1214/08-AAP563
[9] Breyer,L.A.、Piccioni,M.和Scarlatti,S.(2004)。非线性回归中MaLa的最优标度。附录申请。普罗巴伯。14 1479-1505. ·兹比尔1048.62062 ·doi:10.1214/10505160400000369
[10] Breyer,L.A.和Roberts,G.O.(2000年)。从大都会到扩散:吉布斯状态和最佳尺度。随机过程。申请。90 181-206. ·Zbl 1047.60065号 ·doi:10.1016/S0304-4149(00)00041-7
[11] Brooks,S.、Gelman,A.、Jones,G.L.和Meng,X.-L.编辑(2011年)。马尔可夫链蒙特卡罗手册。佛罗里达州博卡拉顿CRC出版社·Zbl 1218.65001号 ·doi:10.1201/b10905
[12] Ceperley,D.M.和Dewing,M.(1999)。能量不确定随机游动的惩罚方法。化学物理杂志110 9812。
[13] Del Moral,P.(2004)。费曼-卡克公式:谱系和相互作用粒子系统及其应用。纽约州施普林格·Zbl 1130.60003号
[14] Doucet,A.、Pitt,M.、Deligiannidis,G.和Kohn,R.(2014)。使用无偏似然估计量时马尔可夫链蒙特卡罗的有效实现。预打印。可从获取·Zbl 1452.62055号
[15] Ethier,S.N.和Kurtz,T.G.(1986年)。马尔可夫过程:特征和收敛。纽约威利·Zbl 0592.60049号
[16] Fearnhead,P.、Papaspiliopoulos,O.和Roberts,G.O.(2008年)。用于部分观测扩散的粒子过滤器。J.R.统计社会服务。B统计方法。70 755-777. ·Zbl 05563368号 ·doi:10.1111/j.1467-9868.2008.00661.x
[17] Golightly,A.和Wilkinson,D.J.(2011年)。基于粒子马尔可夫链蒙特卡罗的随机生化网络模型贝叶斯参数推断。界面焦点1 807-820。
[18] Gordon,N.J.、Salmond,D.J.和Smith,A.F.M.(1993)。非线性/非高斯贝叶斯状态估计的新方法。雷达和信号处理,IEE程序F 140 107-113。
[19] Knape,J.和de Valpine,P.(2012)。将粒子滤波与马尔可夫链蒙特卡罗相结合,拟合复杂种群模型。生态学93 256-263。
[20] Li,N.和Stephens,M.(2003年)。利用单核苷酸多态性数据建立连锁不平衡模型并识别重组热点。遗传学165 2213-2233。
[21] Nicholls,G.K.、Fox,C.和Watt,A.M.(2012年)。MCMC与随机接受概率耦合。预打印。可从获取·Zbl 1362.62150号 ·doi:10.1007/s11749-012-0291-5
[22] Pasarica,C.和Gelman,A.(2010年)。使用预期的平方跳跃距离自适应缩放Metropolis算法。统计师。中研院20 343-364·Zbl 1186.62038号
[23] Pillai,N.S.、Stuart,A.M.和Thieéry,A.H.(2012)。高维Langevin算法的最佳缩放和扩散限制。附录申请。普罗巴伯。22 2320-2356. ·Zbl 1272.60053号 ·doi:10.1214/11-AAP828
[24] Pitt,M.K.、Silva,R.d.S.、Giordani,P.和Kohn,R.(2012)。基于粒子滤波的马尔可夫链蒙特卡罗模拟方法的一些性质。《计量经济学杂志》171 134-151·Zbl 1443.62499号 ·doi:10.1016/j.jeconom.2012.06.004
[25] Poyiadjis,G.、Doucet,A.和Singh,S.S.(2011年)。状态空间模型中的分数和观测信息矩阵的粒子近似,并应用于参数估计。生物特征98 65-80·Zbl 1214.62093号 ·doi:10.1093/biomet/asq062
[26] Roberts,G.O.、Gelman,A.和Gilks,W.R.(1997)。随机行走Metropolis算法的弱收敛性和最优尺度。附录申请。普罗巴伯。7 110-120. ·Zbl 0876.60015号 ·doi:10.1214/aoap/1034625254
[27] Roberts,G.O.和Rosenthal,J.S.(1998年)。朗之万扩散离散近似的最佳缩放。J.R.统计社会服务。B统计方法。60 255-268. ·Zbl 0913.60060号 ·doi:10.1111/1467-9868.00123
[28] Roberts,G.O.和Rosenthal,J.S.(2001年)。各种Metropolis-Hastings算法的最佳缩放。统计师。科学。16 351-367. ·Zbl 1127.65305号 ·doi:10.1214/ss/1015346320
[29] Roberts,G.O.和Rosenthal,J.S.(2014)。通过扩散极限最小化MCMC方差,并应用于模拟回火。附录。普罗巴伯。24 131-149. ·Zbl 1298.60078号 ·doi:10.1214/12-AAP918
[30] Roberts,G.O.和Rosenthal,J.S.(2014)。通过扩散极限确定MCMC的复杂性界限。可从获取·Zbl 1298.60078号 ·doi:10.1214/12-AAP918
[31] Sherlock,C.(2013)。随机游走都市的最佳尺度:0.234接受规则的一般标准。J.应用。普罗巴伯。50 1-15. ·Zbl 1266.60062号 ·doi:10.1239/jap/1363784420
[32] Sherlock,C.、Fearnhead,P.和Roberts,G.O.(2010年)。随机漫步都市:通过案例研究将理论与实践联系起来。统计师。科学。25 172-190. ·兹比尔1328.60177 ·doi:10.1214/10-STS327
[33] Sherlock,C.和Roberts,G.(2009年)。椭圆对称单峰目标上随机游走大都市的最优尺度。伯努利15 774-798·Zbl 1215.60047号 ·doi:10.3150/08-BEJ176
[34] Smith,A.F.M.和Roberts,G.O.(1993年)。通过吉布斯采样器和相关马尔可夫链蒙特卡罗方法进行贝叶斯计算(讨论)。J.R.统计社会服务。B统计方法。55 3-23. ·Zbl 0779.62030号
[35] Tierney,L.(1994)。用于探索后验分布的马尔可夫链。安。统计师。22 1701-1762. ·Zbl 0829.62080号 ·doi:10.1214/aos/1176325750
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。