×

粒子都市黑斯廷斯使用梯度和黑森信息。 (英语) Zbl 1331.62134号

小结:粒子都市黑斯廷斯(PMH)通过结合马尔可夫链蒙特卡罗(MCMC)和粒子滤波,允许在非线性状态空间模型中进行贝叶斯参数推断。后者用于估计难以处理的可能性。在最初的公式中,PMH使用边际MCMC建议作为参数,通常是高斯随机游走。然而,这可能导致对参数空间的不良探索和对生成的粒子的低效使用。我们提出了一系列PMH的替代版本,其中包含了关于后部的梯度和Hessian信息。这些信息或多或少是作为似然估计的副产品获得的。事实上,我们展示了如何使用固定滞后的粒子平滑器来估计所需的信息,并且粒子数的计算成本呈线性增长。我们的结论是,所提出的方法可以:(i)缩短老化阶段的长度,(ii)增加马尔可夫链在平稳相位,以及(iii)使建议的分布尺度保持不变,从而简化了调谐。

MSC公司:

2015年1月62日 贝叶斯推断
65立方厘米 马尔可夫链的数值分析或方法
94甲15 信息论(总论)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Andrieu,C.,Roberts,G.O.:有效蒙特卡罗计算的伪边缘方法。Ann.Stat.37(2),697-725(2009)·Zbl 1185.60083号 ·doi:10.1214/07-AOS574
[2] Andrieu,C.,Thoms,J.:自适应MCMC教程。统计计算。18(4), 343-373 (2008) ·doi:10.1007/s11222-008-9110-y
[3] Andrieu,C.,Vihola,M.:伪边缘马尔可夫链蒙特卡罗算法的收敛性。预打印arXiv:1012.1484v1(2011)·Zbl 1326.65012号
[4] Andrieu,C.,Doucet,A.,Holenstein,R.:粒子马尔可夫链蒙特卡罗方法。J.R.Stat.Soc.72(3),269-342(2010)·Zbl 1411.65020号 ·文件编号:10.1111/j.1467-9868.2009.00736.x
[5] Beaumont,M.A.:基因监测人群中人口增长或下降的估计。遗传学164(3),1139-1160(2003)
[6] Cappé,O.,Moulines,E.,Rydén,T.:隐马尔可夫模型中的推理。柏林施普林格出版社(2005)·Zbl 1080.62065号
[7] Carpenter,J.,Clifford,P.,Fearnhead,P.:非线性问题的改进粒子滤波。IEE程序。雷达声纳导航。146(1),2-7(1999)·doi:10.1049/ip-rsn:1990255
[8] Dahlin,J.:非线性状态空间模型中推理的序贯蒙特卡罗方法。执照持有者论文编号1652,林雪平大学(2014)
[9] Dahlin,J.、Lindsten,F.、Schön,T.B.:使用朗之万动力学的粒子都市黑斯廷斯。摘自:第38届国际声学、语音和信号处理会议(ICASSP)会议记录,温哥华(2013)·Zbl 1331.62134号
[10] Dahlin,J.,Lindsten,F.,Schön,T.B.:贝叶斯参数推断的二阶粒子MCMC。摘自:第19届国际会计师联合会世界大会会议记录,开普敦(2014)·Zbl 1331.62134号
[11] Del Moral,P.:Feynman-Kac公式——谱系和相互作用粒子系统及其应用。概率及其应用。施普林格,柏林(2004)·Zbl 1130.60003号
[12] Del Moral,P.,Doucet,A.,Singh,S.:使用顺序蒙特卡罗进行前向平滑。预打印arXiv:1012.5390v1(2010)
[13] Diaconis,P.,Holmes,S.,Neal,R.:不可逆马尔可夫链采样器的分析。附录申请。普罗巴伯。10(3), 685-1064 (2000) ·Zbl 1083.60516号
[14] Doucet,A。;Johansen,A。;Crisan,D.(编辑);Rozovsky,B.(编辑),《粒子滤波与平滑教程:十五年后》(2011),牛津·Zbl 1513.60043号
[15] Doucet,A.,Jacob,P.,Johansen,A.M.:关于黎曼流形Langevin和Hamilton Monte Carlo方法的讨论。J.R.Stat.Soc.73(2),162(2011)
[16] Doucet,A.,Pitt,M.K.,Deligiannidis,G.,Kohn,R.:使用无偏似然估计量时马尔可夫链蒙特卡罗的有效实现。arXiv.org,预打印arXiv:1210.1871v3(2012)·兹比尔1452.62055
[17] Doucet,A.,Jacob,P.E.,Rubenthaler,S.:分数向量和观测信息矩阵的无导数估计及其在状态空间模型中的应用。预打印arXiv:1304.5768v2(2013)
[18] Duane,S.、Kennedy,A.D.、Pendleton,B.J.、Roweth,D.:混合蒙特卡罗。物理学。莱特。B 195(2),216-222(1987)·doi:10.1016/0370-2693(87)91197-X
[19] Everitt,R.G.:潜在马尔可夫随机场和社交网络的贝叶斯参数估计。J.计算。Gr.Stat.21(4),940-960(2012)·doi:10.1080/10618600.2012.687493
[20] Flury,T.,Shephard,N.:仅基于模拟可能性的贝叶斯推断:动态经济模型的粒子滤波分析。经济。理论27(5),933-956(2011)·Zbl 1226.62021号
[21] Girolma,M.,Calderhead,B.:黎曼流形Langevin和Hamilton Monte Carlo方法。J.R.Stat.Soc.73(2),1-37(2011)·Zbl 1411.62071号
[22] Golightly,A.,Wilkinson,D.J.:使用粒子马尔可夫链蒙特卡罗对随机生化网络模型进行贝叶斯参数推断。界面焦点1(6),807-820(2011)
[23] Gordon,N.J.、Salmond,D.J.、Smith,A.F.M.:非线性/非高斯贝叶斯状态估计的新方法。IEEE程序。雷达信号处理。140(2), 107-113 (1993) ·doi:10.1049/ip-f-2.1993.0015
[24] 北川,G。;佐藤,S。;Doucet,A.(编辑);Fretias,N.(编辑);Gordon,N.(编辑),Monte Carlo平滑和自组织状态空间模型,177-195(2001),柏林·Zbl 1056.93581号 ·doi:10.1007/978-14757-3437-99
[25] Langrock,R.:利用隐马尔可夫模型进行非线性和非高斯状态空间建模的一些应用。J.应用。Stat.38(12),2955-2970(2011)·Zbl 1511.62225号 ·doi:10.1080/02664763.2011.573543
[26] 尼尔,RM;Brooks,S.(编辑);Gelman,A.(编辑);Jones,G.(编辑);Meng,XL(编辑),MCMC使用哈密顿动力学(2010),伦敦
[27] Nemeth,C.,Fearnhead,P.:粒子都市调整了状态空间模型的Langevin算法。预打印arXiv:1402.0694v1(2014)·Zbl 1506.62135号
[28] Nocedal,J.,Wright,S.:数值优化,第2版。柏林施普林格出版社(2006)·Zbl 1104.65059号
[29] Olsson,J.,Cappé,O.,Douc,R.,Moulines,E.:序贯蒙特卡罗平滑及其在非线性状态空间模型参数估计中的应用。伯努利14(1),155-179(2008)·Zbl 1155.62055号 ·doi:10.3150/07-BEJ6150
[30] Peters,G.W.,Hosack,G.R.,Hayes,K.R.:通过自适应粒子马尔可夫链蒙特卡罗选择生态非线性状态空间模型。预打印arXiv:1005.2238v1(2010)
[31] Pitt,M.K.,Shephard,N.:通过模拟进行过滤:辅助粒子过滤器。《美国统计协会期刊》94(446),590-599(1999)·Zbl 1072.62639号 ·doi:10.1080/01621459.1999.10474153
[32] Pitt,M.K.,Silva,R.S.,Giordani,P.,Kohn,R.:关于基于粒子滤波的马尔可夫链蒙特卡罗模拟方法的一些特性。《经济学杂志》。171(2), 134-151 (2012) ·Zbl 1443.62499号 ·doi:10.1016/j.jeconom.2012.06.004
[33] Poyiadjis,G.,Doucet,A.,Singh,S.S.:状态空间模型中分数和观测信息矩阵的粒子近似及其在参数估计中的应用。生物特征98(1),65-80(2011)·Zbl 1214.62093号 ·doi:10.1093/biomet/asq062
[34] Rauch,H.E.,Tung,F.,Striebel,C.T.:线性动力系统的最大似然估计。美国航空航天协会J.3(8),1445-1450(1965)·数字对象标识代码:10.2514/3.3166
[35] Robert,C.P.,Casella,G.:蒙特卡洛统计方法,第二版。施普林格,柏林(2004)·Zbl 1096.62003年 ·数字对象标识代码:10.1007/978-1-4757-4145-2
[36] Roberts,G.O.,Rosenthal,J.S.:离散近似对朗之万扩散的最佳缩放。J.R.统计社会服务。B(Stat.Methodol.)60(1),255-268(1998)·Zbl 0913.60060号 ·doi:10.1111/1467-9868.00123
[37] Roberts,G.O.,Stramer,O.:朗之万扩散和大都会黑斯廷斯算法。Methodol公司。计算。申请。普罗巴伯。4(4), 337-357 (2003) ·Zbl 1033.65003号 ·doi:10.1023/A:1023562417138
[38] Roberts,G.O.,Gelman,A.,Gilks,W.R.:随机行走Metropolis算法的弱收敛性和最优缩放。附录申请。普罗巴伯。7(1), 110-120 (1997) ·Zbl 0876.60015号 ·doi:10.1214/aoap/1034625254
[39] Sherlock,C.,Thiery,A.H.,Roberts,G.O.,Rosenthal,J.S.关于伪边缘随机游走Metropolis算法的有效性。预打印arXiv:1309.7209v1(2013)·Zbl 1326.65015号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。