×

高维条件序贯蒙特卡罗。 (英语) 兹比尔1521.65006

摘要:迭代条件序列蒙特卡罗(i-CSMC)算法来自C.安德烈等[J.R.Stat.Soc.,Ser.B,Stat.Methodol.72,No.3,269–342(2010;Zbl 1411.65020号)]是一种MCMC方法,用于从具有挑战性的时间序列模型(例如,非线性或非高斯状态空间模型)中的联合后验分布中有效采样潜在状态。它也是吉布斯粒子根据潜在状态推断未知模型参数的采样器。在这项工作中,我们首先证明了i-CSMC算法在状态维(D)中遭受维数灾难:除非算法提出的样本数(“粒子”)(N)与(D)成指数增长,否则它会崩溃。然后,我们提出了一种新的“局部”版本的算法,该算法使用高斯随机遍历移动提出粒子,并用\(D\)进行适当缩放。我们证明了这一点迭代随机游走条件序列蒙特卡罗(i-RW-CSMC)该算法避免了维数灾难:对于任意的(N),其接受率和期望的平方跳跃距离收敛到非平凡极限,如(D到infty)。如果(T=N=1),我们提出的算法可以简化为具有高斯随机游动的Metropolis-Hastings或Barker算法,并且我们恢复了此类算法的已知缩放极限。

MSC公司:

65二氧化碳 蒙特卡罗方法
60J05型 一般状态空间上的离散时间马尔可夫过程
65立方厘米 随机粒子方法
65立方厘米 马尔可夫链的数值分析或方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] AGRAWAL,S.、VATS,D.、ŁATUSZYŃSKI,K.和ROBERTS,G.O.(2021)。MCMC在大都市以外的最佳规模。可从arXiv:2104.2020获取·Zbl 1514.65004号 ·doi:10.48550/arXiv.2104.02020
[2] ANDRIEU,C.、DOUCET,A.和HOLENSTEIN,R.(2010)。粒子马尔可夫链蒙特卡罗方法。J.R.统计社会服务。B统计方法。72 269-342·Zbl 1411.65020号 ·文件编号:10.1111/j.1467-9868.2009.00736.x
[3] 北怀特利(2010)。Andrieu,C.、Doucet,A.和Holenstein,R.对“粒子马尔可夫链蒙特卡罗方法”讨论的贡献。英国皇家统计学会杂志:B系列(统计方法) 72 306-307.
[4] ANDRIEU,C.、LEE,A.和VIHOLA,M.(2018年)。迭代条件SMC的一致遍历性和粒子Gibbs采样器的几何遍历性。伯努利24 842-872. ·Zbl 1436.60069号 ·doi:10.3150/15-BEJ785
[5] BARKER,A.A.(1965年)。质子-电子等离子体径向分布函数的蒙特卡罗计算。澳大利亚物理杂志18 119-134. ·doi:10.1071/PH650119
[6] Bédard,M.、Douc,R.和Moulines,E.(2012年)。多重MCMC方法的标度分析。随机过程。申请。122 758-786. ·Zbl 1239.60075号 ·doi:10.1016/j.spa.2011.11.004
[7] BÉDARD,M.和MIRUTA,M.(2013)。关于本地MCMC算法与提案池的经验效率。加拿大。J.统计。41 657-678. ·Zbl 1281.65002号 ·doi:10.1002/cjs.1196
[8] BROWN,S.、JENKINS,P.A.、JOHANSEN,A.M.和KOSKELA,J.(2021)。序列蒙特卡罗谱系收敛的简单条件及其应用。电子。J.概率。26第1、22号论文·Zbl 1480.60267号 ·doi:10.1214/20-ejp561
[9] Cappé,O.,Moulines,E.和Rydén,T.(2005)。隐马尔可夫模型中的推理.统计学中的斯普林格系列。斯普林格,纽约·Zbl 1080.62065号
[10] CHOPIN,N.和SINGH,S.S.(2015)。粒子吉布斯采样。伯努利21 1855-1883. ·Zbl 1333.60164号 ·doi:10.3150/14-BEJ629
[11] Christen,J.A.和Fox,C.(2005年)。使用近似的马尔可夫链蒙特卡罗。J.计算。图表。统计人员。14 795-810. ·doi:10.1198/106186005X76983
[12] CRESSIE,N.和WIKLE,C.K.(2015)。时空数据统计.威利,新泽西州霍博肯·Zbl 1273.62017年
[13] Del Moral,P.、Kohn,R.和Patras,F.(2016)。关于粒子吉布斯采样器。亨利·彭加雷·普罗巴布(Henri PoincaréProbab)安·Inst。斯达。52 1687-1733. ·Zbl 1356.60114号 ·doi:10.1214/15-AIHP695
[14] DELMAS,J.-F.和JOURDAIN,B.(2009年)。废物回收真的改善了多比例Metropolis-Hastings算法吗?基于控制变量的分析。J.应用。普罗巴伯。46 938-959. ·Zbl 1187.60056号 ·doi:10.1239/jap/1261670681
[15] DHAENE,J.、WANG,S.、YOUNG,V.和GOOVAERTS,M.J.(2000)。协调性和最大止损保费。施韦茨。阿克图瓦尔。棒球手套。2 99-113. ·Zbl 1187.91099号
[16] DOUC,R.,CAPPé,O.和MOULINES,E.(2005)。粒子滤波重采样方案的比较会议记录4第届国际图像与信号处理与分析研讨会64-69. 电气与电子工程师协会。 ·doi:10.1109/ISPA.2005.195385
[17] DOUCET,A.、GODSILL,S.J.和ANDRIEU,C.(2000年)。贝叶斯滤波的序贯蒙特卡罗抽样方法。统计师。计算。10 197-208. ·doi:10.1023/A:1008935410038
[18] DVORETZKY,A.(1972年)。相依随机变量和的渐近正态性。第六届伯克利数理统计与概率研讨会论文集(加州大学伯克利分校., 1970/1971),第二卷:概率论513-535. 加利福尼亚大学出版社,加利福尼亚州伯克利·Zbl 0256.60009号
[19] FEARNHEAD,P.(1998)。英国牛津大学统计学系过滤理论中的序贯蒙特卡罗方法博士论文。
[20] FEARNHEAD,P.和CLIFFORD,P.(2003)。基于粒子滤波的隐马尔可夫模型在线推理。J.R.统计社会服务。B统计方法。65 887-899. ·Zbl 1059.62098号 ·doi:10.1111/1467-9868.00421
[21] FINKE,A.、DOUCET,A.和JOHANSEN,A.M.(2016)。关于嵌入式隐马尔可夫模型和粒子马尔可夫链蒙特卡罗方法。可在arXiv:161008962上获得·doi:10.48550/arXiv.1610.08962
[22] FINKE,A.和SINGH,S.S.(2017年)。高维状态空间模型中的近似平滑和参数估计。IEEE传输。信号处理。65 5982-5994. ·Zbl 1414.94197号 ·doi:10.1109/TSP.2017.2733504
[23] FINKE,A.和THIERY,A.H.(2023)。补充“高维条件序贯蒙特卡罗”https://doi.org/10.1214/22-AOS2252SUPP网站
[24] FRENKEL,D.(2004)。通过拒绝状态采样加快蒙特卡罗模拟。程序。国家。阿卡德。科学。美国101 17571-17575. ·doi:10.1073/pnas.0407950101
[25] GUARNIERO,P.、JOHANSEN,A.M.和LEE,A.(2017)。迭代辅助粒子过滤器。J.Amer。统计师。协会。112 1636-1647. ·doi:10.1080/01621459.2016.1222291
[26] 黑斯廷斯,W.K.(1970)。使用马尔可夫链的蒙特卡罗抽样方法及其应用。生物特征57 97-109. ·Zbl 0219.65008号 ·doi:10.1093/biomet/57.1.97
[27] KONG,A.、LIU,J.S.和WONG,W.H.(1994)。顺序插补和贝叶斯缺失数据问题。J.Amer。统计师。协会。89 278-288. ·Zbl 0800.62166号 ·doi:10.1080/01621459.1994.10476469
[28] LEE,A.、SINGH,S.S.和VIHOLA,M.(2020年)。耦合条件反向采样粒子滤波器。安。统计师。48 3066-3089. ·Zbl 1469.65014号 ·doi:10.1214/19-AOS1922
[29] LINDSTEN,F.、DOUC,R.和MOULINES,E.(2015)。粒子吉布斯采样器的均匀遍历性。扫描。J.统计。42 775-797. ·Zbl 1360.60143号 ·doi:10.1111/sjos.12136
[30] LINDSTEN,F.、JORDAN,M.I.和SCHÖN,T.B.(2012年)。吉布斯粒子的祖先采样。会议记录2012神经信息处理系统会议. ·Zbl 1319.60151号
[31] Liu,J.S.(1996)。Peskun定理和改进的离散Gibbs采样器。生物特征83 681-682. ·Zbl 0866.62061号 ·doi:10.1093/biomet/83.3.681
[32] 马洛里,S.J.(2021)。随机过程的贝叶斯推断ProQuest LLC,密歇根州安阿伯。论文(博士)-兰卡斯特大学(英国)。
[33] 大都市,N.,罗森布鲁斯,A.W.,罗森布拉斯,M.N.,泰勒,A.H.和泰勒,E.(1953年)。通过快速计算机器计算状态方程。化学物理杂志21 1087-1092. ·Zbl 1431.65006号 ·doi:10.1063/1.1699114
[34] MURPHY,J.和GODSILL,S.J.(2015)。高维相互作用系统的块粒子Gibbs格式。IEEE信号处理专题杂志10 328-342. ·doi:10.1109/JSTSP.2015.2509940
[35] NEAL,P.和ROBERTS,G.(2011年)。具有非高斯建议的随机行走Metropolis算法的最优缩放。Methodol公司。计算。申请。普罗巴伯。13 583-601. ·Zbl 1237.60060号 ·doi:10.1007/s11009-010-9176-9
[36] NEAL,R.M.(2003)。使用嵌入隐马尔可夫模型的非线性状态空间模型的马尔可夫链采样。ArXiv数学电子版. ·doi:10.48550/arXiv.math/0305039
[37] NEAL,R.M.、BEAL,M.J.和ROWEIS,S.T.(2004)。利用嵌入的隐马尔可夫模型推断非线性系统的状态序列。高级神经信息处理。系统。16 401-408.
[38] Peskun,P.H.(1973)。使用马尔可夫链的最佳蒙特卡罗抽样。生物特征60 607-612. ·兹比尔0271.62041
[39] PITT,M.K.和SHEPHARD,N.(1999)。通过模拟过滤:辅助粒子过滤器。J.Amer。统计师。协会。94 590-599. ·Zbl 1072.62639号 ·doi:10.2307/2670179
[40] REBESCHINI,P.和VAN HANDEL,R.(2015)。局部粒子过滤器能战胜维数的诅咒吗?附录申请。普罗巴伯。25 2809-2866. ·Zbl 1325.60058号 ·doi:10.1214/14-AAP1061
[41] Roberts,G.O.、Gelman,A.和Gilks,W.R.(1997)。随机行走Metropolis算法的弱收敛性和最优尺度。Ann.应用。普罗巴伯。7 110-120. ·Zbl 0876.60015号 ·doi:10.1214/oap/1034625254
[42] SCHWEDES,T.和CALDERHEAD,B.(2018年)。准马尔可夫链蒙特卡罗方法。可从arXiv:1807.00070获取·doi:10.48550/arXiv.1807.00070
[43] Sherlock,C.和Roberts,G.(2009年)。椭圆对称单峰目标上随机游走大都市的最优尺度。伯努利15 774-798. ·Zbl 1215.60047号 ·doi:10.3150/08-BEJ176
[44] SHESTOPALOFF,A.和DOUCET,A.(2019年)。复制条件顺序蒙特卡罗。机器学习国际会议5749-5757.
[45] SHESTOPALOFF,A.Y.和NEAL,R.M.(2013)。使用潜在序列集合的非线性状态空间模型的MCMC。ArXiv电子打印. ·doi:10.48550/arXiv.1305.0320
[46] SHESTOPALOFF,A.Y.和NEAL,R.M.(2018)。用嵌入式HMM方法对高维非线性状态空间模型的潜在状态进行采样。贝叶斯分析。13 797-822. ·兹比尔1448.65013 ·doi:10.1214/17-BA1077
[47] SINGH,S.S.、LINDSTEN,F.和MOULINES,E.(2017年)。颗粒吉布斯采样器的阻塞策略和稳定性。生物特征104 953-969. ·Zbl 07072338号 ·doi:10.1093/biomet/asx051
[48] TJELMELAND,H.(2004)。使用所有Metropolis-Hastings提案估算平均值。预印号:4/2004。挪威科技大学,挪威特隆赫姆。
[49] VAN LEEUWEN,P.J.(2009)。地球物理系统中的粒子滤波。每月天气回顾137 4089-4114·doi:10.1175/2009MWR2835.1
[50] Yang,J.、Roberts,G.O.和Rosenthal,J.S.(2020年)。随机游动Metropolis算法在一般目标分布上的最优缩放。随机过程。申请。130 6094-6132. ·Zbl 1455.60100号 ·doi:10.1016/j.spa.2020.05.004
[51] YANG,S.、CHEN,Y.、BERNTON,E.和LIU,J.S.(2018)。关于可并行化的马尔可夫链蒙特卡罗算法与废物回收。统计计算。28 1073-1081 ·Zbl 1406.65008号 ·doi:10.1007/s11222-017-9780-4
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。