×

贝叶斯状态空间模型拟合的点质量建议方法。 (英语) Zbl 1517.62036号

概述:状态空间模型(SSM)通常用于建模时间序列数据,其中的观测值取决于未观察到的潜在过程。然而,对SSM模型参数的推断可能具有挑战性,特别是当给定参数的数据的可能性无法以封闭形式提供时。一种方法是通过马尔可夫链蒙特卡罗(MCMC)和/或序贯蒙特卡罗近似对潜在状态和模型参数进行联合采样。当存在许多高度相关的潜在状态或参数时,或者当序贯蒙特卡罗近似中的样本贫化率很高时,这些方法可能效率低下,混合效果不佳。我们提出了一种新的基于联合潜在状态和参数空间的Gibbs抽样Metropolis-within-Gibbs的块建议分布。提案分布由确定性隐马尔可夫模型(HMM)通知,HMM的定义适用于MCMC算法的通常理论保证。我们讨论了HMM是如何构造的,由调整参数产生的方法的一般性,以及如何在实践中有效地选择这些调整参数。我们证明,使用HMM近似的所提算法为拟合状态空间模型提供了一种有效的替代方法,即使对于那些表现出近混沌行为的模型也是如此。

MSC公司:

62-08 统计问题的计算方法
60J22型 马尔可夫链中的计算方法
2015年1月62日 贝叶斯推断
2005年6月2日 马尔可夫过程:估计;隐马尔可夫模型
65二氧化碳 蒙特卡罗方法

软件:

TMB公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Andrieu,C。;Doucet,A。;Holenstein,R.,《粒子马尔可夫链蒙特卡罗方法》,J.R.Stat.Soc.Ser。B、 72、3、269-342(2010)·Zbl 1411.65020号 ·文件编号:10.1111/j.1467-9868.2009.00736.x
[2] Andrieu,C。;Roberts,GO,有效蒙特卡罗计算的伪边际方法,Ann.Stat.,37,29697-725(2009)·Zbl 1185.60083号 ·doi:10.1214/07-AOS574
[3] 奥格·梅瑟,M。;菲尔德,C。;Albertsen,CM;Derocher,AE;马萨诸塞州刘易斯;乔森,ID;Mills Flemming,J.,状态空间模型的肮脏小秘密:即使是简单的线性高斯模型也可能存在估计问题,Sci。代表,6,1,26677(2016)·doi:10.1038/srep26677
[4] 马萨诸塞州博蒙特,《遗传监测种群的种群增长或下降估计》,遗传学,164,31139-1160(2003)·doi:10.1093/genetics/164.3.1139
[5] Borowska,A。;King,R.,高效状态空间模型拟合的半完整数据增强,J.Compute。图表。统计,32,1,19-35(2023年)·Zbl 07746938号 ·doi:10.1080/10618600.2022.2077350
[6] Brooks,SP;Gelman,A.,《监测迭代模拟收敛性的通用方法》,J.Compute。图表。Stat.,7,4,434-455(1998年)
[7] 巴克兰,ST;纽曼,KB;托马斯·L。;Koests,NB,野生动物种群动态的状态空间模型,生态。型号。,171, 1, 157-175 (2004) ·doi:10.1016/j.ecolmodel.2003.08.002
[8] 比西,RS;Senne,KD,非线性滤波器的数字合成,Automatica,7,3,287-298(1971)·Zbl 0269.93070号 ·doi:10.1016/0005-1098(71)90121-X
[9] O·卡佩。;Moulines,E。;Rydén,T.,《隐马尔可夫模型中的推断》(2005),纽约:施普林格出版社,纽约·Zbl 1080.62065号 ·doi:10.1007/0-387-28982-8
[10] 卡特,CK;Kohn,R.,状态空间模型的On Gibbs抽样,Biometrika,81,3,541-553(1994)·Zbl 0809.62087号 ·doi:10.1093/biomet/81.3541
[11] 肖邦,N。;Singh,SS,《颗粒吉布斯取样》,伯努利,21,3,1855-1883(2015)·兹比尔1333.60164 ·doi:10.3150/14-BEJ629
[12] de Valpine,P。;Hastings,A.,《结合过程噪声和观测误差的人口模型拟合》,Ecol。单声道。,72, 1, 57-76 (2002) ·doi:10.1890/0012-9615(2002)072[0057:FPMIPN]2.0.CO;2
[13] Deligiannidis,G。;Doucet,A。;皮特,MK,相关伪边际法,J.R.Stat.Soc.Ser。B、 80,5839-870(2018)·Zbl 1407.62074号 ·doi:10.1111/rssb.12280
[14] Durbin,J。;Koopman,SJ,《状态空间方法的时间序列分析》(2012),牛津大学出版社·Zbl 1270.62120号 ·doi:10.1093/acprof:oso/9780199641178.0001
[15] Fearnhead,P.:国家空间模型的MCMC。摘自:Brooks,S.、Gelman,A.、Jones,G.L.J.、Meng,X.L.(编辑)《马尔可夫链蒙特卡罗手册》,第513-529页。查普曼和霍尔/CRC(2011)·Zbl 1229.65011号
[16] 费恩黑德,P。;Meligkotsidou,L.,粒子MCMC的增强方案,统计计算。,26, 6, 1293-1306 (2016) ·Zbl 1356.65025号 ·doi:10.1007/s11222-015-9603-4
[17] Finke,A.、Doucet,A.、Johansen,A.:关于嵌入式隐马尔可夫模型和粒子马尔可夫链蒙特卡罗方法。arXiv(2016)。arXiv:1610.08962
[18] Frühwirth-Schnatter,S.:高效贝叶斯参数估计。收录于:Harvey,A.、Koopman,S.J.、Shephard,N.(编辑)《状态空间与未观测组件模型:理论与应用》,第123-151页。剑桥大学出版社(2004)·Zbl 05280144号
[19] Gamerman,D.,Lopes,H.F.:马尔可夫链。收录:Gamerman,D.,Lopes,H.F.(编辑)《马尔可夫链蒙特卡罗:贝叶斯推断的随机模拟》。第二版,第113-139页。查普曼和霍尔/CRC(2006)·Zbl 1137.62011年
[20] Gelman,A。;Rubin,DB,《使用多序列从迭代模拟中推断》,《统计科学》。,7,4,457-472(1992年)·Zbl 1386.65060号 ·doi:10.1214/ss/117701136
[21] 加赫拉马尼,Z。;Jordan,M.,阶乘隐马尔可夫模型,马赫。学习。,29, 2, 245-273 (1995) ·Zbl 0892.68080号
[22] 佐丹尼,P。;Kohn,R.,《快速估计混合正态分布的自适应独立大都市黑斯廷斯》,J.Compute。图表。统计,19,2,243-259(2010)·doi:10.1198/jcgs.2009.07174
[23] Haario,H。;Saksman,E。;Tamminen,J.,随机行走都市算法的自适应建议分布,计算。《统计》,第14、3、375-395页(1999年)·兹伯利0941.62036 ·doi:10.1007/s001800050022
[24] Henriksen,S.、Wills,A.、Schön,T.B.、Ninness,B.:在GPU上并行实现粒子MCMC方法。In:第16届IFAC系统识别研讨会,第1143-1148页(2012)
[25] Herliansyah,R。;金·R。;King,SE,《个体异质性捕获-再捕获模型的拉普拉斯近似》,J.Agric。生物与环境。统计,22,1,401-418(2022)·Zbl 07632102号 ·doi:10.1007/s13253-022-00486-2
[26] Hobert,J.P.:数据增强算法:理论和方法。摘自:Brooks,S.、Gelman,A.、Jones,G.L.J.、Meng,X.L.(编辑)《马尔可夫链蒙特卡罗手册》,第253-293页。查普曼和霍尔/CRC(2011)·Zbl 1229.65017号
[27] Julier,S.J.、Uhlmann,J.K.:卡尔曼滤波器对非线性系统的新扩展。In:信号处理、传感器融合和目标识别VI,第182-193页(1997)
[28] 《线性滤波和预测问题的新方法》,《基础工程杂志》,第82、1、35-45页(1960年)·数字对象标识代码:10.1115/1.3662552
[29] 坎塔斯,N。;Doucet,A。;辛格,SS;Maciejowski,J。;肖邦,N.,《状态空间模型中参数估计的粒子方法》,《统计科学》。,30, 3, 328-351 (2015) ·Zbl 1332.62096号 ·doi:10.1214/14-STS511
[30] King,R.:统计生态学。在:Brooks,S.,Gelman,A.,Jones,G.L.J.,Meng,X.L.(编辑)《蒙特卡洛马尔可夫链手册》,第419-447页。查普曼和霍尔/CRC(2011)·Zbl 1218.65001号
[31] King,R.,《捕获-再捕获-再恢复数据的贝叶斯状态空间建模综述》,Interface Focus,2,2,190-204(2012)·doi:10.1098/rsfs.2011.0078
[32] 金·R。;摩根,BJT;吉梅内兹,O。;Brooks,SP,《人口生态学贝叶斯分析》(2009),纽约:查普曼和霍尔/CRC,纽约·doi:10.1201/9781439811887
[33] King,R.,Sarzo,B.,Elvira,V.:当生态个体异质性模型与大数据发生冲突时:重要抽样方法。附录申请。统计(2023)
[34] Kitagawa,G.,非瞬时时间序列的非高斯状态空间建模,J.Am.Stat.Assoc.,8200401032-1041(1987)·Zbl 0644.62088号
[35] 科普曼,SJ;Bos,CS,具有共同随机方差的状态空间模型,J.Bus。经济学。统计,22,3,346-357(2004)·doi:10.1198/07350010400000190
[36] Koyama,S。;佩雷兹·博尔德,L。;沙利兹,C。;Kass,R.,《状态空间模型的近似方法》,美国统计协会期刊,105,489,170-180(2010)·Zbl 1397.62112号 ·doi:10.1198/jasa.2009.tm08326
[37] Kristensen,K。;尼尔森,A。;柏格,CW;Skaug,H。;贝尔,BM,TMB:自动微分和拉普拉斯近似,J.Stat.Softw。,70, 5, 1-21 (2016) ·doi:10.18637/jss.v070.2005
[38] 兰洛克,R。;King,R.,《存在连续协变量的标记-再捕获-再恢复模型的最大似然估计》,Ann.Appl。Stat.,7,3,1709-1732(2013)·Zbl 1454.62451号 ·doi:10.1214/13-AOAS644
[39] 兰洛克,R。;伊利诺伊州麦克唐纳;Zucchini,W.,《一些非标准随机波动率模型及其使用结构化隐马尔可夫模型的估计》,J.Empir。财务。,147-161年1月19日(2012年)·doi:10.1016/j.jempfin.2011.09.003
[40] Latuszyñski,K。;罗伯茨,GO;Rosenthal,JS,自适应吉布斯采样器和相关mcmc方法,Ann.Appl。概率。,23, 1, 66-98 (2013) ·Zbl 1263.60067号 ·doi:10.1214/11-AAP806
[41] 李·T。;卫星,TP;Sun,S.,《确定性重采样:避免粒子滤波器中样本贫乏的无偏采样》,信号处理。,92, 7, 1637-1645 (2012) ·doi:10.1016/j.sigpro.2011.12.019
[42] Lin,A.,Zhang,Y.,Heng,J.,Allsop,S.A.,Tye,K.M.,Jacob,P.E.,Ba,D.:具有非线性动力学的时间序列聚类:一种贝叶斯非参数和基于粒子的方法。摘自:《第二十二届人工智能和拉普拉斯近似国际会议论文集》,第2476-2484页(2019年)
[43] Lindsten,F。;密歇根州约旦;Schön,TB,粒子吉布斯与祖先采样,J.Mach。学习。第15、63、2145-2184号决议(2014年)·Zbl 1319.60151号
[44] Lindsten,F.,Schön,T.B.,Jordan,M.:关于粒子吉布斯采样器中反向模拟的使用。2012年IEEE声学、语音和信号处理国际会议,第3845-3848页(2012)
[45] Matousek,J.,Dunik,J..,Straka,O.:点-质量滤波器:密度特定网格设计和实现。摘自:第15届欧洲先进控制和诊断研讨会,第1093-1115页(2019年)·Zbl 1504.93382号
[46] 英国电信公司麦克林托克;金·R。;托马斯·L。;马蒂奥普洛斯,J。;BJ麦康奈尔;Morales,JM,使用多状态随机行走的动物运动通用离散时间建模框架,Ecol。单声道。,82, 3, 335-349 (2012) ·doi:10.1890/11-0326.1
[47] Meent,J.W.,Yang,H.,Mansinghka,V.,Wood,F.:概率程序的先祖抽样粒子吉布斯。摘自:《第十八届国际人工智能与统计会议记录》,第986-994页(2015)
[48] J.墨菲。;高维相互作用系统的阻塞粒子吉布斯格式,IEEE J.Sel。顶部。信号处理。,10, 2, 328-342 (2016) ·doi:10.1010/JSTSP.2015.2509940文件
[49] Neal,R.M.:使用嵌入式隐马尔可夫模型的非线性状态空间模型的马尔可夫链采样。arXiv(2003)
[50] Newman,K.B.,Buckland,S.T.,Morgan,B.J.T.,King,R.,Borchers,D.L.,Cole,D.J.,Besbeas,P.,Gimenez,O.,Thomas,L.:人口动力学建模:使用状态空间方法的模型制定、拟合和评估。斯普林格(2014)
[51] 纽曼,KB;金·R。;埃尔维拉,V。;de Valpine,P。;RS麦克雷;Morgan,BJT,《生态时间序列数据的状态空间模型:实用模型构建》,方法经济学。演变。,14,1,26-42(2022)·doi:10.1111/2041-210X.13833
[52] Nonejad,N.,《随机波动率模型的粒子吉布斯祖先抽样:重尾、平均效应、杠杆、序列相关性和结构突变》,Stud.非线性动态。经济。,19561-584(2015年)·Zbl 1506.91003号
[53] Patterson,T.A.、Thomas,L.、Wilcox,C.、Ovaskainen,O.、Matthiopoulos,J.:个体动物运动的状态空间模型。经济趋势。进化。23(2), 87-94 (2008)
[54] Rabiner,L.,语音识别中隐藏马尔可夫模型和选定应用的教程,Proc。IEEE,77,2,257-286(1989)·数字对象标识代码:10.1109/5.18626
[55] Rainforth,T.、Naesseth,C.A.、Lindsten,F.、Paige,B.、van de Meent,J.W.、Doucet,A.、Wood,F.:相互作用粒子马尔可夫链蒙特卡罗。摘自:第33届机器学习国际会议记录,第2616-2625页(2016)
[56] 里梅拉。;Whiteley,N.,《利用高维阶乘隐马尔可夫模型中的局部性》,J.Mach。学习。第23、4、1-34号决议(2022年)·Zbl 07625157号
[57] 北谢泼德。;Pitt,MK,非高斯测量时间序列的似然分析,生物统计学,84,3,653-667(1997)·Zbl 0888.62095号 ·doi:10.1093/biomet/84.3.653
[58] Shestopaloff,A.Y.,Neal,R.M.:使用潜在序列集合的非线性状态空间模型的MCMC。arXiv(2013)。arXiv:1305.0320
[59] 谢斯托帕洛夫,AY;Neal,RM,使用嵌入式HMM方法对高维非线性状态空间模型的潜在状态进行采样,贝叶斯分析。,13, 3, 797-822 (2018) ·Zbl 1448.65013号 ·doi:10.1214/17-BA1077
[60] Smith,AC公司;Brown,EN,从点过程观测值估计状态空间模型,神经计算。,15, 5, 965-991 (2003) ·兹比尔1085.68651 ·doi:10.1162/089976603765202622
[61] 马萨诸塞州坦纳;Wong,WH,《通过数据增强计算后验分布》,美国统计协会,82,398,528-540(1987)·Zbl 0619.62029号 ·doi:10.1080/01621459.1987.10478458
[62] Thygesen,U.H.,Albertsen,C.M.,Berg,C.W.,Kristensen,K.,Nielsen,A.:使用拉普拉斯近似验证生态状态空间模型。环境。经济。Stat.24(2),317-339(2017)
[63] Wan,E.A.,Van Der Merwe,R.:非线性估计的无迹卡尔曼滤波器。摘自:IEEE 2000信号处理、通信和控制自适应系统研讨会论文集,第153-158页(2000)
[64] Wang,X.,Li,T.,Sun,S.,Corchado Rodríguez,J.:粒子滤波器的最新进展和多目标跟踪的剩余挑战调查。传感器17(12),2707(2017)
[65] Wood,S.N.:噪声非线性生态动力系统的统计推断。《自然》466(7310)、1102-1104(2010)
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。