×

一类自适应重要抽样加权EM算法,用于有效且稳健的后验和预测仿真。 (英文) 兹比尔1443.62465

摘要:介绍了一类自适应采样方法,用于有效的后验和预测模拟。所提出的方法是稳健的,因为它们可以处理呈现非椭圆形状的目标分布,例如多模态和偏态。基本方法使用重要性加权期望最大化步骤序列,以便有效构建学生密度的混合物,精确近似目标分布,通常是后验分布,其中我们只需要一个核,即目标和混合物之间的Kullback-Leibler散度最小。我们将此方法标记为按重要性抽样加权期望最大化的\(t\)的混合(MitISEM)。构建的混合物用作快速可靠应用重要性抽样(is)或大都会黑斯廷斯(MH)方法的候选密度。我们还介绍了基本MitISEM方法的三个扩展。首先,我们提出了一种将MitISEM应用于相继的方式,以便在新数据可用时巧妙地更新后验模拟的候选分布。我们的结果表明,计算工作量大大减少,而近似的质量几乎保持不变。这种顺序方法可以与回火方法相结合,这有助于从相距很远的多个模式的密度进行模拟。其次,我们引入一个排列增强型MitISEM方法。这对于重要性或Metropolis-Hastings从混合模型的后验分布中进行抽样很有用,无需对模型的混合状态参数施加识别限制。第三,我们建议部分MitISEM方法,旨在通过估计边际分布和条件分布的乘积来近似联合分布。这种划分可以大大降低近似问题的维数,这有助于在参数较多的更复杂模型中应用自适应重要性抽样进行后验模拟。我们的结果表明,所提出的方法可以大大减少诸如DCC或混合GARCH模型和混合工具变量模型等计量经济模型的计算负担。

MSC公司:

62第20页 统计学在经济学中的应用
2015年1月62日 贝叶斯推断
62米10 统计学中的时间序列、自相关、回归等(GARCH)
65二氧化碳 蒙特卡罗方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接 链接

参考文献:

[1] Akaike,H.,统计模型识别的新视角,IEEE自动控制汇刊,19,6716-723(1974)·Zbl 0314.62039号
[2] Angrist,J.D。;Krueger,A.B.,义务教育入学率是否影响学校教育和收入?,《经济学季刊》,106979-1014(1991)
[3] 巴什蒂尔克,N.,胡格海德,L.F.,Opschoor,A.,van Dijk,香港,2012年。R包MitISEM:使用学生-(t)的混合;巴什蒂尔克,N.,胡格海德,L.F.,Opschoor,A.,van Dijk,香港,2012年。R包MitISEM:使用学生-(t)的混合
[4] J.O.伯杰。;Pericchi,L.R.,模型选择和预测的内在贝叶斯因子,美国统计协会杂志,91,433,109-122(1996)·Zbl 0870.62021号
[5] O·卡佩。;杜克,R。;吉林,A。;Marin,J.M。;Robert,C.P.,《一般混合类中的自适应重要性抽样》,《统计与计算》,第18、4、447-459页(2008年)
[6] Chib,S.,吉布斯输出的边际似然,美国统计协会杂志,90,432,1313-1321(1995)·Zbl 0868.62027号
[7] 肖邦,N.,《静态模型的序贯粒子滤波方法》,《生物统计学》,89,3,539-551(2002)·Zbl 1036.62062号
[8] Cornuet,J.M.,Marin,J.M.,Mira,A.,Robert,C.P.,2012年。自适应多重重要性抽样。斯堪的纳维亚统计杂志(即将出版)。;Cornuet,J.M.,Marin,J.M..,Mira,A.,Robert,C.P.,2012年。自适应多重重要性抽样。《斯堪的纳维亚统计杂志》(即将出版)·Zbl 1319.62059号
[9] Dempster,A.P。;新墨西哥州莱尔德。;Rubin,D.B.,《通过EM算法从不完整数据中获取最大似然》,英国皇家统计学会杂志。B系列:统计方法,39,1,1-38(1977)·Zbl 0364.62022号
[10] 杜塞特,A。;德弗里塔斯,N。;Gordon,N.J.,《序贯蒙特卡罗方法在实践中的应用》(2001),Springer-Verlag:Springer-Verlag纽约·兹比尔0967.00022
[11] 埃克隆德,J。;Karlsson,S.,预测组合和使用预测措施的模型平均,《计量经济学评论》,26,329-363(2007)·Zbl 1112.62020年
[12] Engle,R.F.,《动态条件相关:一类简单的多元广义自回归条件异方差模型》,《商业与经济统计杂志》,20339-350(2002)
[13] Frühwirth-Schnatter,S.,经典和动态切换模型的马尔可夫链蒙特卡罗估计,美国统计协会杂志,96,194-209(2001)·兹比尔1015.62022
[14] Frühwirth-Schnatter,S。;Wagner,H.,使用辅助混合抽样的非高斯模型的边际可能性,计算统计与数据分析,52,4608-4624(2008)·Zbl 1452.62060号
[15] Gelfand,A.E。;Dey,D.K.,《贝叶斯模型选择:渐近和精确计算》,《皇家统计学会杂志》。B系列:统计方法,56,3,501-514(1994)·Zbl 0800.62170号
[16] 盖尔曼,A。;Carlin,J.B。;斯特恩,H.S。;鲁宾,D.B.,贝叶斯数据分析(2003),查普曼和霍尔:查普曼与霍尔伦敦
[17] Geweke,J.,使用蒙特卡罗积分的计量经济学模型中的贝叶斯推断,《计量经济学》,571317-1339(1989)·兹比尔0683.62068
[18] Geweke,J.,《混合模型中的解释和推断:简单MCMC作品》,计算统计与数据分析,51,3529-3550(2007)·Zbl 1161.62338号
[19] 盖尔,C.J.,1991年。马尔可夫链蒙特卡罗最大似然。摘自:Keramidas,E.(编辑),《计算科学与统计:第23届界面研讨会论文集》,第156-163页。;盖尔,C.J.,1991年。马尔可夫链蒙特卡罗最大似然。摘自:Keramidas,E.(Ed.),《计算科学与统计:第23届界面研讨会论文集》,第156-163页。
[20] 佐丹尼,P。;Kohn,R.,《通过快速估计混合正态分布的自适应独立大都市黑斯廷斯》附录,《计算与图形统计杂志》(2009年),网址:
[21] 佐丹尼,P。;Kohn,R.,《通过混合正态快速估计自适应独立大都市黑斯廷斯》,《计算与图形统计杂志》,第19期,第243-259页(2010年)
[22] Haario,H。;Saksman,E。;Tamminen,J.,自适应大都会算法,伯努利,7,223-242(2001)·Zbl 0989.65004号
[23] 哈默斯利,J.M。;Handscomb,D.C.,《蒙特卡洛方法》(1964),Methuen:Methuen London·Zbl 0121.35503号
[24] Hastings,W.K.,《使用马尔可夫链的蒙特卡罗采样方法及其应用》,《生物统计学》,第57期,第97-109页(1970年)·Zbl 0219.65008号
[25] 胡格海德,L.F。;Kaashoek,J.F.(美国)。;van Dijk,H.K.,《关于降秩工具变量回归模型中后验密度和可信集的形状:使用神经网络的灵活抽样方法的应用》,《计量经济学杂志》,139,1,154-180(2007)·Zbl 1418.62470号
[26] Hoogerheide,L.F.,Opschoor,A.,van Dijk,香港,2011年。一类基于EM的自适应重要性抽样算法,用于有效且稳健的后验和预测仿真。廷伯根研究所讨论文件TI 2011-004/4。;Hoogerheide,L.F.,Opschoor,A.,van Dijk,香港,2011年。一类基于EM的自适应重要性抽样算法,用于有效且稳健的后验和预测仿真。廷伯根研究所讨论文件TI 2011-004/4·Zbl 1443.62465号
[27] 胡格海德,L.F。;van Dijk,H.K.,使用自适应重要性抽样对风险价值和预期短缺进行贝叶斯预测,《国际预测杂志》,26,231-247(2010)
[28] 胡格海德,L.F。;范迪克,H.K。;van Oest,R.D.,《基于模拟的贝叶斯计量经济学推断:原理和一些最新的计算进展》,(Belsley,D.A.;Kontoghiorghes,E.,《计算计量经济学手册》(2009),威利),215-280
[29] 胡伟,2005。使用EM算法校准多元广义双曲分布,并应用于风险管理、投资组合优化和投资组合信用风险。博士论文。佛罗里达州立大学文理学院。;Hu,W.,2005年。使用EM算法校准多元广义双曲分布,并应用于风险管理、投资组合优化和投资组合信用风险。博士论文。佛罗里达州立大学艺术与科学学院。
[30] K.Hukushima。;Nemoto,K.,《交换蒙特卡罗及其在自旋玻璃模拟中的应用》,日本物理学会杂志,651604-1608(1996)
[31] 基思,J.M。;Kroese博士。;Sofronov,G.Y.,《自适应独立采样器,统计与计算》,第18期,第409-420页(2008年)
[32] Kloek,T。;van Dijk,H.K.,方程系统参数的贝叶斯估计:蒙特卡罗积分的应用,《计量经济学》,46,1-20(1978)·Zbl 0376.62014号
[33] 寇,S.C。;周,Q。;Wong,W.H.,等能量采样器及其在统计推断和统计力学中的应用,《统计年鉴》,341581-1619(2006)·兹比尔1246.82054
[34] Kullback,S。;Leibler,R.A.,《信息与充分性》,《数理统计年鉴》,22,79-86(1951)·Zbl 0042.38403号
[35] Lange,K.L。;Little,R.J.A。;Taylor,J.M.G.,使用(t)分布的稳健统计建模,美国统计协会杂志,84,881-896(1989)
[36] Liu,J.S.,科学计算中的蒙特卡罗策略(2001),Springer:Springer New York·Zbl 0991.65001号
[37] 刘,J.S。;Chen,R.,动态系统的序贯蒙特卡罗方法,美国统计协会杂志,93,1032-1044(1998)·Zbl 1064.65500号
[38] 北卡罗来纳州大都会。;罗森布鲁斯,A.W。;Rosenbluth,M.N。;出纳员,A.H。;特勒,E.,用快速计算机器计算状态方程,化学物理杂志,211087-1092(1953)·Zbl 1431.65006号
[39] Nelson,D.B.,《资产收益的条件异方差:一种新方法》,《计量经济学》,59347-370(1991)·Zbl 0722.62069号
[40] O'Hagan,A.,模型比较的分数贝叶斯因子,皇家统计学会杂志。B系列:统计方法,57,1,99-138(1995)·Zbl 0813.62026号
[41] 皮,D。;McLachlan,G.J.,使用(t)分布的稳健混合建模,统计与计算,10339-348(2000)
[42] Pitt,M.K.,Silva,R.S.,Giordani,P.,Kohn,R.,2010年。自适应Metropolis-Hastings采样中的辅助粒子滤波。http://arxiv.org/abs/1006.1914; Pitt,M.K.,Silva,R.S.,Giordani,P.,Kohn,R.,2010年。自适应Metropolis-Hastings采样中的辅助粒子滤波。http://arxiv.org/abs/1006.1914
[43] Ritter,C。;Tanner,M.A.,《促进吉布斯采样器:吉布斯塞子和Griddy-Gibbs采样器》,美国统计协会杂志,87861-868(1992)
[44] Roberts,G.O。;Rosenthal,J.S.,各种Metropolis-Hastings算法的最佳缩放,《统计科学》,16,351-367(2001)·Zbl 1127.65305号
[45] Roberts,G.O。;Rosenthal,J.S.,《自适应MCMC示例》,《计算与图形统计杂志》,18,349-367(2009)
[46] Rubin,D.B.,《迭代加权最小二乘法》(《统计科学百科全书》,第4卷(1983年),威利:威利纽约),272-275
[47] Schwarz,G.,估算模型的维度,《统计年鉴》,第6461-464页(1978年)·Zbl 0379.62005年
[48] Smith,J.Q.,非标准时间序列模型的诊断检查,《预测杂志》,4283-291(1985)
[49] 香港van Dijk。;Kloek,T.,《使用蒙特卡罗积分进行贝叶斯分析的进一步经验》,《计量经济学杂志》,第14期,第307-328页(1980年)·Zbl 0465.62106号
[50] 香港van Dijk。;Kloek,T.,《蒙特卡罗积分中简单重要性抽样的一些替代方法的实验》(Bernardo,J.M.;Degreoot,M.J.;Lindley,D.;Smith,A.F.M.,《贝叶斯统计》第2卷(1984年),北荷兰:北荷兰阿姆斯特丹)·Zbl 0465.62106号
[51] 泽维,A.J。;Meir,R.,通过密度的凸组合进行密度估计:近似和估计界,神经网络,10,1,99-106(1997)·Zbl 0869.68094号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。