×

贝叶斯模型与Hyvärinen评分的比较:计算和一致性。 (英语) Zbl 1428.62118号

小结:贝叶斯因子是模型比较中广泛使用的标准,其对数是对数评分规则下样本外预测分数的差值。然而,当一些候选模型的参数包含模糊的先验信息时,log-Bayes因子具有一个妨碍其解释的任意加性常数。作为替代,我们考虑使用Hyvärinen分数进行模型比较。我们提出了一种使用序贯蒙特卡罗方法一致估计参数模型得分的方法。我们表明,对于具有可处理可能性的模型以及具有难处理可能性的非线性非高斯状态空间模型,可以估计该分数。在非嵌套模型的情况下,我们在强正则性假设下证明了该新模型选择准则的渐近一致性,并对嵌套情况提供了定性的见解。我们还利用离散空间上适当评分规则的现有特征,将Hyvärinen评分扩展到离散观测值。我们的数值例子包括Lévy驱动的随机波动模型和人口动力学的扩散模型。对于本文,可以在线获取。

MSC公司:

2015年1月62日 贝叶斯推断
2012年12月62日 参数估计量的渐近性质
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Alqallaf,F。;Gustafson,P.,“关于贝叶斯模型的交叉验证”,《加拿大统计杂志》,29,333-340(2001)·Zbl 0974.62019 ·doi:10.2307/316081
[2] Andrieu,C。;Doucet,A。;Holenstein,R.,“粒子马尔可夫链蒙特卡罗方法”,《皇家统计学会杂志》,B辑,72,269-342(2010)·Zbl 1411.65020号 ·文件编号:10.1111/j.1467-9868.2009.00736.x
[3] Barndorff Nielsen,首席执行官。;Shephard,N.,“非高斯-奥恩斯坦-乌伦贝克模型及其在金融经济学中的一些应用”,《皇家统计学会杂志》,B辑,63,167-241(2001)·Zbl 0983.60028号 ·doi:10.1111/1467-9868.00282
[4] Barndorff Nielsen,首席执行官。;Shephard,N.,“实现波动率的计量经济学分析及其在估计随机波动率模型中的应用”,英国皇家统计学会期刊,B辑,64253-280(2002)·Zbl 1059.62107号 ·数字对象标识代码:10.1111/1467-9868.00336
[5] Bartlett,M.S.,“对D.V.Lindley的统计悖论的评论”,Biometrika,44533-534(1957)·Zbl 0081.13801号 ·doi:10.1093/biomet/44.3-4.533
[6] J.O.伯杰。;Pericchi,L.R.,“模型选择和预测的内在贝叶斯因子”,《美国统计协会杂志》,91,109-122(1996)·Zbl 0870.62021号 ·doi:10.1080/01621459.1996.10476668
[7] J.O.伯杰。;Pericchi,L.R.,“模型选择的客观贝叶斯方法:介绍和比较,模型选择,IMS演讲笔记-专题系列,68,135-207(2001)
[8] J.O.伯杰。;佩里奇,L.R。;Varshavsky,J.,“不变情况下的贝叶斯因子和边际分布”,Sankhya A:印度统计杂志,60,307-321(1998)·Zbl 0973.62017号
[9] 伯纳多,J.M。;Smith,A.F.M.,贝叶斯理论(2000),纽约:威利出版社,纽约·Zbl 0943.62009号
[10] Bhattacharya,P.,“概率密度函数及其导数的估计”,Sankhyá:印度统计杂志,a辑,373-382(1967)·Zbl 0168.39703号
[11] Bobkov,S.G。;北卡罗来纳州戈兹兰。;罗伯托,C。;Samson,P.-M,“对数Sobolev不等式赤字的边界”,《函数分析杂志》,2674110-4138(2014)·Zbl 1301.26018号 ·doi:10.1016/j.jfa.2014.09.016
[12] 伯恩,L。;Doucet,A。;Gottardo,R.,“先验灵敏度分析和交叉验证的有效计算方法”,《加拿大统计杂志》,38,47-64(2010)·Zbl 1190.62046号
[13] 布雷托,C。;He,D。;离子,E.L。;King,A.A.,“通过机械模型进行时间序列分析”,《应用统计年鉴》,3319-348(2009)·Zbl 1160.62080号 ·doi:10.1214/08-AOAS201
[14] O·卡佩。;Moulines,E。;Rydén,T.,《隐马尔可夫模型中的推断》(2005),纽约:统计中的斯普林格系列,纽约·Zbl 1080.62065号
[15] 考勒,G。;Shepherd,N。;Short,J.,《袋鼠在澳大利亚绵羊牧场的生态与管理》(1987年),英国剑桥:剑桥大学出版社,英国剑桥
[16] Chib,S。;Kuffner,T.A.,“贝叶斯因子一致性”,预印本,arXiv:1607.00292(2016)
[17] 肖邦,N.,“静态模型的顺序粒子滤波方法”,《生物特征》,89,539-552(2002)·兹比尔1036.62062 ·doi:10.1093/biomet/89.3.539
[18] 肖邦,N。;雅各布,体育。;Papaspiliopoulos,O.,\(####):状态空间模型序列分析的一种有效算法,“,英国皇家统计学会期刊,B系列,75397-426(2013)·Zbl 1411.62242号 ·文件编号:10.1111/j.1467-9868.2012.01046.x
[19] Dawid,A.P.,后验模型概率,科学哲学手册,7607-630(2011)
[20] Dawid,A.P。;Lauritzen,S.L.,《决策理论的几何》,第二届信息几何及其应用国际研讨会论文集,22-28(2005)
[21] Dawid,A.P。;Lauritzen,S。;Parry,M.,“离散样本空间的适当局部评分规则”,《统计年鉴》,第40期,第593-608页(2012年)·Zbl 1246.62010年 ·doi:10.1214/12-AOS972
[22] Dawid,A.P。;Musio,M.,“基于适当评分规则的贝叶斯模型选择”,贝叶斯分析,10479-499(2015)·Zbl 1335.62017号 ·doi:10.1214/15-BA942
[23] Dawid,A.P。;穆西奥,M。;Columbu,S.,“关于使用适当评分规则选择离散数据贝叶斯模型的说明”,《统计与概率快报》,129101-106(2017)·Zbl 1379.62022号 ·doi:10.1016/j.spl.2017.05.010
[24] Dawid,A.P。;穆西奥,M。;Ventura,L.,“最低评分规则推断”,《斯堪的纳维亚统计杂志》,43123-138(2016)·Zbl 1371.62019年 ·doi:10.1111/sjos.12168
[25] De Gunst,M。;Shcherbakova,O.,“应用于离子通道的隐马尔可夫模型的Bayes估计的渐近行为”,统计数学方法,17,342-356(2008)·Zbl 1231.62153号 ·doi:10.3103/S1066530708040054
[26] Del Moral,P。;Doucet,A。;Jasra,A.,“连续蒙特卡洛采样器”,《皇家统计学会杂志》,B辑,68,411-436(2006)·Zbl 1105.62034号 ·文件编号:10.1111/j.1467-9868.2006.00553.x
[27] 丹尼斯,B。;Costantino,R.,“用伽马丰度模型分析稳定种群:在Tribolium中的应用”,生态学,69,1200-1213(1988)·doi:10.2307/1941275
[28] 杜克,R。;Cappé,O.,《粒子滤波重采样方案的比较》,第四届图像和信号处理与分析国际研讨会论文集,64-69(2005)
[29] 杜克,R。;Moulines,E。;Stoffer,D.,《非线性时间序列:理论、方法和应用与R示例》(2014),佛罗里达州博卡拉顿:查普曼和霍尔/CRC,佛罗里达州波卡拉顿·Zbl 1306.62026号
[30] 杜克,R。;奥尔森,J。;Roueff,F.,“部分观测马尔可夫模型的后验一致性”,预印本,arXiv:1608.06851(2016)
[31] 嗯,W。;Gneiting,T.,“二级本地正确评分规则”,《统计年鉴》,40,609-637(2012)·Zbl 1246.86013号 ·doi:10.1214/12-AOS973
[32] 费恩黑德,P。;Taylor,B.M.,“自适应序贯蒙特卡罗采样器”,《贝叶斯分析》,第8期,第411-438页(2013年)·兹比尔1329.62055 ·doi:10.1214/13-BA814
[33] Fulop,A。;Li,J.,“通过模拟进行有效学习:边缘化的再抽样移动方法”,《计量经济学杂志》,176146-161(2013)·Zbl 1284.62516号 ·doi:10.1016/j.jeconom.2013.05.002
[34] Gassiat,E。;Rousseau,J.,“关于状态数未知的隐马尔可夫模型的后验分布”,Bernoulli,2039-275(2014)·Zbl 1302.62183号 ·doi:10.3150/13-BEJ550
[35] Gerber,M。;肖邦,N。;Whiteley,N.,“重采样方法的负关联、有序性和收敛性”,预印本,arXiv:1707.01845(2017)
[36] 哈德尔,W。;Marron,J。;Wand,M.,“密度导数的带宽选择”,《皇家统计学会期刊》,B辑,52223-232(1990)·Zbl 0699.62036号 ·doi:10.1111/j.2517-6161.1990.tb01783.x
[37] 亨德里克森,A.D。;Buehler,R.J.,“概率预测者的正确得分”,《数理统计年鉴》,第42期,1916-1921(1971)·Zbl 0231.62018号 ·doi:10.1214/aoms/1177693057
[38] 霍姆斯,C。;Walker,S.,“在一般贝叶斯模型中为幂似然赋值”,Biometrika,104,497-503(2017)·Zbl 1506.62264号
[39] “序贯法”,《皇家统计学会杂志》,A辑,147278-292(1984)·Zbl 0557.62080号
[40] Hyvärinen,A.,“通过分数匹配估计非正规统计模型”,《机器学习研究杂志》,第6期,第695-709页(2005年)·Zbl 1222.62051号
[41] Jeffreys,H.,《概率论》(1939),英国牛津:牛津大学出版社,英国牛津
[42] Jewson,J。;J.Q.史密斯。;Holmes,C.,“原则贝叶斯最小发散推断”,预印本,arXiv:1802.09411(2018)
[43] Kamary,K。;Mengersen,K。;罗伯特·C·P。;Rousseau,J.,“通过混合估计模型测试假设”,预印本,arXiv:1412.2044v2(2014)
[44] Kass,R。;Raftery,A.,“贝叶斯因子”,《美国统计协会杂志》,90,773-795(1995)·Zbl 0846.62028号 ·doi:10.1080/01621459.1995.10476572
[45] Key,J.T。;佩里奇,L.R。;Smith,A.F.,“贝叶斯模型选择:什么和为什么”,贝叶斯统计学,6343-370(1999)·Zbl 0956.62007号
[46] Knape,J。;de Valpine,P.,“将粒子滤波器与马尔可夫链蒙特卡罗相结合来拟合复杂种群模型”,生态学,93256-263(2012)·doi:10.1890/11-0797.1
[47] Lee,J。;MacEachern,S.N.,“在不假设模型正确的情况下贝叶斯估计的一致性”,《统计规划与推断杂志》,141748-757(2011)·Zbl 1214.62025号 ·doi:10.1016/j.jspi.2010.07.022
[48] A·李高。;普伦斯特,I。;Walker,S.G.,“平稳模型的贝叶斯一致性”,计量经济学理论,23749-759(2007)·Zbl 1237.62033号
[49] McCarthy,J.,“信息价值的衡量,美国国家科学院院刊,42654-655(1956)·Zbl 0072.37501号
[50] 莫雷诺,E。;Girón,F.J。;Casella,G.,“随着维度的增长,客观贝叶斯因子的一致性”,《统计年鉴》,381937-1952(2010)·Zbl 1323.62024号 ·doi:10.1214/09-AOS754
[51] Murray,L.M。;A.李。;Jacob,P.E.,“粒子过滤器中的并行重采样”,《计算与图形统计杂志》,25,789-805(2016)·doi:10.1080/10618600.2015.06205
[52] Neal,R.M.,《退火重要性抽样、统计和计算》,11,125-139(2001)·doi:10.1023/A:1008923215028
[53] O'Hagan,A.,模型比较的分数贝叶斯因子,《皇家统计学会杂志》,B辑,57,99-138(1995)·Zbl 0813.62026号
[54] M.帕里。;Dawid,A.P。;Lauritzen,S.,“适当的地方评分规则”,《统计年鉴》,第40卷,第561-592页(2012年)·Zbl 1246.62011年 ·doi:10.1214/12-AOS971
[55] Robert,C.,《贝叶斯选择:从决策理论基础到计算实现》(The Bayesian Choice:From Decision-theory Foundations to Computational Implementation)(2007),纽约:Springer Science&Business Media出版社,纽约·Zbl 1129.62003号
[56] Rousseau,J.和Taeryon,C.(2012),“回归问题中的贝叶斯因子一致性”,HAL,auvertes档案馆,HAL-00767469·Zbl 1394.62042号
[57] 桑提斯,F。;Spezzaferri,F.,“默认和稳健贝叶斯模型比较方法:分数贝叶斯因子方法”,《国际统计评论》,67,267-286(1999)·兹比尔0944.62027 ·doi:10.1111/j.1751-5823.1999.tb00449.x
[58] Shalizi,C.R.,“依赖数据和错误指定模型的贝叶斯更新动力学”,《统计学电子期刊》,第3期,第1039-1074页(2009年)·Zbl 1326.62017年 ·doi:10.1214/09-EJS485
[59] Tsybakov,A.B.,《非参数估计导论》(2009),纽约:统计中的斯普林格级数,纽约·兹比尔1176.62032
[60] Vuong,Q.H.,“模型选择和非检验假设的似然比检验”,《计量经济学:计量经济学学会杂志》,57,307-333(1989)·Zbl 0701.62106号 ·doi:10.307/1912557
[61] Walker,S.G.,“错误指定模型的贝叶斯推断”,《统计规划与推断杂志》,1431621-1633(2013)·Zbl 1279.62066号 ·doi:10.1016/j.jspi.2013.05.013
[62] Walker,S.G.,“实验中的贝叶斯信息和Fisher信息距离”,《统计与概率快报》,第112期,第5-9页(2016年)·Zbl 1384.62020年
[63] 周,Y。;Johansen,A.M。;Aston,J.A.D.,《走向自动模型比较:自适应序贯蒙特卡罗方法》,《计算与图形统计杂志》,25,701-726(2016)·doi:10.1080/10618600.2015.1060885
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。