×

根据渐近方差对可逆MCMC的重要性抽样校正与标准平均值。 (英语) Zbl 1455.60099号

摘要:我们建立了两个一致马尔可夫链蒙特卡罗(MCMC)估计量渐近方差的排序准则:基于近似可逆链和后续IS加权的重要性抽样(IS)估计量,以及基于精确可逆链的标准MCMC估计量。本质上,我们通过考虑两种不同的不变概率放松了Peskun型协方差排序的准则,并获得了IS的渐近方差的界,而不是渐近方差的严格排序。简单的例子表明,IS可以比Metropolis-Hastings和延迟接受(DA)MCMC具有任意好或差的渐近方差。我们的订购意味着IS保证在取决于(边际)IS权重的最高值的因素下具有竞争力。我们详细阐述了作为辅助变量框架一部分的无偏估计量情况下的准则。我们说明了该准则如何根据伪边缘(PM)和DA校正暗示IS的渐近方差保证,本质上是在精确和近似似然之比有界的情况下。我们还表明,与PM和DA链相比,IS链的收敛性受无界高方差无偏估计量的影响较小。

MSC公司:

60J22型 马尔可夫链中的计算方法
65二氧化碳 蒙特卡罗方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Andrieu,C.,《关于随机和系统扫描取样器》,Biometrika,103,3,719-726(2016)·兹比尔1506.62010
[2] Andrieu,C。;Doucet,A。;Holenstein,R.,《粒子马尔可夫链蒙特卡罗方法》,J.R.Stat.Soc.Ser。B统计方法。,72269-342(2010年),(有讨论)·Zbl 1411.65020号
[3] Andrieu,C。;Doucet,A。;Y’d’r’m,S。;肖邦,N.,《论非对称接受率下Metropolis-Hastings的效用》(2018),预印arXiv:1803.09527
[4] Andrieu,C。;A.李。;Vihola,M.,迭代条件SMC的一致遍历性和粒子Gibbs采样器的几何遍历性,Bernoulli,24,2(2018)·Zbl 1436.60069号
[5] Andrieu,C。;Moulines女士。,关于一些自适应MCMC算法的遍历性,J.Appl。概率。,16, 3, 1462-1505 (2006) ·Zbl 1114.65001号
[6] Andrieu,C。;Roberts,G.,《有效蒙特卡罗计算的伪边缘方法》,《统计年鉴》。,37, 2, 697-725 (2009) ·Zbl 1185.60083号
[7] Andrieu,C。;Thoms,J.,关于自适应MCMC的教程,Statist。计算。,18, 4, 343-373 (2008)
[8] Andrieu,C。;Vihola,M.,伪边缘马尔可夫链蒙特卡罗算法的收敛性,Ann.Appl。概率。,25, 2, 1030-1077 (2015) ·Zbl 1326.65012号
[9] Andrieu,C。;Vihola,M.,《在MCMC的精确近似之间建立某种秩序》,Ann.Appl。概率。,26, 5, 2661-2696 (2016) ·Zbl 1351.60097号
[10] 班特尔,M。;Grazian,C。;A.李。;Robert,C.,《通过延迟接受加速大都会-黑斯廷斯算法》(2015),预打印arXiv:1503.00996
[11] 巴兹利,J。;Solonen,A。;Haario,H。;Laine,M.,《随机优化:非线性反问题的后验分布抽样方法》,SIAM J.Sci。计算。,36、4、A1895-A1910(2014)·Zbl 1303.65003号
[12] 巴塞蒂,F。;Diaconis,P.,《比较重要性抽样和大都会算法的示例》,伊利诺伊州数学杂志。,50,1-4,67-91(2006年)·Zbl 1102.60060号
[13] Baxendale,P.,几何遍历马尔可夫链的更新理论和可计算收敛速度,Ann.Appl。概率。,15、1B、700-738(2005)·Zbl 1070.60061号
[14] Bellman,R.,正定矩阵平方根的几个不等式,线性代数应用。,1, 3, 321-324 (1968) ·Zbl 0164.03301号
[15] 卡拉乔洛,S。;佩利塞托,A。;Sokal,A.,具有固定端点的自空随机游动的非局部蒙特卡罗算法,J.Stat.Phys。,60, 1-53 (1990) ·兹比尔1086.82549
[16] 肖邦,N。;雅各布·P。;Papaspiliopoulos,O.,SMC^2:具有粒子马尔可夫链蒙特卡罗更新的序列蒙特卡罗算法,J.R.Stat.Soc.Ser。B统计方法。,75, 3, 397-426 (2013) ·Zbl 1411.62242号
[17] Christen,J。;Fox,C.,《使用近似的马尔可夫链蒙特卡罗》,J.Compute。图表。统计人员。,14, 4 (2005)
[18] 崔,T。;Y.Marzouk。;Willcox,K.,《通过似然参数和状态约简实现大规模贝叶斯逆问题的可缩放后验近似》,J.Compute。物理。,315363-387(2016)·Zbl 1349.65189号
[19] Deligiannidis,G。;Doucet,A。;皮特,M.K。;Kohn,R.,相关伪边缘方法,生物统计学,102,2,295-313(2015)·Zbl 1452.62055号
[20] Doss,H.,Discussion:探索后验分布的马尔可夫链,Ann.Statist。,22, 4, 1728-1734 (1994)
[21] 杜克,R。;Moulines,E。;Priouret,P。;Soulier,P.、Markov Chains(2018)、Springer·Zbl 1429.60002号
[22] 杜克,R。;Robert,C.,《大都会黑斯廷斯算法的典型Rao-Blackwellization》,Ann.Statist。,39, 1, 261-277 (2011) ·Zbl 1209.62023号
[23] Doucet,A。;皮特,M。;Deligiannidis,G。;Kohn,R.,《使用无偏似然估计量时马尔可夫链蒙特卡罗的有效实现》,《生物统计学》,102,2,295-313(2015)·Zbl 1452.62055号
[24] 吉尔克斯,W。;Roberts,G.,《改进MCMC的策略》,(马尔可夫链蒙特卡罗实践,第6卷(1996年)),第89-114页·Zbl 0844.62100号
[25] Glynn,P。;Iglehart,D.,随机模拟的重要性抽样,Manag。科学。,35, 11, 1367-1392 (1989) ·Zbl 0691.65107号
[26] Golightly,A。;亨德森·D·。;Sherlock,C.,随机动力学模型中精确推断的延迟接受粒子MCMC,Statist。计算。,25 (2015) ·Zbl 1332.60117号
[27] Hastings,W.,使用马尔可夫链的蒙特卡罗采样方法及其应用,Biometrika,57,1,97-109(1970)·Zbl 0219.65008号
[28] 贾纳,S。;Hansen,E.,大都会算法的几何遍历性,随机过程。申请。,85, 2, 341-361 (2000) ·Zbl 0997.60070号
[29] Kipnis,C。;Varadhan,S.,可逆Markov过程可加泛函的中心极限定理及其在简单排除中的应用,Comm.Math。物理。,104, 1, 1-19 (1986) ·Zbl 0588.60058号
[30] A.李。;Yau,C。;贾尔斯,M。;Doucet,A。;Holmes,C.,《关于图形卡对高级蒙特卡罗方法进行大规模并行模拟的实用性》,J.Compute。图表。统计人员。,19, 4, 769-789 (2010)
[31] 莱文,D。;佩雷斯,Y。;Wilmer,E.,《马尔可夫链与混合时间》(2009),美国数学学会·Zbl 1160.60001号
[32] 林,L。;刘凯。;斯隆,J.,《一种噪声蒙特卡罗算法》,《物理学》。D版,61(2000)
[33] Liu,J.,《都市独立抽样与拒绝抽样和重要性抽样的比较》,统计师。计算。,6, 2, 113-119 (1996)
[34] Liu,J.,科学计算中的蒙特卡罗策略(2003),Springer:Springer New York
[35] Liu,J.S。;Wong,W.H。;Kong,A.,吉布斯采样器的协方差结构及其在估计器和增强方案比较中的应用,生物统计学,81,1,27-40(1994)·Zbl 0811.62080号
[36] Meyn,S。;Tweedie,R.,《马尔可夫链与随机稳定性》,594(2009),剑桥大学出版社·Zbl 1165.60001号
[37] 米拉,A。;Geyer,C.,《订购蒙特卡罗-马尔可夫链技术报告》(1999)
[38] 米拉,A。;Leisen,F.,离散和连续时间马尔可夫链的协方差排序,统计。Sinica,651-666(2009)·兹比尔1168.62073
[39] A.欧文。;Zhou,Y.,安全有效的重要性抽样,J.Amer。统计师。协会,95,449,135-143(2000)·Zbl 0998.65003号
[40] 帕尔帕斯,P。;Ustun,B。;韦伯斯特,M。;Tran,Q.K.,《随机规划中的重要性抽样:马尔可夫链蒙特卡罗方法》,INFORMS J.Compute。,27, 2, 358-377 (2015) ·Zbl 1329.90095号
[41] Peskun,P.,使用马尔可夫链的最佳蒙特卡罗抽样,生物特征,60,3,607-612(1973)·Zbl 0271.62041号
[42] Quiroz先生。;Tran,M.-N。;维拉尼,M。;Kohn,R.,《通过延迟验收和数据二次采样加速MCMC》,J.Compute。图表。统计人员。,27, 1, 12-22 (2018) ·Zbl 07498963号
[43] 罗伯茨,G。;Rosenthal,J.,《大城市的哈里斯重现——吉布斯和跨维马尔可夫链》,Ann.Appl。概率。,16, 4, 2123-2139 (2006) ·Zbl 1121.60076号
[44] 罗伯茨,G。;Rosenthal,J.,自适应马尔可夫链蒙特卡罗算法的耦合和遍历性,J.Appl。概率。,44, 2, 458-475 (2007) ·Zbl 1137.62015年
[45] 罗伯茨,G。;Tweedie,R.,多维Hastings和Metropolis算法的几何收敛和中心极限定理,Biometrika,83,1,95-110(1996)·兹标0888.60064
[46] Rudolf,D.,马尔可夫链的显式误差界蒙特卡罗,Diss。数学。,485(2012),93页·Zbl 1273.60090号
[47] 夏洛克,C。;Lee,A.,延迟接受内核的方差边界(2017),预打印arXiv:1706.02142
[48] 夏洛克,C。;Thiery,A。;Lee,A.,《使用无偏估计值平均值的伪边缘都市——黑斯廷斯》,《生物统计学》,104,3,727-734(2017)·Zbl 07072238号
[49] Tierney,L.,关于一般状态空间的Metropolis-Hastings核的注记,Ann.Appl。概率。,8, 1, 1-9 (1998) ·Zbl 0935.60053号
[50] Tran,M.-N。;Scharth,M。;皮特,M。;Kohn,R.,潜在变量模型中贝叶斯推断的重要性抽样平方(2014),arXiv:1309.3339v3
[51] 维霍拉,M。;赫尔斯克,J。;Franks,J.,基于近似边际MCMC的重要性抽样类型估计值(2016),预印arXiv:1609.02541v6
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。