×

优化随机扫描吉布斯采样器。 (英语) Zbl 1101.62087号

摘要:吉布斯采样器是一种流行的马尔可夫链蒙特卡罗程序,用于从其他难以采样的分布中生成随机变量。运行Gibbs采样器有许多实现方法,其顺序不同,Gibbs取样器使用的完整条件分布通过循环或访问的顺序也不同。一种常见的、事实上也是最初的实现是随机扫描策略,在每次迭代中,按照随机选择的顺序更新完整的条件分布。
我们引入了一种随机扫描吉布斯采样器,该采样器自适应更新选择概率或“学习”吉布斯采样期间生成的所有先前随机变量。在此过程中,我们概述了随机扫描吉布斯采样器的一些变化,它允许从业者有许多选择来设置选择概率,并证明了诱导(马尔可夫)链收敛到感兴趣的平稳分布。虽然我们强调了用户选择和指定这些随机扫描算法的灵活性,但我们提出了一种极大极小随机扫描,它通过对感兴趣估计量精度的决策理论考虑来确定选择概率。我们通过使用自适应随机扫描吉布斯采样器(该采样器用于从多元高斯目标分布中采样)来说明并应用所给出的结果,以在Dirichlet过程混合模型下进行后验模拟的自动采样器,以及拟合分布的混合。

MSC公司:

62M99型 随机过程推断
62C20个 统计决策理论中的Minimax过程
65立方厘米 马尔可夫链的数值分析或方法
60J22型 马尔可夫链中的计算方法
62E20型 统计学中的渐近分布理论
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿米特,Y。;Grenander,U.,《比较随机松弛的扫描策略》,J.多元分析。,37, 197-222 (1991) ·Zbl 0735.60035号
[2] 卡林,B.P。;Chib,S.,通过马尔可夫链蒙特卡罗方法选择贝叶斯模型,J.Roy。统计师。Soc.B,57,473-484(1995)·Zbl 0827.62027号
[3] G.Casella、C.Robert、M.T.Wells,《混合模型、潜在变量和分区重要性抽样》,技术报告;G.Casella、C.Robert、M.T.Wells,《混合模型、潜在变量和分区重要性抽样》,技术报告·兹比尔1075.65016
[4] Chib,S.,吉布斯输出的边际可能性,J.Amer。统计师。协会,90,1313-1321(1995)·Zbl 0868.62027号
[5] Diebolt,J。;Robert,C.P.,通过贝叶斯抽样估计有限混合分布,J.Roy。统计师。Soc.B,56,363-375(1994)·Zbl 0796.62028号
[6] Escobar,M.D.,《使用Dirichlet过程估计正常平均值》,J.Amer。统计师。协会,89,268-277(1994)·Zbl 0791.62039号
[7] 医学博士埃斯科瓦尔。;West,M.,《使用混合物的贝叶斯密度估计和推断》,J.Amer。统计师。协会,90,577-588(1995)·Zbl 0826.62021号
[8] Ferguson,T.S.,《数理统计:决策理论方法》(1967),学术出版社:纽约学术出版社·Zbl 0153.47602号
[9] Fleming,W.,《多变量函数》(1977),Springer:Springer New York·Zbl 0348.26002号
[10] Fishman,G.S.,Gibbs采样的坐标选择规则,Ann.Appl。概率。,6, 444-465 (1996) ·兹比尔0855.60060
[11] Gelfand,A.E。;Smith,A.F.M.,《基于抽样的边际密度计算方法》,J.Amer。统计师。协会,85,398-409(1990)·Zbl 0702.62020号
[12] Geman,S。;Geman,D.,《随机松弛、吉布斯分布和图像的贝叶斯恢复》,IEEE Trans。模式分析。机器。智力。,6, 721-741 (1984) ·Zbl 0573.62030号
[13] J.Hoffmann-Jorgensen,《概率与统计观点》,第1卷,查普曼和霍尔出版社,纽约,1994年。;J.Hoffmann-Jorgensen,《概率与统计观点》,第1卷,查普曼和霍尔出版社,纽约,1994年·兹比尔0821.62003
[14] Lehmann,E.L。;Casella,G.,《点估计理论》(1998),威利:威利纽约·Zbl 0916.62017号
[15] 莱文,R.A。;Yu,Z。;Hanley,W.G。;Nitao,J.J.,《实施随机扫描吉布斯采样器》,计算。统计人员。,20, 177-196 (2005) ·Zbl 1091.65011号
[16] 刘杰。;Wong,W.H。;Kong,A.,吉布斯采样器的协方差结构及其在估计器和增强方案比较中的应用,生物统计学,81,27-40(1994)·Zbl 0811.62080号
[17] 刘杰。;Wong,W.H。;Kong,A.,吉布斯采样器与各种扫描的相关结构和收敛速度,J.Roy。统计师。Soc.B,57,157-169(1995)·Zbl 0811.60056号
[18] MacEachern,S.N.,用共轭型Dirichlet过程先验估计正态均值,Comm.Statist。模拟计算。,23, 727-741 (1994) ·Zbl 0825.62053号
[19] MacEachern,S.N。;Müller,P.,估计Dirichlet过程模型的混合,J.Compute。图形统计。,7, 223-238 (1998)
[20] Neal,R.M.,Dirichlet过程混合模型的马尔可夫链抽样方法,J.Compute。图形统计。,9, 249-265 (2000)
[21] 邮差,M。;Huchra,J.P。;Geller,M.J.,《北日冕地区大规模结构探测》,《天文学》。J.,92,1238-1247(1986)
[22] Robert,C.P.,《关于“探索后验分布的马尔可夫链”的回复》,《统计年鉴》。,22, 1742-1747 (1994)
[23] Robert,C.P.,马尔可夫链蒙特卡罗算法的收敛控制方法,统计。科学。,10, 231-253 (1995) ·Zbl 0955.60526号
[24] Robert,C.P.,分布的混合:推断和估计,(Gilks,W.R.;Richardson,S.;Spiegelholter,D.J.,Markov Chain Monte Carlo in Practice(1996),查普曼和霍尔:查普曼和霍尔,纽约)·邮编:0849.62013
[25] 罗伯特·C·P。;Casella,G.,Monte Carlo统计方法(1999),Springer:Springer New York·Zbl 0935.62005号
[26] 罗伯特,C.P。;Mengersen,K.L.,混合建模中的重新参数化问题及其对MCMC算法的影响,计算。统计师。数据分析。,29, 325-343 (1998) ·Zbl 1042.62527号
[27] Roberts,G.O。;Sahu,S.K.,吉布斯采样器更新方案、相关结构、阻塞和参数化,J.Roy。统计师。Soc.B,59,291-317(1997)·Zbl 0886.62083号
[28] Tierney,L.,探索后验分布的马尔可夫链,Ann.Statist。,22, 1701-1762 (1994) ·Zbl 0829.62080号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。