×

多级线性模型、吉布斯采样器和多重网格分解(含讨论)。 (英语) Zbl 07808155号

总结:我们在条件高斯层次模型的贝叶斯分析产生的后验分布的背景下研究吉布斯采样器的收敛性。我们开发了一种多重网格方法,用于推导各种广泛使用的模型结构(包括嵌套和交叉随机效应)的算法收敛速度的解析表达式。我们的结果适用于层次结构中具有任意数量层的多级模型,而之前的大多数工作仅限于两级嵌套情况。理论结果提供了明确且易于实施的指南,以优化吉布斯采样器的实际实现,例如指示应选择哪些参数化(例如中心化和非中心化),施加哪些约束以确保统计可识别性,以及在诊断过程中监测哪些参数。仿真表明,在非高斯分布和更通用的MCMC方案(如基于梯度的方案)的背景下,这些结果也是有信息的。

MSC公司:

62至XX 统计

软件:

R(右);斯坦
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Alsmeyer,G.和Fuh,C.-D.(2001)。“再生方法迭代随机函数的极限定理”,《随机过程及其应用》,96(1):123-142。数字对象标识符:10.1016/S0304-4149(01)00104-1谷歌学者:查找链接数学科学网:MR1856683 zbMATH:1058.60054·Zbl 1058.60054号 ·doi:10.1016/S0304-4149(01)00104-1
[2] Amit,Y.(1991)。“关于高斯和非高斯分布随机松弛的收敛速度”,《多元分析杂志》。,38(1): 82-99. 数字对象标识符:10.1016/0047-259X(91)90033-X谷歌学者:查找链接MathSciNet:MR1128938 zbMATH:0735.600036·Zbl 0735.60036号 ·doi:10.1016/0047-259X(91)90033-X
[3] Amit,Y.(1996)。“高斯扰动下吉布斯采样器的收敛性质”,《统计年鉴》。,24(1): 122-140. 数字对象标识符:10.1214/aos/1033066202谷歌学者:查找链接MathSciNet:MR1389883 zbMATH:0854.60066 Euclid:Euclid.aos/1033066202·Zbl 0854.60066号 ·doi:10.1214/aos/1033066202
[4] Bass,M.R.和Sahu,S.K.(2017年)。“使用MCMC对基于高斯过程的贝叶斯计算模型中心参数化的比较”,《统计与计算》,27(6):1491-1512。数字对象标识符:10.1007/s11222-016-9700-z谷歌学者:查找链接数学科学网:MR3687322 zbMATH:1384.62078·Zbl 1384.62078号 ·doi:10.1007/s11222-016-9700-z
[5] Bass,M.R.和Sahu,S.K.(2019年)。“空间数据分层贝叶斯模型的动态更新空间变化参数化”,《计算与图形统计杂志》,28(1):105-116。数字对象标识符:10.1080/10618600.2018.1482761谷歌学者:查找链接数学科学网:MR3939375·兹比尔07499015 ·doi:10.1080/10618600.2018.1482761
[6] Bhatia,R.(2013)。矩阵分析,第169卷。施普林格科技与商业媒体。数字对象标识符:10.1007/978-1-4612-0653-8谷歌学者:查找链接数学科学网:MR1477662 zbMATH:0863.15001·doi:10.1007/978-1-4612-0653-8
[7] Brown,L.D.、Mukherjee,G.、Weinstein,A.等人(2018年)。“双向交叉分类模型的经验贝叶斯估计”,《统计年鉴》,46(4):1693-1720。数字对象标识符:10.1214/17-AOS1599谷歌学者:查找链接MathSciNet:MR33819114 zbMATH:1403.62015欧几里得:欧几里得.aos/1530086430·兹比尔1403.62015 ·doi:10.1214/17-AOS1599
[8] Browne,W.J.(2004)。“在交叉随机效应模型中使用重新参数化方法提高MCMC效率的说明”,多层建模通讯,16(1):13-25。
[9] Carpenter,B.、Gelman,A.、Hoffman,M.D.、Lee,D.、Goodrich,B.、Betancourt,M.、Brubaker,M.,Guo,J.、Li,P.和Riddell,A.(2017)。“斯坦:一种概率编程语言”,《统计软件杂志》,76(1)。
[10] Diaconis,P.和Freedman,D.(1999)。“迭代随机函数。”SIAM综述,41(1):45-76。数字对象标识符:10.1137/S0036144598338446谷歌学者:查找链接MathSciNet:MR1669737 zbMATH:0926.60056·Zbl 0926.60056号 ·doi:10.1137/S0036144598338446
[11] Diaconis,P.、Khare,K.和Saloff-Coste,L.(2010年)。《随机交替投影》,伊利诺伊州数学杂志。,54(3): 963-979. 数字对象标识符:10.1215/ijm/1336568522谷歌学者:查找链接MathSciNet:MR22928343 zbMATH:12686.0098欧几里得:欧几里得.ijm/1336568522·Zbl 1268.60098号 ·doi:10.1215/ijm/1336568522
[12] Gao,K.和Owen,A.(2017)。“大型非平衡交叉随机效应模型中方差分量的有效矩计算”,《统计学电子期刊》,11(1):1235-1296。数字对象标识符:10.1214/17-EJS1236谷歌学者:查找链接数学科学网:MR3635913 zbMATH:1362.62044·Zbl 1362.62044号 ·doi:10.1214/17-EJS1236
[13] Gelfand,A.E.和Sahu,S.K.(1999)。“广义线性模型的可识别性、不当先验和吉布斯抽样”,《美国统计协会杂志》,94(445):247-253。数字对象标识符:10.1080/01621459.1999.10473840谷歌学者:查找链接数学科学网:MR1689229 zbMATH:1072.62611·Zbl 1072.62611号 ·doi:10.1080/01621459.1999.10473840
[14] Gelfand,A.E.、Sahu,S.K.和Carlin,B.P.(1995)。“正常线性混合模型的有效参数化。”生物特征, 82(3): 479-488. 数字对象标识符:10.1093/biomet/82.3.479谷歌学者:查找链接数学科学网:MR1366275 zbMATH:0832.62064·Zbl 0832.62064号 ·doi:10.1093/生物技术/82.3479
[15] Gelfand,A.E.、Sahu,S.K.和Carlin,B.P.(1996)。“广义线性混合模型的有效参数化(讨论)”,MathSciNet:MR1425405
[16] Gelfand,A.E.和Smith,A.F.(1990年)。“基于抽样的边际密度计算方法”,《美国统计协会杂志》,85(410):398-409。数字对象标识符:10.1080/01621459.1990.10476213谷歌学者:查找链接zbMATH:0702.62020 MathSciNet:MR1141740·Zbl 0702.62020号 ·doi:10.1080/016214591990.10476213
[17] Gelman,A.和Hill,J.(2006年)。使用回归和多级/层次模型进行数据分析。剑桥大学出版社。
[18] Goodman,J.和Sokal,A.D.(1989年)。“多网格蒙特卡罗方法。概念基础。”物理评论D,40(6):2035。
[19] Hills,S.E.和Smith,A.F.(1992年)。“贝叶斯推理中的参数化问题”,贝叶斯统计,4:227-246。数学科学网:MR1380279
[20] Hoffman,M.D.和Gelman,A.(2014)。“无转取样器:在哈密顿蒙特卡罗中自适应设置路径长度”,《机器学习研究杂志》,15(1):1593-1623。数学科学网:MR3214779 zbMATH:1319.60150·Zbl 1319.60150号
[21] Johndrow,J.E.、Mattingly,J.C.、Mukherjee,S.和Dunson,D.(2015)。《马尔可夫链近似和贝叶斯推断》,arXiv预印本arXiv:1508.03387。arXiv:1508.03387
[22] Jones,G.L.和Hobert,J.P.(2004)。“分层随机效应模型吉布斯采样器的充分老化”,《统计年鉴》,32(2):784-817。数字对象标识符:10.1214/009053604000000184谷歌学者:查找链接MathSciNet:MR2060178 zbMATH:1048.62069 Euclid:Euclid.aos/1083178947·Zbl 1048.62069号 ·doi:10.1214/09053604000000184
[23] Kaufman,C.G.,Sain,S.R.等人(2010年)。“使用高斯过程先验分布的贝叶斯函数方差分析建模。”贝叶斯分析,5(1):123-149。数字对象标识符:10.1214/10-BA505谷歌学者:查找链接MathSciNet:MR2596438 Euclid:Euclid.ba/1340369795 zbMATH:13300.62341·Zbl 1330.62341号 ·doi:10.1214/10-BA505
[24] Khare,K.,Zhou,H.等人(2009年)。“一些具有多项式特征函数的多元马尔可夫链的收敛速度”,《应用概率年鉴》,19(2):737-777。数字对象标识符:10.1214/08-AAP562谷歌学者:查找链接MathSciNet:MR2521887 zbMATH:1171.60016 Euclid:Euclid.aoap/1241702249·Zbl 1171.60016号 ·doi:10.1214/08-AAP562
[25] Liu,J.S.和Sabatti,C.(2000年)。“用于贝叶斯计算的广义吉布斯采样器和多重网格蒙特卡罗。”生物特征, 353-369. 数字对象标识符:10.1093/biomet/87.2.353谷歌学者:查找链接数学科学网:MR1782484 zbMATH:0960.65015·Zbl 0960.65015号 ·doi:10.1093/biomet/87.2.353
[26] Liu,J.S.和Wu,Y.N.(1999年)。“数据增强的参数扩展”,《美国统计协会杂志》,94(448):1264-1274。数字对象标识符:10.1080/01621459.1999.10473879谷歌学者:查找链接zbMATH:1069.62514数学科学网:MR1731488·Zbl 1069.62514号 ·doi:10.1080/01621459.1999.10473879
[27] Meng,X.-L.和Van Dyk,D.(1997)。“EM算法-一首古老的民歌唱出了一首新快的曲调”,《皇家统计学会杂志:B辑(统计方法)》,59(3):511-567。数字对象标识符:10.1111/1467-9868.00082谷歌学者:查找链接MathSciNet:MR1452025 zbMATH:1090.62518·Zbl 1090.62518号 ·doi:10.111/1467-9868.00082
[28] Meng,X.-L.和Van Dyk,D.A.(1999)。“通过条件和边缘增强寻求有效的数据增强方案。”生物特征, 86(2): 301-320. 数字对象标识符:10.1093/biomet/86.2.301谷歌学者:查找链接数学科学网:MR1705351 zbMATH:1054.62505·Zbl 1054.62505号 ·doi:10.1093/biomet/86.2.301
[29] Neal,R.M.等人(2011年)。《使用哈密顿动力学的MCMC》,《马尔可夫链蒙特卡罗手册》,2(11):2。数学科学网:MR2858447
[30] Papaspiliopoulos,O.、Roberts,G.O.和Skold,M.(2003)。“分层模型和数据增强的非中心参数化(含讨论)”,收录于Bernardo,J.、Bayarri,M.、Berger,J.和Dawid,A.、Heckerman,D.、Smith,A.和West,M.(编辑),《贝叶斯统计》7,307-326。纽约:牛津大学出版社。数学科学网:MR2003180
[31] Papaspiliopoulos,O.、Roberts,G.O.和Sköld,M.(2007年)。“层次模型参数化的一般框架”,《统计科学》,59-73。数字对象标识符:10.1214/0883423070000014谷歌学者:查找链接MathSciNet:MR2408661 zbMATH:1246.62195 Euclid:Euclid.ss/1185975637·Zbl 1246.62195号 ·doi:10.1214/0883423070000014
[32] Papaspiliopoulos,O.、Roberts,G.O.和Zanella,G.(2019年)。“交叉随机效应模型的可缩放推理。”生物特征, 107(1): 25-40. 数字对象标识符:10.1093/biomet/asz058谷歌学者:查找链接MathSciNet:MR4064138 zbMATH:1435.62283·Zbl 1435.62283号 ·doi:10.1093/biomet/asz058
[33] Papaspiliopoulos,O.和Zanella,G.(2017年)。“关于通过置信传播建立嵌套多水平回归模型的MCMC的注释”,arXiv预印本arXiv:1704.06064。arXiv:1704.06064
[34] R核心团队(2018年)。R: 统计计算语言和环境。R统计计算基金会,奥地利维也纳。URLhttps://www.R-project.org/
[35] Rajaratnam,B.和Sparks,D.(2015)。“大数据时代基于MCMC的推理:高维链收敛复杂性的基本分析。”arXiv预印本arXiv:1508.00947。arXiv:1508.00947
[36] Roberts,G.O.和Rosenthal,J.S.(2015)。“一些简单吉布斯采样器在各种扫描下的惊人收敛特性”,《国际统计与概率杂志》,5(1):51-60。
[37] Roberts,G.O.和Rosenthal,J.S.(2016)。“基于扩散极限的马尔可夫链蒙特卡罗算法的复杂性界限”,《应用概率杂志》,53(02):410-420。数字对象标识符:10.1017/jpr.2016.9谷歌学者:查找链接MathSciNet:MR3514287 zbMATH:1345.60082 Euclid:Euclid.jap/1466172863·Zbl 1345.60082号 ·doi:10.1017/jpr.2016.9
[38] Roberts,G.O.和Sahu,S.K.(1997年)。“吉布斯采样器的更新方案、相关结构、阻塞和参数化”,《皇家统计学会期刊:B辑(统计方法)》,59(2):291-317。数字对象标识符:10.1111/1467-9868.00070谷歌学者:查找链接MathSciNet:MR1440584 zbMATH:0886.62083·Zbl 0886.62083号 ·数字对象标识代码:10.1111/1467-9868.00070
[39] Sahu,S.K.和Roberts,G.O.(1999年)。“关于EM算法和吉布斯采样器的收敛性”,《统计与计算》,9(1):55-64。
[40] Smith,A.F.和Roberts,G.O.(1993年)。《通过吉布斯采样器和相关马尔可夫链蒙特卡罗方法进行贝叶斯计算》,《皇家统计学会杂志》。B系列(方法学),3-23。数字对象标识符:10.1111/j.2517-6161.1993.tb01466.x谷歌学者:查找链接数学科学网:MR1210421 zbMATH:0779.62030·Zbl 0779.62030号 ·doi:10.1111/j.2517-6161.1993.tb01466.x
[41] Vallejos,C.A.、Marioni,J.C.和Richardson,S.(2015)。“BASiCS:单细胞测序数据的贝叶斯分析”,《公共科学图书馆·计算生物学》,11(6):e1004333。
[42] Vines,S.、Gilks,W.和Wild,P.(1996)。“拟合贝叶斯多重随机效应模型”,《统计与计算》,6(4):337-346。
[43] Whittaker,J.(1990)。《应用多元分析中的图形模型》,MathSciNet:MR1112133 zbMATH:0732.62056 zbMATH:1151.62053
[44] Xie,Y.和Carlin,B.P.(2006)。“层次模型中贝叶斯学习和可识别性的度量”,《统计规划与推断杂志》,136(10):3458-3477。数字对象标识符:10.1016/j.jspi.2005.04.003谷歌学者:查找链接数学科学网:MR2256284 zbMATH:1102.62028·Zbl 1102.62028号 ·doi:10.1016/j.jspi.2005.04.003
[45] Yu,Y.和Meng,X.-L.(2011)。“居中还是不居中:这不是问题——提高MCMC效率的辅助-充分交织策略(ASIS)。”《计算与图形统计杂志》,20(3):531-570。数字对象标识符:10.1198/jcgs.2011.203主要谷歌学者:查找链接数学科学网:MR2878987·doi:10.1198/jcgs.2011.203主要
[46] Zanella,G.和Roberts,G.(2021年)。“多层线性模型、吉布斯采样器和多重网格分解”的补充材料贝叶斯分析。数字对象标识符:10.1214/20-BA1242SUPP谷歌学者:查找链接·doi:10.1214/20-BA1242SUPP文件
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。