×

通过(t)收缩进行贝叶斯融合估计。 (英语) Zbl 1451.62030

摘要:收缩先验在许多数据分析中取得了巨大的成功,但其应用主要集中于稀疏参数的贝叶斯建模。在这项工作中,我们将应用贝叶斯收缩来建模具有未知分块结构的高维参数。我们建议对连续参数输入的差异施加重尾收缩先验,例如,(t)先验,这种融合先验会将连续差异收缩到零,从而导致后验阻塞。与实现拉普拉斯融合先验的传统贝叶斯融合LASSO相比,(t)融合先验具有更强的收缩效应和良好的后验一致性。仿真研究和实际数据分析表明,(t)融合具有优于频率融合估计器和贝叶斯-拉普拉斯融合先验的性能。进一步发展了这种融合策略以进行贝叶斯聚类分析,我们的仿真表明,与经典的Dirichlet过程建模相比,该算法具有更好的性能。

MSC公司:

2015年1月62日 贝叶斯推断
62J07型 岭回归;收缩估计器(拉索)
62H30型 分类和区分;聚类分析(统计方面)

软件:

AS 177标准
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Andrews,D.F.和Mallows,C.L.(1974年)。正态分布的比例混合。英国皇家统计学会杂志,B辑(方法学),99-102·Zbl 0282.62017号
[2] Barron,A.(1998)。贝叶斯性能的信息论表征以及参数和非参数问题中先验值的选择。在J.M.Bernardo,J.Berger,A.Dawid,A.Smith编辑的《贝叶斯统计》6,27-52·Zbl 0974.62020号
[3] JO伯杰;王,X。;Shen,L.,《亚组识别的贝叶斯方法》,《生物医药统计杂志》,24,1,110-129(2014)
[4] 贝当古,B。;罗德里格斯,A。;Boyd,N.,动态二进制网络的贝叶斯融合套索回归,计算与图形统计杂志,26,4,840-850(2017)
[5] Bhattacharya,A。;帕蒂,D。;皮莱,NS;Dunson,DB,Dirichlet-laplace priors for optimal restrict,Journal of the American Statistical Association,110,1479-1490(2015年)·Zbl 1373.62368号
[6] 卡瓦略,CM;Polson,NG;Scott,JG,稀疏信号的马蹄形估计器,Biometrika,97,465-480(2010)·Zbl 1406.62021号
[7] 卡斯蒂略,I。;van der Vaart,A.,《干草堆中的针头和稻草:可能稀疏序列的后向浓度》,《统计年鉴》,40,4,2069-2101(2012)·Zbl 1257.62025号
[8] Castillo,I.、Schmidt-Hieber,J.和van der Vaart,A.W.(2015)。稀疏先验贝叶斯线性回归。《1986-2018年统计年鉴》·Zbl 1486.62197号
[9] 陈,J。;Chen,Z.,《大模型空间模型选择的扩展贝叶斯信息准则》,Biometrika,95759-771(2008)·Zbl 1437.62415号
[10] 陈,J。;Chen,Z.,小n大p稀疏glm的扩展bic,《统计》,22,555-574(2012)·Zbl 1238.62080号
[11] 范,J。;Li,R.,《基于非一致惩罚似然的变量选择及其预言性质》,美国统计协会杂志,961348-1360(2001)·Zbl 1073.62547号
[12] Ghosal,S。;Ghosh,JK;Van Der Vaart,AW,后验分布的收敛率,统计年鉴,28,2,500-531(2000)·Zbl 1105.62315号
[13] Ghosal、Subhashis;Van Der Vaart,AW,非iid观测的后验分布收敛率,统计年鉴,35,1,192-223(2007)·Zbl 1114.62060号
[14] 哈恩,公共关系部;Carvalho,CM,《贝叶斯线性模型中的解耦收缩和选择:后验总结视角》,美国统计协会杂志,110,435-448(2015)·Zbl 1373.62036号
[15] Heller,K.A.和Ghahramani,Z.(2005年)。贝叶斯层次聚类。第22届机器学习国际会议论文集,297-304。
[16] Ishwaran,H.和Rao,J.S.(2005年)。尖峰和平板变量选择:频率和贝叶斯策略。《统计年鉴》,730-773·兹比尔1068.62079
[17] 江伟,高维广义线性模型的贝叶斯变量选择:拟合密度的收敛速度,统计年鉴,351487-1511(2007)·Zbl 1123.62026号
[18] 约翰逊,VE;Rossel,D.,高维环境中的贝叶斯模型选择,《美国统计协会杂志》,107649-660(2012)·Zbl 1261.62024号
[19] Johnstone,IM,《高维bernstein von mises:简单例子》,数理统计研究所,第6期,第87期(2010年)
[20] Ke,Z.T.,Fan,J.和Wu,Y.(2015a)。追求同质性。《美国统计协会杂志》110,509,175-194·Zbl 1373.62345号
[21] Ke,Z.T.,Fan,J.和Wu,Y.(2015b)。追求同质性。《美国统计协会杂志》110,175-194·Zbl 1373.62345号
[22] Kleijn,B.J.K.,van der Vaart,A.W.等人(2006年A)。无限维贝叶斯统计中的错误规范。统计年鉴34,2837-877·Zbl 1095.62031号
[23] Kleijn,B.J.K.和van der Vaart,A.W.(2006年B)。无限维贝叶斯统计中的错误规范。统计年鉴34837-877·Zbl 1095.62031号
[24] Kyung,M。;吉尔·J。;戈什,M。;Casella,G.,惩罚回归、标准误差和贝叶斯套索,贝叶斯分析,5,2,369-411(2010)·Zbl 1330.62289号
[25] Laurent,B.和Massart,P.(2000年)。通过模型选择对二次函数进行自适应估计。《统计年鉴》,1302-1338·Zbl 1105.62328号
[26] 李,H。;Pati,D.,使用收缩先验的变量选择,计算统计与数据分析,107,107-119(2017)·Zbl 1466.62135号
[27] Li,Furong和Sang,Huiyan(2018)。大型数据集回归系数的空间均匀性追求。《美国统计协会杂志》,(刚刚被接受),1-37·Zbl 1428.62212号
[28] 梁,F。;宋,Q。;Yu,K.,高维广义线性模型的贝叶斯子集建模,美国统计协会杂志,108589-606(2013)·Zbl 06195963号
[29] Liu,J.、Yuan,L.和Ye,J.(2010)。一类融合套索问题的有效算法。第16届ACM SIGKDD知识发现和数据挖掘国际会议论文集,323-332。
[30] 马,S。;Huang,J.,《分组分析的凹成对融合方法》,《美国统计协会杂志》,第112、517、410-423页(2017年)
[31] Mozeika,A.和Coolen,A.(2018年)。贝叶斯聚类的平均场理论。arXiv:1709.01632。
[32] Narisetty,神经网络;He,X.,具有收缩和扩散先验的贝叶斯变量选择,《统计年鉴》,42,2789-817(2014)·Zbl 1302.62158号
[33] Neal,RM,dirichlet过程混合模型的马尔可夫链抽样方法,计算和图形统计杂志,9,2,249-265(2000)
[34] 帕克,T。;Casella,G.,《贝叶斯套索》,《美国统计协会杂志》,103,681-686(2008)·Zbl 1330.62292号
[35] Rinaldo,A.,《融合套索的特性和改进》,《统计年鉴》,37,5,2922-2952(2009)·Zbl 1173.62027号
[36] Robbins,H.(1985)。统计的经验贝叶斯方法。《赫伯特·罗宾斯文选》,41-47页。
[37] 罗伊斯顿,JP,《177算法:预期正态顺序统计(精确和近似)》,英国皇家统计学会杂志。C系列(应用统计学),31,2,161-165(1982)
[38] Scott,J.G.和Berger,J.O.(2010年)。变量选择问题中的贝叶斯和经验贝叶斯多重性调整。《统计年鉴》,2587-2619年·Zbl 1200.62020年
[39] 沈,X。;Huang,H-C,通过正则化解曲面的分组追求,美国统计协会杂志,105,727-739(2012)·Zbl 1392.62192号
[40] Shimamura,K.、Ueki,M.、Kawano,S.和Konishi,S.(2018年)。基于负分布的贝叶斯广义融合套索建模。统计学中的传播——理论和方法,1-23。
[41] Song,Q.和Liang,F.(2014)。超高维回归的分裂合并贝叶斯变量选择方法。英国皇家统计学会杂志,B辑,出版中。
[42] Song,Q.和Liang,F.(2017)。高维回归的近似最优贝叶斯收缩。arXiv:1712.08964。
[43] Tang,X.,Xu,X.、Ghosh,M.和Ghosh、P.(2016)。基于全局局部收缩先验的贝叶斯变量选择和估计。arXiv:1605.07981。
[44] Tibshirani,R.,《通过套索进行回归收缩和选择》,《皇家统计学会杂志》,B辑,58267-288(1996)·Zbl 0850.62538号
[45] Tibshirani,R。;桑德斯,M。;Rosset,S。;Ji,Z。;K.奈特,《通过融合套索实现的稀疏与平滑》,《皇家统计学会杂志:B辑(统计方法)》,67,1,91-108(2005)·Zbl 1060.62049号
[46] Tibshirani,R。;Wang,P.,使用融合套索对cgh数据进行空间平滑和热点检测,生物统计学,9,1,18-29(2007)·Zbl 1274.62886号
[47] van der Geer,S.和Bühlmann,P.(2011)。高维数据方法、理论和应用统计学。统计中的春季系列,施普林格·Zbl 1273.62015年
[48] van der Pas,S.L.、Szabo,B.和van der Vaart,A.(2017年)。马蹄铁的自适应后收缩率。arXiv:1702.03698·Zbl 1373.62140号
[49] 韦德,S。;Ghahramani,Z.,《贝叶斯聚类分析:点估计和可信球》,贝叶斯分析,13559-626(2018)·Zbl 1407.62241号
[50] Xu,Z.、Schmidt,D.F.、Makalic,E.、Qian,G.和Hopper,J.L.(2017)。分组变量的贝叶斯稀疏全局局部收缩回归。arXiv:1709.04333。
[51] Yang,Y.,Wainwright,M.J.和Jordan,M.I.(2015)。关于高维贝叶斯变量选择的计算复杂性。《统计年鉴》正在出版·Zbl 1359.62088号
[52] Zhang,C-H,最小最大凹惩罚下的几乎无偏变量选择,统计年鉴,38894-942(2010)·Zbl 1183.62120号
[53] Zou,H.,自适应套索及其预言属性,美国统计协会杂志,1011418-1429(2006)·Zbl 1171.62326号
[54] 佐布科夫,AM;Serov,AA,二项式分布函数普遍不等式的完整证明,概率论及其应用,57539-544(2013)·Zbl 1280.60016号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。