×

使用经验相关自适应先验在高维线性模型中进行贝叶斯推理。 (英语) Zbl 1524.62327号

摘要:在高维线性回归模型的背景下,我们提出了一种经验相关自适应先验,该先验利用观测预测变量矩阵中的信息自适应处理高共线性。我们在确定是否应将与相关预测因子相关的参数收缩在一起或分开。在一定条件下,我们证明了我们的经验贝叶斯后验集中在最优率。因此,在不牺牲渐近最优性的情况下,可以在有限样本中实现相关自适应的好处。采用了一种猎枪随机搜索算法来计算后验值并方便变量选择。最后,我们使用真实和模拟数据示例证明了我们的方法与现有方法相比具有良好的性能,即使在超高维设置中也是如此。

MSC公司:

62J05型 线性回归;混合模型
2015年1月62日 贝叶斯推断
62甲12 多元分析中的估计

软件:

SSS系统
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Arias-Castro,E.和Lounici,K.(2014)。指数权重的估计和变量选择。电子。J.统计。8, 328-354. ·Zbl 1294.62164号
[2] Bondell,H.D.和Reich,B.J.(2012年)。通过惩罚可信区域进行一致的高维贝叶斯变量选择。J.Amer。统计师。协会107,1610-1624·Zbl 1258.62026号
[3] Bühlmann,P.和van de Geer,S.(2011)。高维数据统计:方法、理论和应用。施普林格科技与商业媒体·Zbl 1273.62015年
[4] Castillo,I.和van der Vaart,A.(2012年)。干草堆中的针和稻草:可能稀疏序列的后部集中。安。统计师。第40期,2069-2101页·Zbl 1257.62025号
[5] Castillo,I.、Schmidt-Hieber,J.和van der Vaart,A.(2015)。稀疏先验贝叶斯线性回归。安。统计师。43, 1986-2018. ·Zbl 1486.62197号
[6] Fan,J.和Li,R.(2001)。通过非冲突惩罚似然及其oracle属性进行变量选择。J.Amer。统计师。协会96,1348-1360·Zbl 1073.62547号
[7] Fan,J.和Lv,J.(2010)。高维特征空间中变量选择的选择性概述。统计师。Sinica中国20,101-148·Zbl 1180.62080号
[8] Feng,L.、Rui,P.、German,M.、Merlise,A.和Jim,O.(2008)。贝叶斯变量选择的g先验混合。J.Amer。统计师。协会103,410-423·Zbl 1335.62026号
[9] Foster,D.P.和George,E.I.(1994年)。多元回归的风险通货膨胀标准。安。统计师。22, 1947-1975. ·Zbl 0829.62066号
[10] George,E.I.和Foster,D.P.(2000)。校准和经验贝叶斯变量选择。生物特征87,731-747·Zbl 1029.62008号
[11] George,E.I.和McCullogh,R.E.(1993)。通过吉布斯采样选择变量。J.Amer。统计师。协会88,881-889。
[12] Grünwald,P.和van Ommen,T.(2017)。错误指定线性模型的贝叶斯推理的不一致性及其修复建议。贝叶斯分析。12, 1069-1103. ·Zbl 1384.62088号
[13] Hans,C.、Dobra,A.和West,M.(2007年)。大p回归的枪式随机搜索。J.Amer。统计师。协会102,507-517·Zbl 1134.62398号
[14] Ishwaran,H.和Rao,J.S.(2005年)。多组微阵列数据的尖峰和板条基因选择。J.Amer。统计师。协会100764-780·Zbl 1117.62363号
[15] Kass,R.E.和Wasserman,L.(1995)。嵌套假设的参考贝叶斯检验及其与施瓦兹准则的关系。J.Amer。统计师。协会90928-934·兹比尔0851.62020
[16] Krishna,A.、Bondell,H.和Ghosh,S.K.(2009年)。使用自适应功率相关先验的贝叶斯变量选择。J.统计。计划。推论139,2665-2674·Zbl 1162.62017年
[17] Lan,H.,Chen,M.,Flowers,J.B.,Yandell,B.S.,Stapleton,D.S.,Mata,C.M.等人(2006年)。组合表达-性状相关性和表达-数量性状位点定位。PLoS遗传学2,e6。
[18] Martin,R.,Mess,R.和Walker,S.G.(2017年)。稀疏高维线性模型中的经验Bayes后验浓度。伯努利231822-1847·Zbl 1450.62085号
[19] Martin,R.和Tang,Y.(2019年)。稀疏高维线性回归预测的经验先验。arXiv预打印arXiv:1903.00961。
[20] Martin,R.和Walker,S.G.(2014)。稀疏正态均值向量的渐近极小极大经验Bayes估计。电子。《美国联邦法律大全》第8卷,第2188-2206页·兹比尔1302.62015
[21] Martin,R.和Walker,S.G.(2019年)。数据驱动的先验和后验浓度率。电子。《美国联邦法律大全》第13卷,第3049-3081页·Zbl 1429.62148号
[22] Narisetty,N.N.和He,X.(2014)。具有收缩和扩散先验的贝叶斯变量选择。安。统计师。42, 789-817. ·Zbl 1302.62158号
[23] Polson,N.G.和Scott,J.G.(2012年)。局部收缩规则、Lévy过程和正则回归。J.R.统计社会服务。B.统计方法。74, 287-311. ·Zbl 1411.62209号
[24] Rigollet,P.和Tsybakov,A.B.(2012年)。指数加权稀疏估计。统计师。科学。27, 558-575. ·Zbl 1331.62351号
[25] Shin,M.、Bhattacharya,A.和Johnson,V.E.(2018年)。超高维设置中使用非局部先验密度的可缩放贝叶斯变量选择。统计师。中国科学院第28期,1053-1078页·Zbl 1390.62125号
[26] Syring,N.和Martin,R.(2019年)。校准一般后部可信区域。生物特征106、479-486·Zbl 1454.62105号
[27] Tibshirani,R.(1996)。通过拉索回归收缩和选择。J.R.统计社会服务。B.《美国法律总汇》第58卷,第267-288页·Zbl 0850.62538号
[28] Zhang,C.-H.(2010)。极小极大凹惩罚下的几乎无偏变量选择。安。统计师。38, 894-942. ·Zbl 1183.62120号
[29] Zhang,C.-H.和Huang,J.(2008)。高维线性回归中拉索选择的稀疏性和偏差。安。统计师。36, 1567-1594. ·Zbl 1142.62044号
[30] 邹华(2006)。自适应Lasso及其oracle属性。J.Amer。统计师。协会101,1418-1429·Zbl 1171.62326号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。