×

尖刺加拉索。 (英语) Zbl 1398.62186号

小结:尽管贝叶斯变量选择广泛采用尖峰-平稳方法,但其惩罚似然估计的潜力在很大程度上被忽视了。在本文中,我们通过将这两个范式与钉板式LASSO线性回归中变量选择和参数估计的程序。我们引入了一类新的自适应惩罚函数,它来自于一个完全Bayes尖峰-平稳公式,最终超越了可分离惩罚框架。这些不可分离惩罚的优点是它们能够跨坐标借用强度,适应集合稀疏性信息,并进行多重性调整。这个钉板式LASSO该程序通过一个路径允许方案获得高效的协调实现,用于动态后验探测。我们在模拟数据上表明,完全贝叶斯惩罚模拟了预言机的性能,为交叉验证提供了一种可行的替代方案。我们发展了惩罚的可分离和不可分离变量的理论,显示了当(p>n)时全局模式的速率优化以及最佳后验浓度。

MSC公司:

62J07型 岭回归;收缩估计器(拉索)
2015年1月62日 贝叶斯推断
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Armero,C。;Bayarri,M.,排队预测中的事先评估,统计学家, 45, 139-153, (1994)
[2] Bellec,P。;Lecue,G。;Tsybakov,A.,《Slope meet lasso:improved oracle bounds and optimity》,(2016)
[3] Bhattacharya,A。;帕蒂,D。;北卡罗来纳州皮莱。;Dunson,D.,最优收缩的Dirichlet Laplace先验,美国统计协会杂志, 110, 1479-1490, (2015) ·Zbl 1373.62368号
[4] Breheny,P。;Huang,J.,非凸惩罚回归的坐标下降算法,及其在生物特征选择中的应用,应用统计年鉴, 5, 232-253, (2011) ·Zbl 1220.62095号
[5] 伯尔曼,P。;范德格尔,S。,高维数据统计,(2011),纽约斯普林格·Zbl 1273.62015年
[6] Candes,大肠杆菌。;Wakin,M。;Boyd,S.,通过重加权增强稀疏性{\textit_{1} }最小化,傅里叶分析与应用杂志, 14, 877-905, (2008) ·Zbl 1176.94014号
[7] 卡瓦略,C。;Polson,N.,稀疏信号的马蹄形估计器,生物特征, 97, 465-480, (2010) ·Zbl 1406.62021号
[8] 卡斯蒂略,I。;施密特·希伯(Schmidt-Hieber),J。;van der Vaart,A.,具有稀疏先验的贝叶斯线性回归,统计学年鉴, 43, 1986-2018, (2015) ·Zbl 1486.62197号
[9] 卡斯蒂略,I。;van der Vaart,A.,《干草堆中的针头和稻草:可能稀疏序列的后向集中》,统计学年鉴, 40, 2069-2101, (2012) ·Zbl 1257.62025号
[10] 范,J。;Li,R.,通过非洞穴惩罚似然的变量选择及其预言性质,美国统计协会杂志, 96, 1348-1360, (2001) ·Zbl 1073.62547号
[11] 范,Y。;Lv,J.,组合L1和凹正则化的渐近性质,生物特征, 101, 57-70, (2014) ·Zbl 1285.62074号
[12] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,通过坐标下降广义线性模型的正则化路径,统计软件杂志, 22, 1-22, (2010)
[13] E.I.乔治。;McCulloch,R.E.,通过Gibbs采样选择变量,美国统计协会杂志, 88, 881-889, (1993)
[14] 格雷斯廷,I。;E.Ryzhik。,积分系列和产品表,(2000),学术出版社,马萨诸塞州剑桥·Zbl 0981.65001号
[15] 伊斯梅尔,M。;Pitman,J.,一些欧拉积分的代数求值,Appell超几何函数的复制公式(f)_{1} }和布朗变异,加拿大数学杂志, 52, 961-981, (2000) ·Zbl 0961.33012号
[16] 约翰斯通,I.M。;Silverman,B.W.,《干草堆中的针头和稻草:可能稀疏序列的经验Bayes估计》,统计学年鉴, 32, 1594-1649, (2004) ·Zbl 1047.62008年
[17] Loh,P。;Wainwright,M.,具有非凸性的正则M-估计量:局部最优的统计和算法理论,机器学习研究杂志, 1, 1-56, (2014)
[18] 马丁·R。;Walker,S.,稀疏正态平均向量的渐近极小极大经验Bayes估计,电子统计杂志, 8, 2188-2206, (2014) ·Zbl 1302.62015年
[19] Mazumder,R。;弗里德曼,J。;Hastie,T.,Sparsenet:协调下降与非凸惩罚,美国统计协会杂志, 106, 1125-1138, (2011) ·Zbl 1229.62091号
[20] 莫雷诺,E。;Girón,J。;Casella,G.,随着模型维度的增长,变量选择中的后验模型一致性,统计科学, 30, 228-241, (2015) ·Zbl 1332.62100号
[21] Polson,N。;Scott,J.,《全球收缩,局部行动:稀疏贝叶斯正则化和预测》,贝叶斯统计, 9, 501-539, (2010)
[22] Rockova,V.,稀疏信号的贝叶斯估计,具有连续尖峰和实验室先验,统计年刊,即将发布,(2015)
[23] 粒子EM用于变量选择,美国统计协会杂志,即将推出,(2016)
[24] Rockova,V。;George,E.,EMVS:贝叶斯变量选择的EM方法,美国统计协会杂志, 109, 828-846, (2014) ·Zbl 1367.62049号
[25] 贝叶斯刑罚混合:不可分割刑罚的案例,高维数据的统计分析,阿贝尔专题讨论会, 11, 233-254, (2016) ·Zbl 1384.62101号
[26] Scheipl,F。;Fahrmeir,L。;Kneib,T.,结构化加性回归模型中函数选择的Spike-and-slab先验,美国统计协会杂志, 107, 1518-1532, (2012) ·Zbl 1258.62082号
[27] 斯科特,J.G。;Berger,J.O.,变量选择问题中的Bayes和经验主义Bayes多重性调整,统计学年鉴, 38, 2587-2619, (2010) ·兹比尔1200.62020
[28] She,Y.,基于阈值的模型选择和收缩迭代选择程序,电子统计杂志, 3, 384-415, (2009) ·Zbl 1326.62158号
[29] 苏·W。;Candes,E.,Slope适应未知稀疏性和渐近最小值,统计年刊, 44, 1038-1068, (2016) ·Zbl 1338.62032号
[30] Tibshirani,R.,通过LASSO进行回归收缩和选择,英国皇家统计学会杂志, 58, 267-288, (1994) ·Zbl 0850.62538号
[31] 范德帕斯,S。;Kleijn,B。;van der Vaart,A.,马蹄形估计器:近黑色向量周围的后向浓度,电子统计杂志, 8, 2585-2618, (2014) ·Zbl 1309.62060号
[32] Wang,Z。;刘,H。;Zhang,T.,稀疏非凸学习问题的最优计算和统计收敛速度,统计学年鉴, 42, 2164-2201, (2014) ·Zbl 1302.62066号
[33] 张,C。;Zhang,T.,高维稀疏估计问题凹正则化的一般理论,统计科学, 27, 576-593, (2012) ·Zbl 1331.62353号
[34] Zhang,C.H.,极小极大凹惩罚下的几乎无偏变量选择,统计学年鉴,38,894-942,(2010年)·Zbl 1183.62120号
[35] Zou,H.,自适应LASSO及其oracle属性,美国统计协会杂志, 101, 1418-1429, (2006) ·Zbl 1171.62326号
[36] 邹,H。;Li,R.,非凹陷惩罚似然模型中的一步稀疏估计,统计学年鉴, 36, 1509-1533, (2008) ·Zbl 1142.62027号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。