×

广义套索的解路径。 (英语) Zbl 1234.62107号

摘要:我们提出了一种求解广义套索问题的路径算法。这个问题惩罚了矩阵(D)的(ell_{1})范数乘以系数向量,并且有广泛的应用,这取决于选择(D)。我们的算法基于求解广义套索的对偶,这大大方便了路径的计算。对于(D=I\)(通常的套索),我们将我们的方法与著名的LARS算法联系起来。对于任意的(D),我们导出了广义套索拟合自由度的无偏估计。事实证明,在许多应用程序中,这一估计非常直观。

MSC公司:

62J05型 线性回归;混合模型
65C60个 统计中的计算问题(MSC2010)
62J99型 线性推断、回归
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Becker,S.、Bobin,J.和Candes,E.J.(2011年)。NESTA:一种快速准确的稀疏恢复一阶方法。SIAM成像科学杂志4 1-39·Zbl 1209.90265号 ·数字对象标识代码:10.1137/090756855
[2] Bertsekas,D.P.(1999)。非线性规划。Athena Scientific,新罕布什尔州纳舒亚·Zbl 1015.90077号
[3] 贝斯特,M.J.(1982)。一种求解参数二次规划问题的算法。滑铁卢大学CORR报告82-84·Zbl 0464.73039号
[4] Boyd,S.和Vandenberghe,L.(2004年)。凸优化。剑桥大学出版社,剑桥·Zbl 1058.90049号
[5] 布雷德尔,M.、布雷德尔,C.、尤里克,D.、哈什,G.R.、沃格尔,H.、雷希特,L.D.和西基克,B.I.(2005)。人类胶质脑肿瘤基因改变的高分辨率全基因组定位。癌症研究65 4088-4096。
[6] 疾病控制和预防中心。(2009年)。“新型H1N1流感疫情更新”,网址:。
[7] Chen,S.S.、Donoho,D.L.和Saunders,M.A.(1998年)。通过基追踪进行原子分解。SIAM J.科学。计算。20 33-61. ·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[8] 克利夫兰,W.,格罗斯,E.,施尤,W.和特彭宁,I.(1991)。局部回归模型。《S的统计模型》(J.Chambers和T.Hastie,eds.)。加利福尼亚州贝尔蒙特市沃兹沃斯。
[9] Donoho,D.L.和Johnstone,I.M.(1995年)。通过小波收缩适应未知平滑度。J.Amer。统计师。协会90 1200-1224·Zbl 0869.62024号 ·数字对象标识代码:10.2307/2291512
[10] Donoho,D.L.和Tanner,J.(2010)。计算随机投影超立方体和正方形的面,以及应用程序。离散计算。地理。43 522-541. ·Zbl 1191.52004号 ·doi:10.1007/s00454-009-9221-z
[11] Efron,B.、Hastie,T.、Johnstone,I.和Tibshirani,R.(2004)。最小角度回归。安。统计师。32 407-499. ·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[12] Elad,M.、Milanfar,P.和Rubinstein,R.(2007年)。信号先验分析与合成。反问题23 947-968·Zbl 1138.93055号 ·doi:10.1088/0266-5611/23/3/007
[13] Evans,L.C.和Gariepy,R.F.(1992年)。测度理论与函数的精细性质。CRC出版社,佛罗里达州博卡拉顿·Zbl 0804.28001号
[14] Friedman,J.、Hastie,T.、Höfling,H.和Tibshirani,R.(2007)。路径坐标优化。附录申请。统计师。1 302-332. ·Zbl 1378.90064号 ·doi:10.1214/07-AOAS131
[15] Golub,G.H.和Van Loan,C.F.(1996年)。矩阵计算,第三版,约翰霍普金斯大学出版社,马里兰州巴尔的摩·Zbl 0865.65009号
[16] Hastie,T.、Rosset,S.、Tibshirani,R.和Zhu,J.(2003/04)。支持向量机的整个正则化路径。J.马赫。学习。第5号决议1391-1415(电子版)·Zbl 1222.68213号
[17] Hastie,T.和Tibshirani,R.(1990年)。广义加性模型。统计学和应用概率专著43。查普曼和霍尔,伦敦·Zbl 0747.62061号
[18] Hastie,T.和Tibshirani,R.(1993年)。变系数模型。J.罗伊。统计师。Soc.序列号。乙55 757-796·Zbl 0796.62060号
[19] Hoefling,H.(2009)。融合套索信号近似器的路径算法。未发表的手稿。可从获取。 ·doi:10.1198/jcgs.2010.09208
[20] James,G.M.、Radchenko,P.和Lv,J.(2009年)。DASSO:Dantzig选择器和套索之间的连接。J.R.统计社会服务。B统计方法。71 127-142. ·Zbl 1231.62129号 ·文件编号:10.1111/j.1467-9868.2008.00668.x
[21] Kim,S.-J、Koh,K.、Boyd,S.和Gorinevsky,D.(2009年)。l 1趋势过滤。SIAM版本51 339-360·Zbl 1171.37033号 ·doi:10.1137/070690274
[22] Osborne,M.R.、Presnell,B.和Turlach,B.A.(2000)。关于LASSO及其对偶。J.计算。图表。统计师。9 319-337. ·数字对象标识代码:10.2307/1390657
[23] R开发核心团队(2008)。R: 统计计算语言和环境。R统计计算基金会,奥地利维也纳。网址:。
[24] Rosset,S.和Zhu,J.(2007)。分段线性正则解路径。安。统计师。35 1012-1030. ·Zbl 1194.62094号 ·doi:10.1214/0090536000001370
[25] Rudin,L.I.、Osher,S.和Faterni,E.(1992年)。基于非线性全变分的噪声去除算法。物理学。D 60 259-268·Zbl 0780.49028号 ·doi:10.1016/0167-2789(92)90242-F
[26] Schneider,R.(1993)。凸体:Brunn-Minkowski理论。数学及其应用百科全书44。剑桥大学出版社,剑桥·Zbl 0798.52001号
[27] She,Y.(2010)。具有精确聚类的稀疏回归。电子。《美国联邦法律大全》第4卷第1055-1096页·Zbl 1329.62327号 ·doi:10.1214/10-EJS578
[28] She,Y.和Owen,A.B.(2010年)。使用非凸惩罚回归进行异常检测。未发表的手稿。可在上获取·Zbl 1232.62068号
[29] Stein,C.M.(1981)。多元正态分布平均值的估计。安。统计师。9 1135-1151. ·Zbl 0476.62035号 ·doi:10.1214/aos/1176345632
[30] Tibshirani,R.(1996)。通过套索回归收缩和选择。J.罗伊。统计师。Soc.序列号。乙58 267-288·Zbl 0850.62538号
[31] Tibshirani,R.、Saunders,M.、Rosset,S.、Zhu,J.和K.奈特(2005)。通过融合套索实现轻盈流畅。J.R.统计社会服务。B统计方法。67 91-108. ·Zbl 1060.62049号 ·文件编号:10.1111/j.1467-9868.2005.00490.x
[32] Tibshirani,R.J.和Taylor,J.(2011)。补充“广义套索的解路径”·Zbl 1234.62107号
[33] 曾平(2001)。不可微极小化的块坐标下降法的收敛性。J.优化。理论应用。109 475-494·Zbl 1006.65062号 ·doi:10.1023/A:1017501703105
[34] Zou,H.和Hastie,T.(2005)。通过弹性网进行规则化和变量选择。J.R.统计社会服务。B统计方法。67 301-320. ·Zbl 1069.62054号 ·数字对象标识代码:10.1111/j.1467-9868.2005.0050.x
[35] Zou,H.、Hastie,T.和Tibshirani,R.(2007)。关于套索的“自由度”。安。统计师。35 2173-2192. ·Zbl 1126.62061号 ·doi:10.1214/009053600700000127
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。