×

Lasso和Dantzig选择器的同时分析。 (英语) Zbl 1173.62022号

总结:我们表明,在稀疏情况下,Lasso估计器和Dantzig选择器表现出类似的行为。对于这两种方法,我们并行地导出了一般非参数回归模型中预测风险的oracle不等式,以及当变量的数量远大于样本量时,线性模型中(1)的(ell_p)估计损失的界。

MSC公司:

62G08号 非参数回归和分位数回归
62J05型 线性回归;混合模型
60克25 预测理论(随机过程方面)
6220国集团 非参数推理的渐近性质
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bickel,P.J.(2007)。E.Candes和T.Tao对“Dantzig选择器:当p远大于n时的统计估计”的讨论。安。统计师。35 2352-2357. ·Zbl 1139.62019号 ·doi:10.1214/09053606000001523
[2] Bunea,F.、Tsybakov,A.B.和Wegkamp,M.H.(2004)。用于回归学习的聚合。预印LPMA,巴黎大学6-Paris 7,n bigcirc 948。可在·Zbl 1209.62065号
[3] Bunea,F.、Tsybakov,A.B.和Wegkamp,M.H.(2006年)。通过ell 1的聚集和稀疏性将惩罚最小二乘法。《第19届学习理论年会论文集》(COLT 2006)(G.Lugosi和H.U.Simon编辑)。人工智能课堂讲稿4005 379-391。柏林施普林格·Zbl 1143.62319号 ·doi:10.1007/11776420_29
[4] Bunea,F.、Tsybakov,A.B.和Wegkamp,M.H.(2007年)。高斯回归的聚合。安。统计师。35 1674-1697. ·Zbl 1209.62065号 ·doi:10.1214/00905360000001587
[5] Bunea,F.、Tsybakov,A.B.和Wegkamp,M.H.(2007年)。拉索的稀疏预言不等式。电子。J.统计。1 169-194. ·Zbl 1146.62028号 ·doi:10.1214/07-EJS008
[6] Bunea,F.、Tsybakov,A.B.和Wegkamp,M.H.(2007年)。稀疏密度估计和1个惩罚。《第20届学习理论年会论文集》(COLT 2007)(N.H.Bshouty和C.Gentile编辑)。人工智能课程讲稿4539 530-543。柏林施普林格·Zbl 1203.62053号 ·doi:10.1007/978-3-540-72927-3_38
[7] Candes,E.和Tao,T.(2007)。Dantzig选择器:当p远大于n时的统计估计。35 2313-2351. ·Zbl 1139.62019号 ·doi:10.1214/09053606000001523
[8] Donoho,D.L.、Elad,M.和Temlyakov,V.(2006)。噪声存在下稀疏超完备表示的稳定恢复。IEEE传输。通知。理论52 6-18·Zbl 1288.94017号 ·doi:10.1109/TIT.2005.860430
[9] Efron,B.、Hastie,T.、Johnstone,I.和Tibshirani,R.(2004)。最小角度回归。安。统计师。32 407-451. ·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[10] Friedman,J.、Hastie,T.、Höfling,H.和Tibshirani,R.(2007)。路径坐标优化。附录申请。统计师。1 302-332. ·Zbl 1378.90064号 ·doi:10.1214/07-AOAS131
[11] Fu,W.和Knight,K.(2000年)。Lasso型估计量的渐近性。安。统计师。28 1356-1378. ·Zbl 1105.62357号 ·doi:10.1214操作系统/1015957397
[12] Greenshtein,E.和Ritov,Y.(2004)。高维线性预测因子选择的持续性和过参数化的优点。伯努利10 971-988·Zbl 1055.62078号 ·doi:10.3150/bj/1106314846
[13] Juditsky,A.和Nemirovski,A.(2000)。非参数估计的函数聚合。安。统计师。28 681-712. ·Zbl 1105.62338号 ·doi:10.1214/aos/1015951994
[14] Koltchinskii,V.(2006年)。惩罚经验风险最小化中的稀疏性。Ann.Inst.H.PoincaréProbab公司。统计师·Zbl 1168.62044号 ·doi:10.1214/07-AIHP146
[15] Koltchinskii,V.(2007)。Dantzig选择器和稀疏预言不等式。未发表的手稿·Zbl 1452.62486号 ·doi:10.3150/09-BEJ187
[16] Meier,L.、van de Geer,S.和Bühlmann,P.(2008)。拉索组用于逻辑回归。J.罗伊。统计师。Soc.序列号。B 70 53-71·Zbl 1400.62276号
[17] Meinshausen,N.和Bühlmann,P.(2006)。用拉索选择高维图和变量。安。统计师。34 1436-1462. ·兹比尔1113.62082 ·doi:10.1214/0090536000000281
[18] Meinshausen,N.和Yu,B.(2006年)。高维数据稀疏表示的Lasso类型恢复。安。统计师·Zbl 1155.62050号 ·doi:10.1214/07-AOS582
[19] Nemirovski,A.(2000年)。非参数统计主题。在圣佛概率学院(Ecole d’Etéde Probabilités de Saint-Flour XXVIII-1998)。数学课堂笔记。1738 . 纽约州施普林格·Zbl 0998.62033号
[20] Osborne,M.R.、Presnell,B.和Turlach,B.A(2000a)。关于拉索及其对偶。J.计算。图表。统计师。9 319-337. JSTOR公司:·数字对象标识代码:10.2307/1390657
[21] Osborne,M.R.、Presnell,B.和Turlach,B.A(2000b)。最小二乘问题中变量选择的一种新方法。IMA J.数字。分析。20 389-404. ·Zbl 0962.65036号 ·doi:10.1093/imanum/20.3.89
[22] Tibshirani,R.(1996)。通过拉索回归收缩和选择。J.罗伊。统计师。Soc.序列号。乙58 267-288。JSTOR公司:·Zbl 0850.62538号
[23] Tsybakov,A.B.(2006年)。P.Bickel和B.Li.TEST 15 303-310对“统计中的规则化”的讨论。
[24] Turlach,B.A.(2005年)。关于在L1惩罚或L1约束下求解最小二乘问题的算法。2004年《美国统计协会会刊》,统计计算科[CD-ROM]2572-2577。阿默尔。统计师。弗吉尼亚州亚历山大市协会。
[25] van de Geer,S.A.(2008)。高维广义线性模型和拉索模型。安。统计师。36 614-645. ·Zbl 1138.62323号 ·doi:10.1214/00905360700000929
[26] Zhang,C.-H.和Huang,J.(2008)。拉索在高维回归中的模型选择一致性。安。统计师。36 1567-1594. ·Zbl 1142.62044号 ·doi:10.1214/07-AOS520
[27] Zhao,P.和Yu,B.(2006)。关于拉索模型选择的一致性。J.马赫。学习。第7号决议2541-2563·兹比尔1222.62008
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。