×
萨拉·范德格尔;帕特里克·米勒

高维拟似然估计和/或稳健估计。 （英语） Zbl 1331.62354号

统计科学。 27，第4期，469-480（2012）.
摘要：我们考虑了高维广义线性模型的拉索理论。在简要回顾了文献中的理论结果之后，我们将预言结果推广到了拟似然损失的情况。我们证明了预测误差和（ell_{1}）-误差的界。结果是在误差分布的四阶矩条件下得出的。给出了鲁棒损失的情形。此外，我们还证明了在不可表示的条件下，（ell{1}）惩罚拟似然估计量没有假阳性。

引用于11文件

MSC公司：

62J07型 岭回归；收缩估计器（拉索）
62J12型 广义线性模型（逻辑模型）

关键词：

高维模型;拟似然估计;鲁棒估计;稀疏;变量选择

软件：

格尔姆奈特
PDF格式BibTeX公司 XML格式引用
\textit{S.van de Geer}和\textit{P.Müller}，统计科学。27，第4469-480号（2012年；兹bl 1331.62354）
全文： 内政部 arXiv公司 欧几里得

参考文献：

[1] Bertsimas，D.和Tsitsiklis，J.N.（1997年）。线性优化导论。Athena Scientific，马萨诸塞州贝尔蒙特。
[2] Bickel，P.J.、Ritov，Y.和Tsybakov，A.B.（2009年）。同时分析套索和Dantzig选择器。安。统计师。37 1705-1732. ·Zbl 1173.62022号 ·doi:10.1214/08-AOS620
[3] Bühlmann，P.和van de Geer，S.（2011）。高维数据统计：方法、理论和应用。海德堡施普林格·Zbl 1273.62015年 ·doi:10.1007/978-3-642-20192-9
[4] Bunea，F.、Tsybakov，A.B.和Wegkamp，M.H.（2006年）。通过（ell_{1}）惩罚最小二乘法进行聚集和稀疏。第19届学习理论年会论文集，COLT 2006。人工智能课堂讲稿4005 379-391。柏林施普林格·Zbl 1143.62319号 ·doi:10.1007/11776420_29
[5] Bunea，F.、Tsybakov，A.B.和Wegkamp，M.H.（2007a）。高斯回归的聚合。安。统计师。35 1674-1697. ·Zbl 1209.62065号 ·doi:10.1214/00905360000001587
[6] Bunea，F.、Tsybakov，A.和Wegkamp，M.（2007b）。拉索的稀疏预言不等式。电子。《美国联邦法律大全》第1卷第169-194页·Zbl 1146.62028号 ·doi:10.1214/07-EJS008
[7] Bunea，F.、Tsybakov，A.B.和Wegkamp，M.H.（2007c）。带有（ell_{1}）惩罚的稀疏密度估计。学习理论。计算机科学课堂讲稿4539 530-543。柏林施普林格·Zbl 1203.62053号 ·doi:10.1007/978-3-540-72927-3_38
[8] Candès，E.、Li，X.、Ma，Y.和Wright，J.（2009）。稳健的主成分分析？计算机协会杂志58 1-37·Zbl 1327.62369号 ·doi:10.145/1970392.1970395
[9] Donoho，D.L.（1995）。通过软阈值去噪。IEEE传输。通知。理论41 613-627·Zbl 0820.62002号 ·doi:10.109/18.382009
[10] Fan，J.（1997）。A.Antoniadis对“统计中的小波：综述”的评论。J.Amer。统计师。协会6 131-138。
[11] Friedman，J.、Hastie，T.和Tibshirani，R.（2010）。广义线性模型通过坐标下降的正则路径。统计软件杂志33 1-22。
[12] Hein，M.和Buehler，T.（2010年）。非线性特征问题的逆幂方法及其在单谱聚类和稀疏PCA中的应用。高级神经信息处理。系统，NIPS 2010 23 847-855。麻省理工学院出版社，马萨诸塞州剑桥。
[13] Juditsky，A.和Nemirovski，A.（2011年）。（\ell_{1}\）-恢复的准确性保证。IEEE传输。通知。理论57 7818-7839·Zbl 1365.94077号 ·doi:10.1109/TIT.2011.2162569
[14] Koltchinskii，V.（2009年a）。惩罚经验风险最小化中的稀疏性。亨利·彭加雷·普罗巴布（Henri PoincaréProbab）安·Inst。统计数字45 7-57·Zbl 1168.62044号 ·doi:10.1214/07-AIHP146
[15] Koltchinskii，V.（2009b）。Dantzig选择器和稀疏预言不等式。伯努利15 799-828·Zbl 1452.62486号 ·doi:10.3150/09-BEJ187
[16] Lambert-Lacroix，S.和Zwald，L.（2011年）。通过Huber准则和自适应套索惩罚进行稳健回归。电子。《美国联邦法律大全》第5卷第1015-1053页·Zbl 1274.62467号 ·doi:10.1214/11-EJS635
[17] Ledoux，M.和Talagrand，M.（1991年）。Banach空间中的概率。Ergebnisse der Mathematik und Ihrer Grenzgebiete（3）[数学和相关领域的结果（3）]23。柏林施普林格·兹比尔074860004
[18] Loubes，J.M.和van de Geer，S.（2002年）。回归中的自适应估计，使用软阈值类型的惩罚。Neerlandica统计56 453-478·Zbl 1090.62534号 ·doi:10.1111/1467-9574.00212
[19] Lounici，K.（2008）。Lasso和Dantzig估计的超形式收敛速度和符号集中性质。电子。《美国联邦法律大全》第2卷第90-102页·Zbl 1306.62155号 ·doi:10.1214/08-EJS177
[20] 马萨特，P.（2000）。关于Talagrand的经验过程浓度不等式中的常数。安·普罗巴伯。28 863-884. ·Zbl 1140.60310号 ·doi:10.1214/aop/1019160263
[21] McCullagh，P.和Nelder，J.A.（1983年）。广义线性模型。查普曼和霍尔，伦敦·Zbl 0588.62104号
[22] Meinshausen，N.和Bühlmann，P.（2006）。高维图和用套索选择变量。安。统计师。34 1436-1462. ·Zbl 1113.62082号 ·doi:10.1214/0090536000000281
[23] Negahban，S.、Ravikumar，P.、Wainwright，M.和Yu，B.（2012年）。具有可分解正则化子的M-估计量高维分析的统一框架。统计师。科学。27 538-557. ·Zbl 1331.62350号 ·doi:10.1214/12-STS400
[24] Schelldorfer，J.、Bühlmann，P.和van de Geer，S.（2011）。使用（ell_{1}）惩罚的高维线性混合效应模型的估计。扫描。《美国联邦法律大全》第38卷第197-214页·Zbl 1246.62161号 ·doi:10.1111/j.1467-9469.2011.00740.x
[25] Städler，N.、Bühlmann，P.和van de Geer，S.（2010年）\混合回归模型的（ell{1}）惩罚。测试19 209-256·Zbl 1203.62128号 ·doi:10.1007/s11749-010-0197-z
[26] Tarigan，B.和van de Geer，S.A.（2006年）。具有（l_{1}）复杂性正则化的支持向量机分类器。伯努利12 1045-1076·Zbl 1118.62067号 ·doi:10.3150/bj/1165269150
[27] Tibshirani，R.（1996）。通过套索进行回归收缩和选择。J.罗伊。统计师。Soc.序列号。乙58 267-288·Zbl 0850.62538号
[28] van de Geer，S.（2001）。具有复杂度惩罚的最小二乘估计。数学。方法统计。10 355-374. ·Zbl 1005.62043号
[29] van de Geer，S.A.（2003年）。自适应分位数回归。《非参数统计的最新进展和趋势》（M.G.Akritas和D.N.Politis编辑）235-250。阿姆斯特丹爱思唯尔。 ·doi:10.1016/B978-044451378-6/50016-8
[30] van de Geer，S.A.（2007年）。确定性拉索。JSM Proceedings，2007年140。美国统计协会，亚历山大。
[31] van de Geer，S.A.（2008）。高维广义线性模型和套索。安。统计师。36 614-645. ·Zbl 1138.62323号 ·doi:10.1214/00905360700000929
[32] van de Geer，S.A.和Bühlmann，P.（2009）。根据用于证明拉索预言结果的条件。电子。《美国联邦法律大全》第3卷第1360-1392页·Zbl 1327.62425号 ·doi:10.1214/09-EJS506
[33] van de Geer，S.、Bühlmann，P.和Zhou，S.（2011）。潜在指定错误模型的自适应和阈值拉索（以及拉索的下限）。电子。《美国联邦法律大全》第5卷第688-749页·Zbl 1274.62471号 ·doi:10.1214/11-EJS624
[34] van de Geer，S.和Lederer，J.（2012年）。拉索、相关设计和改进的预言不等式。在IMS收藏：纪念乔恩·韦纳的节日9。IMS公司·Zbl 1327.62426号 ·doi:10.1214/12-IMSCOLL922文件
[35] van de Geer，S.和Müller，P.（2012）。补充“高维拟似然和/或稳健估计”·Zbl 1331.62354号 ·doi:10.1214/12-STS397
[36] Wang，H.，Li，G.和Jiang，G..（2007年）。通过LAD-Lasso稳健回归收缩和一致变量选择。J.总线。经济。统计师。25 347-355.
[37] Wu，Y.和刘，Y.（2009）。分位数回归中的变量选择。统计师。Sinica 19 801-817·Zbl 1166.62012年
[38] Wu，T.T.、Chen，Y.F.、Hastie，T.、Sobel，E.和Lange，K.（2009）。Lasso的全基因组关联分析惩罚了logistic回归。生物信息学25 714-721。
[39] Zhao，P.和Yu，B.（2006）。关于拉索模型选择的一致性。J.马赫。学习。第7号决议2541-2563·Zbl 1222.62008年
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。