陈远思;亚美尼亚塔布;彼得·伯尔曼 研究（\ell_1）-与（\ell_0）-正则化的稳健性和稳定性：Bertsimas等人和Hastie等人的论文讨论。 （英语） Zbl 07307191号 统计科学。 35，第4期，614-622（2020）. 小结：我们祝贺作者Bertsimas、Pauphilet和van Parys（以下简称BPvP）以及Hastie、Tibshirani和Tibshilani（以下简称HTT）就线性模型中的变量选择和预测问题提供了新的见解。他们在基础层面的贡献为更复杂的模型和程序提供了指导。 引用于2文件 MSC公司： 62至XX 统计 关键词：分布稳健性;高维估计;潜在变量;低秩估计;变量选择 软件：PyTorch公司;ElemStatLearn（电子状态学习）;TensorFlow公司;LZeroSpike推断;SDPLR公司;PDCO公司;格尔姆奈特 PDF格式BibTeX公司 XML格式引用 \textit{Y.Chen}等人，《统计科学》。35，第4号，614--622（2020；Zbl 07307191） 全文： 内政部 欧几里得 参考文献： [1] Abadi，M.、Agarwal，A.、Barham，P.、Brevdo，E.、Chen，Z.、Citro，C.、Corrado，G.S.、Davis，A.、Dean，J.等人（2015）。TensorFlow：异构系统上的大规模机器学习。软件可从tensorflow.org获得。 [2] Akaike，H.（1973）。信息论和最大似然原理的推广。在第二届信息理论国际研讨会（Tsahkadsor，1971）267-281·Zbl 0283.62006号 [3] Barron，A.、Birgé，L.和Massart，P.（1999）。通过惩罚选择模型的风险边界。普罗巴伯。理论相关领域113 301-413·Zbl 0946.62036号 ·doi:10.1007/s004400050210 [4] Bellec，P.（2018）。Lasso和其他凸估计的噪声屏障和大信号偏差。预印。arXiv:1804.01230提供。 [5] Bertsimas，D.和Copenhaver，M.S.（2018年）。线性回归和矩阵回归中鲁棒化和正则化等价性的表征。《欧洲期刊》。第270号决议931-942·Zbl 1403.62040号 ·doi:10.1016/j.ejor.2017.03.051 [6] Bertsimas，D.、Copenhaver，M.S.和Mazumder，R.（2017）。可证明的最优低秩因子分析。J.马赫。学习。第18号决议第29、53号文件·Zbl 1437.62216号 [7] Bertsimas，D.和King，A.（2017年）。逻辑回归：从艺术到科学。统计师。科学。32 367-384. ·Zbl 1442.62166号 ·doi:10.1214/16-STS602 [8] Bertsimas，D.、King，A.和Mazumder，R.（2016）。通过现代优化透镜选择最佳子集。安。统计师。44 813-852. ·Zbl 1335.62115号 ·doi:10.1214/15-AOS1388 [9] Bertsimas，D.和Shioda，R.（2009年）。基数约束二次优化算法。计算。最佳方案。申请。43 1-22. ·Zbl 1178.90262号 ·doi:10.1007/s10589-007-9126-9 [10] Bertsimas，D.和Van Parys，B.（2020年）。稀疏高维回归：精确的可伸缩算法和相变。安。统计师。48 300-323. ·Zbl 1444.62094号 ·doi:10.1214/18-AOS1804 [11] Bickel，P.J.、Ritov，Y.和Tsybakov，A.B.（2009年）。Lasso和Dantzig选择器的同时分析。安。统计师。37 1705-1732. ·Zbl 1173.62022号 ·doi:10.1214/08-AOS620 [12] Breiman，L.（1995）。使用非负garrote进行更好的子集回归。技术计量37 373-384·Zbl 0862.62059号 ·doi:10.1080/00401706.1995.10484371 [13] Breiman，L.（1996年a）。装袋预测器。机器。学习。24 123-140. ·Zbl 0858.68080号 [14] Breiman，L.（1996年b）。模型选择中不稳定性和稳定性的启发。安。统计师。24 2350-2383. ·兹比尔0867.62055 ·doi:10.1214/aos/1032181158 [15] Bühlmann，P.（2006）。推动高维线性模型。安。统计师。34 559-583. ·Zbl 1095.62077号 [16] Bühlmann，P.和van de Geer，S.（2011）。高维数据统计：方法、理论和应用。统计学中的斯普林格系列。海德堡施普林格·Zbl 1273.62015年 [17] Bühlmann，P.和van de Geer，S.（2018年）。大数据统计：一个视角。统计师。普罗巴伯。莱特。136 37-41中·Zbl 1489.62407号 [18] Burer，S.和Monteiro，R.D.C.（2003年）。通过低秩分解求解半定规划的非线性规划算法。数学。程序。95 329-357. ·Zbl 1030.90077号 ·doi:10.1007/s10107-002-0352-8 [19] Cai，T.T.和Wang，L.（2011）。带噪声稀疏信号恢复的正交匹配追踪。IEEE传输。Inf.理论57 4680-4688·Zbl 1365.94058号 ·doi:10.1109/TIT.2011.2146090 [20] Cevid，D.、Bühlmann，P.和Meinshausen，N.（2018年）。谱分解和扰动稀疏线性模型。预印本。可从arXiv:1811.05352获得。 [21] Chen，Y.和Chen，Y.（2018）。通过保证低秩矩阵估计来处理大数据中的结构：通过凸优化和非凸优化的最新理论和快速算法。IEEE信号处理。杂志35 14-31。 [22] Chen，S.和Donoho，D.（1994）。追求基础。1994年第28届信号、系统和计算机Asilomar会议记录1 41-44。IEEE，纽约。 [23] Chen，S.S.、Donoho，D.L.和Saunders，M.A.（2001）。通过基追踪进行原子分解。SIAM版本43 129-159·Zbl 0979.94010号 ·doi:10.1137/S003614450037906X [24] Chen，Y.、Taeb，A.和Bühlmann，P.（2020年）。“观察\（\ell_1\）-与\（\ell_0\）-正则化的鲁棒性和稳定性：Bertsimas等人和Hastie等人的论文讨论”的补充https://doi.org/10.1214/20-STS809SUPP网站 [25] Chickering，D.M.（2003）。贪婪搜索的最优结构识别。J.马赫。学习。第3 507-554号决议·Zbl 1084.68519号 [26] Donoho，D.L.（2006）。对于大多数大型欠定线性方程组，最小（l_1）范数解也是最稀疏解。通信纯应用。数学。59 797-829. ·Zbl 1113.15004号 ·doi:10.1002/cpa.20132年 [27] Efron，B.、Hastie，T.、Johnstone，I.和Tibshirani，R.（2004）。最小角度回归。安。统计师。32 407-499. ·Zbl 1091.62054号 ·doi:10.1214/009053604000000067 [28] Fazel，M.（2002）。矩阵秩最小化与应用。加州斯坦福大学博士论文。 [29] Friedman，J.、Hastie，T.和Tibshirani，R.（2010）。广义线性模型的坐标下降正则化路径。J.统计软件。33 1-22. [30] Friedrich，J.、Zhou，P.和Paninski，L.（2017）。钙成像数据的快速在线反褶积。公共科学图书馆计算。生物13 1-26。 [31] Fuchs，J.-J.（2004）。关于任意冗余基中的稀疏表示。IEEE传输。信息理论50 1341-1344·Zbl 1284.94018号 ·doi:10.1109/TIT.2004.828141 [32] Gatu，C.和Kontoghiorghes，E.J.（2006年）。计算最佳子集回归模型的分枝定界算法。J.计算。图表。统计师。15 139-156. [33] Hastie，T.、Tibshirani，R.和Friedman，J.（2009）。《统计学习的要素：数据挖掘、推断和预测》，第二版，《统计学中的斯普林格系列》。纽约州施普林格·Zbl 1273.62005年 [34] Hastie，T.、Tibshirani，R.和Wainwright，M.（2015）。稀疏的统计学习：套索和泛化。统计学和应用概率专著143。佛罗里达州博卡拉顿CRC出版社·Zbl 1319.68003号 [35] Hofmann，M.、Gatu，C.和Kontoghiorghes，E.J.（2007年）。计算大规模问题最佳子集回归模型的有效算法。计算。统计师。数据分析。52 16-29. ·兹比尔1452.62497 ·doi:10.1016/j.csda.2007.03.017 [36] Jain，P.、Tewari，A.和Kar，P.（2014）。高维M估计的迭代硬阈值方法。神经信息处理系统进展685-693。 [37] Jewell，S.和Witten，D.（2018年）。通过\（\ell_0\）优化进行精确尖峰序列推断。附录申请。统计数字12 2457-2482·Zbl 1412.62159号 ·doi:10.1214/18-AOAS1162 [38] Kotz，S.和Johnson，N.L.编辑（1992年）。统计学的突破。第一卷：基础和基本理论。统计学中的施普林格系列。统计学观点。纽约州施普林格·Zbl 0758.62001号 [39] Mallat，S.和Zhang，Z.（1993年）。用时频字典匹配追踪。IEEE传输。信号处理。41 3397-3415. ·Zbl 0842.94004号 ·数字对象标识代码：10.1109/78.258082 [40] Meinshausen，N.（2007年）。放松的拉索。计算。统计师。数据分析。52 374-393. ·Zbl 1452.62522号 ·doi:10.1016/j.csda.2006.12.019 [41] Miller，A.J.（1990）。回归中的子集选择。统计学和应用概率专著40。CRC出版社，伦敦·Zbl 0702.62057号 [42] Paszke，A.、Gross，S.、Massa，F.、Lerer，A.、Bradbury，J.、Chanan，G.、Killeen，T.、Lin，Z.、Gimelshein，N.等人（2019年）。Pytorch：一个命令式、高性能的深度学习库。神经信息处理系统进展8026-8037。 [43] Rothenhäusler，D.、Meinshausen，N.、Bühlmann，P.和Peters，J.（2018）。锚回归：异质数据符合因果关系。预印。arXiv:1801.06229提供。出现在J.Roy身上。统计师。Soc.序列号。B。 [44] Schwarz，G.（1978年）。估算模型的维度。安。统计师。6 461-464. ·Zbl 0379.62005年 ·doi:10.1214/aos/1176344136 [45] Tibshirani，R.（1996）。通过套索进行回归收缩和选择。J.罗伊。统计师。Soc.序列号。乙58 267-288·Zbl 0850.62538号 ·doi:10.1111/j.2517-6161.1996.tb02080.x [46] Tropp，J.A.（2004）。贪婪是好的：稀疏近似的算法结果。IEEE传输。信息理论50 2231-2242·Zbl 1288.94019号 ·doi:10.1109/TIT.2004.834793 [47] van de Geer，S.A.和Bühlmann，P.（2009）。根据用于证明拉索预言结果的条件。电子。《美国联邦法律大全》第3卷第1360-1392页·Zbl 1327.62425号 ·doi:10.1214/09-EJS506 [48] van de Geer，S.和Bühlmann，P.（2013）\稀疏有向无环图的（\ell_0\）-惩罚最大似然。安。统计师。41 536-567. ·Zbl 1267.62037号 ·doi:10.1214/13-AOS1085 [49] van de Geer，S.、Bühlmann，P.和Zhou，S.（2011）。潜在指定错误模型的自适应和阈值拉索（以及拉索的下限）。电子。《美国联邦法律大全》第5卷第688-749页·Zbl 1274.62471号 ·doi:10.1214/11-EJS624 [50] Wainwright，M.J.（2009）。使用（ell_1）约束二次规划（Lasso）恢复高维和噪声稀疏性的锐化阈值。IEEE传输。信息论55 2183-2202·Zbl 1367.62220号 ·doi:10.1109/TIT.2009.2016018 [51] Xu，H.、Caramanis，C.和Mannor，S.（2009年）。稳健回归和拉索。神经信息处理系统进展1801-1808·Zbl 1366.62147号 ·doi:10.1109/TIT.2010.2048503 [52] Zhang，T.（2011）。RIP下基于正交匹配追踪的稀疏恢复。IEEE传输。信息论57 6215-6221·Zbl 1365.94091号 ·doi:10.1109/TIT.2011.2162263 [53] Zhao，P.和Yu，B.（2006）。关于Lasso的模型选择一致性。J.马赫。学习。第7号决议2541-2563·Zbl 1222.62008年 [54] 邹华（2006）。自适应Lasso及其oracle属性。J.Amer。统计师。协会101 1418-1429·Zbl 1171.62326号 ·doi:10.1198/016214500000735 [55] 邹，H·Zbl 1069.62054号 ·doi:10.1111/j.1467-9868.2005.00503.x 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。