×
杰罗姆·弗里德曼；特雷弗·哈斯蒂；霍尔格·Höfling；罗伯特·提比拉尼

路径坐标优化。 （英语） Zbl 1378.90064号

附录申请。斯达。 1，第2期，302-332（2007）.
摘要：我们考虑了一类凸优化问题的“一次一个”坐标下降算法。文献中已经提出了一种用于（L_{1}）惩罚回归（lasso）的此类算法，但似乎在很大程度上被忽略了。事实上，似乎在凸优化中不经常使用坐标系算法。我们证明，在大型套索问题中，该算法与著名的LARS（或同伦）程序具有很强的竞争力，并且可以应用于相关方法，如套索和弹性网。然而，事实证明，坐标下降法在“融合套索”中不起作用，因此我们推导出了一种广义算法，该算法比标准凸优化器在更短的时间内得到解。最后，我们将该方法推广到二维融合套索，并演示了其在一些图像平滑问题上的性能。

引用于1审查
引用于378文件

MSC公司：

90C25型 凸面编程
62J07型 岭回归；收缩估计器（拉索）

关键词：

坐标下降；套索；凸优化

软件：

SQOPT公司；PDCO公司
PDF格式BibTeX公司 XML格式引用
\textit{J.Friedman}等人，Ann.Appl。Stat.1，No.2，302--332（2007；Zbl 1378.90064）
全文： 内政部 arXiv公司 欧几里得

参考文献：

[1] Bertsekas，D.（1999）。非线性规划。雅典娜科技·Zbl 1015.90077号
[2] Breiman，L.（1995）。使用非负garrote进行更好的子集选择。技术计量37 738-754·Zbl 0862.62059号 ·doi:10.2307/1269730
[3] Chen，S.S.、Donoho，D.L.和Saunders，M.A.（1998年）。通过基追踪进行原子分解。SIAM J.科学。计算。33-61. ·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[4] Daubechies，I.、Defrise，M.和De Mol，C.（2004）。具有稀疏约束的线性反问题的迭代阈值算法。普通纯应用程序。数学。57 1413-1457·Zbl 1077.65055号 ·doi:10.1002/cpa.20042
[5] Donoho，D.和Johnstone，I.（1995年）。通过小波收缩适应未知平滑度。J.Amer。统计师。协会90 1200-1224·Zbl 0869.62024号 ·数字对象标识代码：10.2307/2291512
[6] Efron，B.、Hastie，T.、Johnstone，I.和Tibshirani，R.（2004）。最小角度回归（讨论）。安。统计师。32 407-499. ·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[7] Friedlander，M.和Saunders，M.（2007）。E.Candes和T.Tao对“Dantzig选择器”的讨论。安。统计师。35 2385-2391. ·doi:10.1214/009053607000000479
[8] 傅文杰（1998）。惩罚回归：桥梁与套索。J.计算。图表。统计师。7 397-416.
[9] Gill，P.、Murray，W.和Saunders，M.（1999）。sqopt 5.3用户指南：用于大规模线性和二次规划的fortran包。斯坦福大学技术报告。
[10] Li，Y.和Arce，G.（2004）。最小绝对偏差回归的最大似然法。URASIP J.应用。信号处理2004 1762-1769·Zbl 02179565号 ·doi:10.1155/S1110865704401139
[11] Osborne，M.、Presnell，B.和Turlach，B.（2000）。最小二乘问题中变量选择的一种新方法。IMA J.数字。分析。20 389-404. ·Zbl 0962.65036号 ·doi:10.1093/imanum/20.3.89
[12] Owen，A.（2006年）。套索回归和岭回归的稳健组合。斯坦福大学技术报告。
[13] Rudin，L.I.、Osher，S.和Fatemi，E.（1992年）。基于非线性全变分的噪声去除算法。物理学。D 60 259-268·Zbl 0780.49028号 ·doi:10.1016/0167-2789（92）90242-F
[14] Schlegel，P.（1970年）。三对角矩阵的显式逆矩阵。数学。计算。24 665-665. ·兹比尔0215.55404 ·doi:10.2307/2004842
[15] Tibshirani，R.（1996）。通过套索回归收缩和选择。J.罗伊。统计师。Soc.序列号。乙58 267-288·Zbl 0850.62538号
[16] Tibshirani，R.、Saunders，M.、Rosset，S.、Zhu，J.和K.奈特（2005）。通过融合套索实现轻盈流畅。J.罗伊。统计师。Soc.序列号。乙67 91-108·Zbl 1060.62049号 ·文件编号：10.1111/j.1467-9868.2005.00490.x
[17] Tibshirani，R.和Wang，P.（2007）。使用融合套索对CGH数据进行空间平滑和热点检测。生物统计学。Advance Access于2007年5月18日发布·Zbl 1274.62886号
[18] 曾平（1988）。最大化不可微凹函数的坐标上升。技术报告LIDS-P，1840，麻省理工学院信息与决策系统实验室。
[19] 曾平（2001）。不可微最大化块坐标下降法的收敛性。J.选项。理论应用。109 474-494. ·Zbl 1006.65062号 ·doi:10.1023/A:1017501703105
[20] Van der Kooij，A.（2007年）。最优尺度变换回归的预测精度和稳定性。莱顿大学数据理论系技术报告。
[21] Wang，H.，Li，G.和Jiang，G..（2006）。通过lad-lasso进行稳健回归收缩和一致变量选择。《商业经济学杂志》。统计师。11 1-6.
[22] Yuan，M.和Lin，Y.（2006）。分组变量回归中的模型选择和估计。J.罗伊。统计师。Soc.序列号。B 68 49-67·Zbl 1141.62030号 ·doi:10.1111/j.1467-9868.2005302.x
[23] Zhou，H.和Hastie，T.（2005）。通过弹性网进行规则化和变量选择。J.罗伊。统计师。Soc.序列号。乙67 301-320·Zbl 1069.62054号 ·文件编号：10.1111/j.1467-9868.2005.005.x
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。