×
比约恩·布林曼；丹尼尔·克莱默斯；费利克斯·克莱默；迈克尔·穆勒

重温同伦方法：计算（ell_1）正则化问题的解路径。 （英语） Zbl 1391.49072号

数学。计算。 87、313号、2343-2364（2018）.
摘要：正则化线性逆问题在信号处理、图像分析和统计中经常出现。正则化参数的正确选择{右}_{\geq0}\）是一个微妙的问题。同伦方法的思想不是求解固定参数的变分问题，而是计算作为（t）函数的完整解路径。在他们著名的论文[IMA J.Numer.Anal.20，第3期，389–403（2000；Zbl 0962.65036号)],M.R.奥斯本,B.普雷斯内尔和B.A.图拉赫表明该方法的计算成本通常与求解相应最小二乘问题的成本相当。他们的分析依赖于一次一个的条件，这要求不同的指数在不同的正则化参数下进入或离开解的支持。本文介绍了一种基于非负最小二乘问题的广义同伦算法，该算法不需要这样的条件，并证明了其在有限多步后终止。在路径的每一点上，我们都给出了所有可能方向的完整特征。为了说明我们的结果，我们讨论了标准同伦论方法失败或变得不可行的例子。据我们所知，我们的算法是第一个可证明地计算出测量矩阵和数据向量任意组合的完整分段线性和连续解路径的算法。

引用于三文件

MSC公司：

49N60型 最优控制中解的正则性
94甲12 信号理论（表征、重建、滤波等）
93E20型 最优随机控制
49号45 最优控制中的逆问题
90C25型 凸面编程
62J07型 岭回归；收缩估计器（拉索）

关键词：

拉索；\（\ell_1\）-正则化；\（\ell_1\）-范数；同伦；压缩感知；非负最小二乘法；凸优化

引文：

Zbl 0962.65036号

软件：

备用实验室；L1包装2
PDF格式BibTeX公司 XML格式引用
\textit{B.Bringmann}等人，数学。计算。87、No.313、2343--2364（2018；Zbl 1391.49072）
全文： DOI程序 arXiv公司

参考文献：

[1] Berkelar1996 Arjan Berkelar、Kees Roos和Tamas Terlaky，线性和二次规划的最优集和最优分割方法，Springer，1996年，第159-202页·Zbl 0904.90159号
[2] Best，Michael J.，参数二次规划问题的求解算法。《应用数学与并行计算》，57-76（1996），《物理学》，海德堡·Zbl 0906.65064号
[3] 马丁·汉堡包；盖·吉尔博亚（Guy Gilboa）；Michael Moeller；利娜·埃卡德；Cremers，Daniel，使用单一均匀泛函的光谱分解，SIAM J.成像科学。，9, 3, 1374-1408 (2016) ·Zbl 1361.35123号 ·数字对象标识代码：10.1137/15M1054687
[4] 马丁·汉堡包；M？oller，Michael；Benning，Martin；Osher，Stanley，《压缩感知的自适应逆尺度空间方法》，《数学比较》，第82、281、269-299页（2013年）·Zbl 1260.49053号 ·doi:10.1090/S0025-5718-2012-02599-3
[5] 坎迪斯，Emmanuel J。；贾斯汀·隆伯格；Tao，Terence，《鲁棒不确定性原理：从高度不完整的频率信息中精确重建信号》，IEEE Trans。通知。理论，52，2489-509（2006）·Zbl 1231.94017号 ·doi:10.1109/TIT.2005.862083
[6] SparseLab2007年David Donoho、Iddo Drori、Victoria Stodden、Yaakov Tsaig和Morteza Shahram，Sparselab，https://sparselab.stanford.edu/, 2007.
[7] 大卫·L·多诺霍。；Tsaig，Yaakov，解可能稀疏时（l_1）范数极小化问题的快速解，IEEE Trans。通知。理论，54，11，4789-4812（2008）·兹比尔1247.94009 ·doi:10.1109/TIT.2008.929958
[8] 布拉德利·埃夫隆；特雷弗·哈斯蒂；伊恩·约翰斯通；Robert Tibshirani，最小角回归，Ann.Statist。，32, 2, 407-499 (2004) ·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[9] 西蒙·福卡特（Simon Foucart）；Rauhut，Holger，《压缩传感、应用和数值谐波分析的数学导论》，xviii+625 pp.（2013），Birkh，“auser/Springer，纽约·Zbl 1315.94002号 ·doi:10.1007/978-0-8176-4948-7
[10] 2009年，Jean-Jacques Fuchs，《l1-l1正则稀疏表示算法的快速实现》，2009年IEEE声学、语音和信号处理国际会议，第3329-3332页。
[11] Gilboa，Guy，用于尺度和纹理分析的总变化光谱框架，SIAM J.Imaging Sci。，7, 4, 1937-1961 (2014) ·Zbl 1361.94014号 ·数字对象标识代码：10.1137/130930704
[12] Goldstein-Esser-13 Tom Goldstein、Min Li、Xiaoming Yuan、Ernie Esser和Richard Baraniuk，鞍点问题的自适应原始-对偶混合梯度方法，arXiv:1305.0546（2013）。
[13] 查尔斯·劳森。；Hanson，Richard J.，《解决最小二乘问题》，xii+340页（1974年），Prentice-Hall公司，新泽西州恩格尔伍德克利夫斯·Zbl 0860.65028号
[14] Loris，Ignace，L1Packv2:最小化受（\ell_1）惩罚函数Compute的Mathematica包。物理学。Comm.，179，12，895-902（2008）·Zbl 1197.90007号 ·doi:10.1016/j.cpc.2008.07.010
[15] 瓦希德·纳西里；Loris，Ignace，结构化稀疏分位数回归的有效算法，计算。统计学。，29, 5, 1321-1343 (2014) ·Zbl 1306.65115号 ·doi:10.1007/s00180-014-0494-1
[16] 奥斯本，M.R。；布雷特·普雷斯内尔；Turlach，B.A.，《最小二乘问题中变量选择的新方法》，IMA J.Numer。分析。，20, 3, 389-403 (2000) ·Zbl 0962.65036号 ·doi:10.1093/imanum/20.389
[17] Rockafellar，R.Tyrrell，《凸分析》，普林斯顿数学系列，第28期，第xviii+451页（1970），普林斯顿大学出版社，新泽西州普林斯顿·Zbl 0932.90001号
[18] 列奥尼德·鲁丁一世。；斯坦利·奥斯尔（Stanley Osher）；Fatemi，Emad，《基于非线性总变差的噪声去除算法》，《实验数学：非线性科学中的计算问题》（Los Alamos，NM，1991）。物理学。D、 60、1-4、259-268（1992）·Zbl 0780.49028号
[19] Robert Tibshirani，《通过套索进行回归收缩和选择》，J.Roy。统计师。Soc.序列号。B、 58、1、267-288（1996）·Zbl 0850.62538号
[20] Tibshirani，Ryan J.，套索问题和唯一性，电子。J.Stat.，71456-1490（2013）·Zbl 1337.62173号 ·doi:10.1214/13-EJS815
[21] Ryan J.Tibshirani。；Taylor，Jonathan，广义套索的解路径，Ann.Statist。，39, 3, 1335-1371 (2011) ·Zbl 1234.62107号 ·doi:10.1214/11-AOS878
[22] 张慧；严明；Yin，Wotao，l1合成和l1分析最小化的解唯一性和稳健性的一个条件，高级计算。数学。，42, 6, 1381-1399 (2016) ·Zbl 1362.65064号 ·doi:10.1007/s10444-016-9467-y
[23] 张慧；尹、沃涛；程立志，1-范数极小化中解唯一的充要条件，J.Optim。理论应用。，164, 1, 109-122 (2015) ·Zbl 1308.65102号 ·doi:10.1007/s10957-014-0581-z
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。