×

关于稀疏数据恢复中Lasso最小化器的稀疏性。 (英语) Zbl 1512.94020号

摘要:我们详细分析了用随机生成的矩阵从观测数据中恢复稀疏数据的无约束加权LASSO方法,该方法满足常数为(δ<1)的限制等距性(RIP),并且测量和压缩误差可以忽略不计。我们证明,如果数据是(k)-稀疏的,那么LASSO极小元的支持度大小(s)保持了可比较的稀疏性(s)C_δk。例如,如果\(\ delta=0.7\),则\(s<11k\)和稍小的\(\ delta=0.4\)产生\(s<4k\)。我们还导出了新的(ell_2/ell_1)误差界,该误差界强调了在误差被驱动到可忽略的测量/压缩误差范围以下之前,对(k)和LASSO参数(lambda)的精确依赖性。

理学硕士:

94甲12 信号理论(表征、重建、滤波等)
94A20型 信息与传播理论中的抽样理论
15B52号 随机矩阵(代数方面)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 安德森,J。;斯特伦伯格,J-O,关于随机抽样矩阵的一致恢复定理,IEEE Trans。Inf.Theory,60,1700-1710(2014)·Zbl 1360.94181号 ·doi:10.1109/TIT.2014.2300092
[2] Bah,B。;Tanner,J.,高斯矩阵限制等距常数的改进界,SIAM J.矩阵分析。申请。,31, 2882-2898 (2010) ·Zbl 1208.60026号 ·doi:10.1137/10078884
[3] Bah,B。;Tanner,J.,极限渐近条件下限制等距常数的界:高斯矩阵的公式,线性代数及其应用。,441, 88-109 (2014) ·Zbl 1282.15030号 ·doi:10.1016/j.laa.2012.11.024文件
[4] Baraniuk,R。;达文波特,M。;DeVore,R。;Wakin,M.,随机矩阵限制等距性的简单证明,Constr。约28253-263(2008年)·Zbl 1177.15015号 ·文件编号:10.1007/s00365-007-9003-x
[5] 贝洛尼,A。;Chernozhukov,V.,高维稀疏模型中模型选择后的最小二乘法,Bernoulli,19521-547(2013)·Zbl 1456.62066号 ·doi:10.3150/11-BEJ410
[6] PJ Bickel;Ritov,Y。;Tsybakov,AB,Lasso和Dantzig选择器的同时分析,Ann.Stat.,371705-1732(2009)·Zbl 1173.62022号 ·doi:10.1214/08-AOS620
[7] JD布兰查德;Cartis,C。;Tanner,J.,《压缩感知:受限等距特性有多尖锐?》?,SIAM版本,53,105-125(2011)·Zbl 1214.41008号 ·doi:10.1137/090748160
[8] Bourgain,J。;Dilworth,S。;福特,K。;科尼亚金,S。;Kutzarova,D.,RIP矩阵的显式构造及相关问题,杜克数学。J.,159,145-185(2011)·Zbl 1236.94027号 ·doi:10.1215/00127094-1384809
[9] Bühlmann,P。;Van De Geer,S.,《高维数据统计:方法》。《理论与应用》(2011),柏林:施普林格出版社,柏林·Zbl 1273.62015年 ·doi:10.1007/978-3-642-20192-9
[10] 蔡,TT;Zhang,A.,多面体的稀疏表示与稀疏信号和低秩矩阵的恢复,IEEE Trans-Inf.Theory,60,122-132(2013)·Zbl 1364.94114号 ·doi:10.1109/TIT.2013.2288639
[11] 坎迪斯,E。;Tao,T.,《Dantzig选择器:当p远大于n时的统计估计》,《Ann.Stat.》,35,2313-2351(2007)·Zbl 1139.62019号
[12] Candès,EJ,《受限等距特性及其对压缩传感的影响》,Comptes Rendus Mathematique,346589-592(2008)·Zbl 1153.94002号 ·doi:10.1016/j.crma.2008.03.014
[13] 坎迪斯,EJ;JK隆伯格;Tao,T.,《鲁棒不确定性原理:从高不完整频率信息中精确重建信号》,IEEE Trans。信息。理论。,52489-509(2006年)·Zbl 1231.94017号 ·doi:10.1109/TIT.2005.862083
[14] 坎迪斯,EJ;JK隆伯格;Tao,T.,从不完整和不准确的测量中恢复稳定信号,Commun。纯应用程序。数学。,59, 1207-1233 (2006) ·邮编1098.94009 ·doi:10.1002/第20124页
[15] 坎迪斯,EJ;Tao,T.,《Dantzig选择器:当(p)远大于(n)时的统计估计》,《Ann.Stat.》,35,2313-2351(2007)·Zbl 1139.62019号
[16] Chen,S.S.:基础研究,博士论文,斯坦福大学,(1996)
[17] 陈,SS;Dohono,DL;马萨诸塞州桑德斯,《通过基础追踪进行原子分解》,SIAM J.Sci。计算。,20, 33-61 (1999) ·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[18] Chen,S.S.,Donoho,D.L.:基础追求。载:1994年第28届阿西洛马信号、系统和计算机会议记录,第1卷,第41-44页。IEEE(1994)
[19] 科恩,A。;Dahmen,W。;DeVore,RA,《压缩传感和最佳(k)项近似》,《美国数学杂志》。Soc.,22211-231(2009年)·Zbl 1206.94008号 ·doi:10.1090/S0894-0347-08-00610-3
[20] DeVore,R。;彼得罗娃,G。;Wojtaszczyk,P.,使用最小化解码器的概率实例优化,应用。计算。哈蒙。分析。,27, 275-288 (2009) ·Zbl 1177.94104号 ·doi:10.1016/j.acha.2009.05.001
[21] Donoho,DL,压缩传感,IEEE Trans。信息。理论。,52, 1289-1306 (2006) ·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[22] 多诺霍,DL;Elad,M.,通过最小化在一般(非正交)字典中实现最优稀疏表示,Proc。美国国家科学院。科学。,100, 2197-2202 (2003) ·Zbl 1064.94011号 ·doi:10.1073/pnas.0437847100
[23] 多诺霍,DL;霍,X.,《测不准原理和理想原子分解》,IEEE Trans。通知。理论。,47, 2845-2862 (2001) ·Zbl 1019.94503号 ·doi:10.1109/18.959265
[24] Donoho,D.L.,Johnstone,I.M.:经验原子分解,未出版手稿,(1995)
[25] Foucart,S.:稀疏恢复算法:受限等距常数的充分条件。摘自:近似理论XIII:圣安东尼奥2010,第65-77页。施普林格(2010)·Zbl 1250.65057号
[26] 福卡特,S。;Rauhut,H.,《压缩传感数学导论》。应用和数值谐波分析(2013),巴塞尔:Birkhäuser,巴塞尔·Zbl 1315.94002号
[27] Gribonval,R。;Nielsen,M.,《基并中的稀疏表示》,IEEE Trans。通知。理论。,49, 3320-3325 (2003) ·Zbl 1286.94032号 ·doi:10.10109/TIT.2003.820031
[28] 哈斯蒂,T。;Tibshirani,R。;Wainwright,M.,《稀疏的统计学习:LASSO和泛化》(2015),博卡拉顿:CRC出版社,博卡拉顿·Zbl 1319.68003号 ·doi:10.1201/b18401
[29] Mallat,S。;Hwang,WL,小波奇异性检测与处理,IEEE Trans。《信息论》,38,617-643(1992)·Zbl 0745.93073号 ·doi:10.1109/18.119727
[30] 明绍森,N。;Yu,B.,高维数据稀疏表示的Lasso类型恢复,Ann.Stat.,37,246-270(2009)·Zbl 1155.62050号 ·doi:10.1214/07-AOS582
[31] 李鲁丁;Osher,S。;Fatemi,E.,基于非线性总变差的噪声去除算法,《物理D:非线性现象》,60,259-268(1992)·Zbl 0780.49028号 ·doi:10.1016/0167-2789(92)90242-F
[32] Su,W.,Bogdan,M.,Candès,E.:错误的发现早在拉索路径上就出现了。Ann.Stat.,2133-2150(2017)·Zbl 1459.62142号
[33] Tadmor,E.,正则空间中有界解的层次结构,Commun。纯应用程序。数学。,69, 6, 1087-1109 (2015) ·Zbl 1342.35063号 ·doi:10.1002/cpa.21575
[34] Tadmor,E。;Nezzar,S。;Vesse,L.,使用分层分解的多尺度图像表示,多尺度模型。模拟。,2, 554-579 (2004) ·Zbl 1146.68472号 ·doi:10.1137/030600448
[35] Tadmor,E。;Nezzar,S。;Vesse,L.,图像的多尺度层次分解及其在去模糊、去噪和分割中的应用,Commun。数学。科学。,6, 281-307 (2008) ·Zbl 1189.68166号 ·doi:10.4310/CMS.2008.v6.n2.a2
[36] Tadmor,E.,Tan,C.:临界正则空间中\({\rm-div}\,U=F\)有界解的层次结构。摘自:Holden,H.,Karlsen,K.(编辑),《非线性偏微分方程》,Abel第七届研讨会,奥斯陆,2010年9月,第255-269页。(2010)亚伯研讨会·Zbl 1255.35069号
[37] Tadmor,E.,Zhong,M.:不适定反问题的多尺度层次重建,(2021)
[38] 唐·G。;Nehorai,A.,基于约束最小奇异值的稀疏恢复性能分析,IEEE Trans。信号处理。,597734-5745(2011年)·Zbl 1393.94454号 ·doi:10.1109/TSP.2011.2164913
[39] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.B,58,267-288(1996)·Zbl 0850.62538号
[40] Tropp,JA,Greed很好:稀疏近似的算法结果,IEEE Trans。通知。理论。,50, 2231-2242 (2004) ·Zbl 1288.94019号 ·doi:10.1109/TIT.2004.834793
[41] 张,H。;尹,W。;Cheng,L.,(ell_1)极小化中解唯一的充要条件,J.Optim。理论应用。,164, 109-122 (2015) ·Zbl 1308.65102号 ·doi:10.1007/s10957-014-0581-z
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。