×

\分析最小化和广义(共)稀疏性:何时恢复成功? (英语) Zbl 1460.94021号

摘要:本文在共解析模型的假设下,研究了基于欠采样、噪声次高斯测量的稳定信号估计问题。基于稀疏性的广义概念,推导了一种新的分析基追求的恢复保证,能够准确预测其样本复杂性。所需测量次数的界限明确取决于分析算子的Gram矩阵,因此解释了其相互相干结构。所给出的结果与传统观点相悖,传统观点认为分析系数的稀疏性是需要研究的关键量。事实上,这种范式在许多有趣的情况下都会崩溃,例如,在应用冗余(多级)框架作为分析之前。相反,所提出的采样率界限可靠地捕捉了各种实际例子的恢复能力。这些证明是基于建立一个复杂的二次曲线高斯平均宽度上界,该上界与下面的分析多面体相关。

MSC公司:

94甲12 信号理论(表征、重建、滤波等)
65千5 数值数学规划方法
90C25型 凸面编程
90摄氏度 数学规划的应用
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿伯丹,A。;Sulam,J。;Elad,M.,《多层稀疏编码:整体方法》,SIAM J.Math。数据科学。,1, 1, 46-77 (2019) ·Zbl 1499.65153号
[2] 阿梅伦森,D。;洛茨,M。;麦考伊,M.B。;Tropp,J.A.,《生活在边缘:具有随机数据的凸规划中的相变》,Inf.推理,3,3224-294(2014)·Zbl 1339.90251号
[3] Baraniuk,R.G。;Choi,H。;Neelamani,R.,《Rice小波工具箱》,第3版(2017年8月)
[4] 范登伯格,E。;Friedlander,M.P.,《现场——线性操作员工具箱》(2013年8月)
[5] 卞,X。;克里姆·H。;布朗斯坦,A。;Dai,L.,《稀疏与虚无:分析词典学习的范式》,SIAM J.成像科学。,1107-1126年9月3日(2016年)·Zbl 1343.68191号
[6] Blumensath,T。;Davies,M.E.,有限维线性子空间并集信号的采样定理,IEEE Trans。《信息论》,55,4,1872-1882(2009)·Zbl 1367.94144号
[7] 博伊德,S。;北卡罗来纳州帕里赫。;朱,E。;佩莱托,B。;Eckstein,J.,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。学习。,3, 1, 1-122 (2011) ·Zbl 1229.90122号
[8] 布鲁尔,J.J。;Tropp,J.A。;Cevher,V。;Becker,S.R.,《设计平衡样本大小、风险和计算成本的统计估值器》,IEEE J.Sel。顶部。信号处理。,9, 4, 612-624 (2015)
[9] 蔡J.-F。;Osher,S。;Shen,Z.,Split Bregman方法和基于帧的图像恢复,多尺度模型。模拟。,8, 2, 337-369 (2010) ·Zbl 1189.94014号
[10] 蔡J.-F。;Xu,W.,《信号恢复的总变差最小化保证》,Inf.Inference,4,4,328-353(2015)·Zbl 1387.94028号
[11] 坎迪斯,E.J。;Eldar,Y.C。;Needell,D。;Randall,P.,《压缩传感与相干和冗余字典》,应用。计算。哈蒙。分析。,31, 1, 59-73 (2011) ·Zbl 1215.94026号
[12] 坎迪斯,E.J。;Romberg,J.K。;Tao,T.,《鲁棒不确定性原理:从高度不完整的频率信息中精确重建信号》,IEEE Trans。《信息论》,52,2489-509(2006)·Zbl 1231.94017号
[13] 坎迪斯,E.J。;Romberg,J.K。;Tao,T.,从不完整和不准确的测量中恢复稳定信号,Commun。纯应用程序。数学。,591207-1223(2006年)·兹比尔1098.94009
[14] (Casazza,P.G.;Kutyniok,G.,《有限框架:理论与应用》,《应用与数值谐波分析》(2013),Birkhäuser:Birkháuser Basel)·Zbl 1257.42001号
[15] Chambolle,A.,《总变异最小化算法及其应用》,J.Math。成像视觉。,20, 1, 89-97 (2004) ·兹比尔1366.94048
[16] Chandrasekaran,V。;Jordan,M.I.,通过凸松弛进行计算和统计权衡,Proc。国家。阿卡德。科学。美国,110,13,E1181-E1190(2013)·Zbl 1292.62019年
[17] Chandrasekaran,V.公司。;雷奇特,B。;帕里罗,P.A。;Willsky,A.S.,线性反问题的凸几何,发现。计算。数学。,12, 6, 805-849 (2012) ·Zbl 1280.52008年
[18] 陈S.S。;Donoho,D.L。;桑德斯,M.A.,《基追踪原子分解》,SIAM J.Sci。计算。,20, 1, 33-61 (1998) ·Zbl 0919.94002号
[19] 陈,Y。;Ranftl,R。;Pock,T.,《分析操作符学习的见解:从基于补丁的稀疏模型到高阶MRF》,IEEE Trans。图像处理。,23, 3, 1060-1072 (2014) ·Zbl 1374.94065号
[20] 科伊夫曼,R.R。;Donoho,D.L.,《平移-变分去噪》(Antoniadis,A.;Oppenheim,G.,《小波与统计》,《小波和统计》,统计学讲义,第103卷(1995年),施普林格:施普林格纽约),125-150·Zbl 0866.94008号
[21] Donoho,D.L.,压缩传感,IEEE Trans。《信息论》,52,4,1289-1306(2006)·Zbl 1288.94016号
[22] Donoho,D.L。;Johnstone,J.M.,《小波收缩的理想空间自适应》,《生物统计学》,第81、3、425-455页(1994年)·Zbl 0815.62019号
[23] Dragotti,P.L。;Vetterli,M.,《小波足迹:理论、算法和应用》,IEEE Trans。信号处理。,51, 5, 1306-1323 (2003) ·Zbl 1369.94043号
[24] Elad,M。;Milanfar,P。;Rubinstein,R.,《信号先验分析与合成》,逆问题。,947-968年3月23日(2007年)·兹比尔1138.93055
[25] Folland,G.B.,《真实分析:现代技术及其应用》(1999),威利出版社·Zbl 0924.28001号
[26] Fornasier,M。;Gröchenig,K.,《框架的内部定位》,Constr。约22,3395-415(2005)·Zbl 1130.41304号
[27] Foucart,S.,利用Weibull矩阵和冗余字典进行的(\ell_1)-最小化的稳定性和鲁棒性,线性代数应用。,441, 4-21 (2014) ·兹比尔1332.94042
[28] 福卡特,S。;Rauhut,H.,《压缩传感数学导论:应用和数值谐波分析》(2013),Birkhäuser:Birkháuser Basel·Zbl 1315.94002号
[29] Fowler,J.E.,冗余离散小波变换和加性噪声,IEEE信号处理。莱特。,12, 9, 629-632 (2005)
[30] 弗里德兰德,M.P。;Mansour,H。;萨博,R。;Yilmaz,O.,使用部分支持信息恢复压缩采样信号,IEEE Trans。Inf.理论,58,2,1122-1134(2012)·Zbl 1365.94071号
[31] Genzel,M.,基于一般凸损失函数的非线性观测的结构化信号的高维估计,IEEE Trans。《信息理论》,63,3,1601-1619(2017)·Zbl 1366.94101号
[32] Giryes,R。;Nam,S。;Elad,M。;Gribonval,R。;Davies,M.E.,共解析分析模型的类贪婪算法,线性代数应用。,441, 22-60 (2014) ·Zbl 1332.94043号
[33] Giryes,R。;平面图,Y。;Vershynin,R.,关于分析Cosparse模型中维度的有效度量,IEEE Trans。《信息论》,61,10,5745-5753(2015)·Zbl 1359.94032号
[34] Giryes,R。;Eldar,Y.C。;Bronstein,A.M。;Sapiro,G.,反问题中收敛速度和重建精度之间的权衡,IEEE Trans。信号处理。,66, 7, 1676-1690 (2018) ·Zbl 1414.94216号
[35] Gordon,Y.,关于Milman不等式和通过\(\ operatorname{R}^n\)中的网格逃逸的随机子空间,(Lindenstrauss,J.;Milman,V.D.,泛函分析的几何方面。泛函分析的几何方面,数学讲义,第1317卷(1988),施普林格:施普林格-柏林-海德堡),84-106·兹比尔0651.46021
[36] 格兰特,M。;Boyd,S.,非光滑凸程序的图形实现,(Blondel,V.;Boyd·Zbl 1205.90223号
[37] 格兰特,M。;Boyd,S.,CVX:Matlab Software for Disciplined Convex Programming(2014年3月),2.1版
[38] Gröchenig,K.,框架的局部化,Banach框架,以及框架算子的可逆性,J.Fourier Ana。申请。,10.2, 105-132 (2004) ·Zbl 1055.42018号
[39] Guerquin-Kern,M。;Lejeune,J。;普鲁斯曼,K.P。;Unser,M.,《用于平行磁共振成像的真实分析模型》,IEEE Trans。医学成像,31,3,626-636(2012)
[40] Hawe,S。;Kleinsteuber,M。;Diepold,K.,分析算子学习及其在图像重建中的应用,IEEE Trans。图像处理。,22, 6, 2138-2150 (2013) ·Zbl 1373.94161号
[41] 卡巴纳瓦,M。;Rauhut,H.,分析(\ell_1)-帧和高斯测量的恢复,Acta Appl。数学。,140, 1, 173-195 (2015) ·Zbl 1378.94008号
[42] 卡班瓦,M。;Rauhut,H。;Zhang,H.,稳健分析——从高斯测量和总变差最小化中恢复,欧洲期刊应用。数学。,26, 6, 917-929 (2015) ·Zbl 1387.94039号
[43] Khajehnejad,文学硕士。;徐伟(Xu,W.)。;Avestimehr,A.S。;Hassibi,B.,带先验信息的稀疏恢复加权最小化,(IEEE信息理论国际研讨会论文集(ISIT)(2009)),483-487
[44] Kitić,S。;Albera,L。;Bertin,N。;Gribonval,R.,《通过cosparse正则化可处理的物理驱动反问题》,IEEE Trans。信号处理。,64, 2, 335-348 (2016) ·Zbl 1412.94050号
[45] Krahmer,F。;Kruschel,C。;Sandbichler,M.,《压缩传感中的总变差最小化》(Boche,H.;Caire,G.;Calderbank,R.;März,M.;Kutyniok,G..;Mathar,R.,压缩传感及其应用:2015年第二届国际MATHEON会议(2017年),Birkhäuser Cham)
[46] 克拉默,F。;Needell博士。;Ward,R.,《带冗余字典和结构化测量的压缩传感》,SIAM J.Math。分析。,47, 6, 4606-4629 (2015) ·Zbl 1345.94014号
[47] Kutyniok,G。;Lim,W.-Q。;Reisenhofer,R.,Shearlab 3D:基于紧支撑剪切波的忠实数字剪切波变换,ACM Trans。数学。柔软。,42,1(2016),第5条·Zbl 1347.65203号
[48] Lee,K。;李毅。;Jin,K.H。;Ye,J.C.,通用变换域中稀疏信号恢复的统一理论,IEEE Trans。Inf.理论,64,8,5457-5477(2018)·Zbl 1401.94044号
[49] Liaw,C。;Mehrabian,A。;平面图,Y。;Vershynin,R.,《在几何集上限定随机矩阵偏差的简单工具》,(Klartag,B.;Milman,E.,《函数分析的几何方面》,函数分析的几何学方面,数学课堂讲稿,第2169卷(2017),Springer:Springer-Cham),277-299·Zbl 1366.60011号
[50] 林,J。;Li,S.,通过分析Dantzig选择器和分析LASSO,Appl,稀疏恢复与相干紧框架。计算。哈蒙。分析。,37, 1, 126-139 (2014) ·Zbl 1345.94016号
[51] 刘,Y。;米·T。;Li,S.,《通过基于优化双元分析的通用框架压缩传感》,IEEE Trans。Inf.Theory,58,7,4201-4214(2012)·Zbl 1365.94181号
[52] Lustig,M。;Donoho,D.L。;桑托斯,J.M。;Pauly,J.M.,压缩传感MRI,IEEE信号处理。Mag.,25,2,72-82(2008)
[53] Mallat,S.,《信号处理的小波之旅:稀疏方法》(2009),爱思唯尔出版社·兹比尔1170.94003
[54] McMahon,E.,普赖斯定理的推广(对应),IEEE Trans。Inf.理论,10.2,168(1964)·Zbl 0141.17004号
[55] 米德·J·L。;Renaut,R.A.,不等式约束作为二次约束的最小二乘问题,线性代数应用。,432, 8, 1936-1949 (2010) ·Zbl 1185.65068号
[56] 门德尔森,S。;Pajor,A。;Tomczak Jaegermann,N.,渐近几何分析中的重构和亚高斯算子,几何。功能。分析。,17, 4, 1248-1282 (2007) ·Zbl 1163.46008号
[57] 莫赫里,M。;Rostamizadeh,A。;Talwalkar,A.,《机器学习基础》(2012),麻省理工出版社·Zbl 1318.68003号
[58] Nam,S。;戴维斯,M.E。;Elad先生。;Gribonval,R.,cosparse分析模型和算法,应用。计算。哈蒙。分析。,34, 1, 30-56 (2013) ·Zbl 1261.94018号
[59] Nam,S。;Gribonval,R.,《源定位的物理驱动结构化cosparse建模》,(IEEE声学、语音和信号处理国际会议论文集。IEEE声学,语音和信号加工国际会议论文集中,ICASSP(2012)),5397-5400
[60] Needell,D。;Ward,R.,使用总变差最小化进行稳定图像重建,SIAM J.成像科学。,6, 2, 1035-1058 (2013) ·Zbl 1370.94042号
[61] Oymak,S。;雷奇特,B。;Soltanolkotabi,M.,线性反问题的夏普时间数据权衡,IEEE Trans。《信息论》,64,6,4129-4158(2018)·Zbl 1395.90205号
[62] Oymak,S。;Hassibi,B.,发现近端去噪的尖锐MSE界限。计算。数学。,16, 4, 965-1029 (2016) ·Zbl 1380.90221号
[63] Oymak,S。;Khajehnejad,文学硕士。;Hassibi,B.,最优权重最小化的恢复阈值,(IEEE信息理论国际研讨会论文集。IEEE信息论国际研讨会论文集中,ISIT(2012)),2032-2036
[64] 平面图,Y。;Vershynin,R.,《稳健的1位压缩感知和稀疏逻辑回归:凸规划方法》,IEEE Trans。《信息论》,59,1482-494(2013)·Zbl 1364.94153号
[65] 普隆卡,G。;Ma,J.,用于压缩传感的Curvelet-wavelet正则化分裂Bregman迭代,《国际小波多分辨率》。信息处理。,2011年9月1日,79-110·兹比尔1208.94017
[66] Poon,C.,《压缩传感中的结构相关采样:紧框架的理论保证》,应用。计算。哈蒙。分析。,42, 3, 402-451 (2017) ·Zbl 1422.94021号
[67] Price,R.,具有高斯输入的非线性器件的一个有用定理,IRE-Trans。Inf.理论,4,2,69-72(1958)·Zbl 0108.30605号
[68] Rauhut,H。;Schnass,K。;Vandergheynst,P.,压缩传感和冗余字典,IEEE Trans。Inf.理论,54,5,2210-2219(2008)·Zbl 1332.94022号
[69] 拉维山卡,S。;Bresler,Y.,学习稀疏化变换,IEEE Trans。信号处理。,61, 5, 1072-1089 (2013) ·Zbl 1393.94409号
[70] Rockafellar,R.T.,《凸分析》(1970),普林斯顿大学出版社·Zbl 0229.90020号
[71] 鲁宾斯坦,R。;佩莱,T。;Elad,M.,Analysis K-SVD:分析稀疏模型的字典学习算法,IEEE Trans。信号处理。,61, 3, 661-677 (2013) ·Zbl 1393.94416号
[72] Rudelson,M。;Vershynin,R.,《基于傅里叶和高斯测量的稀疏重建》,Commun。纯应用程序。数学。,61, 8, 1025-1045 (2008) ·Zbl 1149.94010号
[73] 鲁丁,L。;Osher,S。;Fatemi,E.,基于非线性总变差的噪声去除算法,Physica D,60.1-4259-268(1992)·Zbl 0780.49028号
[74] 塞莱斯尼克,I.W。;Figueiredo,M.A.T.,《过完备小波变换的信号恢复:分析和合成先验的比较》(Goyal,V.K.;Papadakis,M.;Ville,D.V.D.,《SPIE学报》,Wavelets XIII,第7446卷(2009))
[75] 沙列夫·施瓦茨,S。;Ben-David,S.,《理解机器学习:从理论到算法》(2014),剑桥大学出版社·Zbl 1305.68005号
[76] 沈毅。;Han,B。;Braverman,E.,基于分析方法的稳定恢复,应用。计算。哈蒙。分析。,39, 1, 161-172 (2015) ·Zbl 1345.94019号
[77] Tan,Z。;Eldar,Y.C。;贝克,A。;Nehorai,A.,用于分析稀疏恢复的平滑和分解,IEEE Trans。信号处理。,621762-1774(2014年)·Zbl 1394.94580号
[78] 蒂尔曼,A.M。;Gribonval,R。;Pfetsch,M.E.,cosparse集上的投影是NP-hard,(IEEE声学、语音和信号处理国际会议论文集。IEEE声学,语音和信号加工国际会议论文集中,ICASSP(2014)),7148-7152
[79] Tropp,J.A.,从独立随机线性测量中恢复结构化信号的凸性,(Pfander,G.E.,《采样理论,复兴》,《采样原理,复兴,应用和数值谐波分析》(2015),Birkhäuser:Birkháuser Cham),67-101·Zbl 1358.94034号
[80] 维特,S。;佩尔,G。;剂量,C。;Fadili,J.,鲁棒稀疏分析正则化,IEEE Trans。信息理论,59,4,2001-2016(2013)·Zbl 1364.94172号
[81] 范德金斯特,B。;Goossens,B。;Van Holen,R。;Vanhove,C。;Pizurica,A。;Vandenberghe,S。;Staelens,S.,使用基于剪切波的正则化的迭代CT重建,IEEE Trans。编号。科学。,60, 5, 3305-3317 (2013)
[82] Vapnik,V.,《统计学习理论的本质》(2000),施普林格出版社:纽约施普林格·Zbl 0934.62009号
[83] Vershynin,R.,《高维概率:数据科学应用简介》,剑桥统计与概率数学丛书,第47卷(2018),剑桥大学出版社·Zbl 1430.60005号
[84] Vershynin,R.,《随机矩阵非渐近分析导论》(Eldar,Y.C.;Kutyniok,G.,《压缩传感理论与应用》(2012),剑桥大学出版社),210-268
[85] Voigtlaender,F.,普赖斯定理的一般版本(2017),预印本
[86] Yaghoobi,M。;Nam,S。;Gribonval,R。;Davies,M.E.,cosparse信号建模的约束过完备分析算子学习,IEEE Trans。信号处理。,61, 9, 2341-2355 (2013)
[87] 张,B。;徐伟(Xu,W.)。;蔡J.-F。;Lai,L.,总变差最小化的精确相变,(IEEE声学、语音和信号处理国际会议论文集。IEEE声学,语音和信号加工国际会议论文录,ICASSP(2016)),4518-4522
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。