×

OMP何时使用连续字典实现精确恢复? (英语) Zbl 1512.94018号

摘要:本文在连续参数字典的背景下,给出了贪婪算法正交匹配追踪(OMP)稀疏恢复保证的新理论结果。这里,连续设置意味着字典由无限多个原子组成。在这项工作中,我们依赖于观测空间的希尔伯特结构,将恢复结果表示为由两个原子之间的内积定义的核的属性。使用Tropp精确恢复条件的连续扩展,我们确定了允许在连续设置中分析OMP的关键假设。在这些假设下,OMP明确地从任何观察到的(k)原子的线性组合中,以精确的(k\)步确定原子参数。这些参数在传统的稀疏恢复中起着所谓的稀疏表示支持的作用。在我们的论文中,任何满足这些条件的核和参数集都被认为是可容许的。
在一维环境中,我们展示了一系列依赖于完全单调函数的核,对于任何一组原子参数,核的可容许性都成立。对于高维参数空间,分析结果更加精细。另一个假设,即所谓的轴可容许性,是为了确保延迟恢复的形式(最多为\(k^D)步,其中\(D)是参数空间的维数)。此外,在涉及有限原子子集(构建为待恢复原子集的扩展)的附加代数条件下,导出了精确(k)步恢复的保证。我们表明,在拉普拉斯核的情况下,后一种技术条件简化了,使我们能够推导出(k)步精确恢复的简单条件,并根据待恢复原子之间的最小分离假设进行相干分析。

MSC公司:

94甲12 信号理论(表征、重建、滤波等)

软件:

新鲜;PDCO公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 福卡特,S。;Rauhut,H.,《压缩传感数学导论》(2013),Birkhäuser:Birkháuser Basel·Zbl 1315.94002号
[2] 埃卡纳达姆,C。;Tranchina,D。;Simoncelli,E.P.,用连续基波追踪恢复稀疏平移不变信号,IEEE Trans。信号处理。,59, 10, 4735-4744 (2011) ·Zbl 1392.94192号
[3] 坎迪斯,E.J。;Fernandez-Granda,C.,走向超分辨率数学理论,Commun。纯应用程序。数学。,67, 6, 906-956 (2014) ·Zbl 1350.94011号
[4] 杜瓦尔,V。;Peyré,G.,《稀疏尖峰反褶积的精确支持恢复》,Found。计算。数学。,15, 5, 1315-1355 (2014) ·兹比尔1327.65104
[5] 帕蒂,Y.C。;Rezaiifar,R。;Krishnaprasad,P.S.,《正交匹配追踪:递归函数逼近及其在小波分解中的应用》,(第27届Asilomar信号、系统和计算机会议论文集,第1卷(1993)),40-44
[6] Miller,K.S。;Samko,S.G.,完全单调函数,积分变换特殊函数。,12, 4, 389-402 (2001) ·Zbl 1035.26012号
[7] Natarajan,B.,线性系统的稀疏近似解,SIAM J.Compute。,24, 2, 227-234 (1995) ·Zbl 0827.68054号
[8] Miller,A.J.,《回归中的子集选择》(2002),查普曼和霍尔:查普曼与霍尔伦敦·兹比尔1051.62060
[9] 马拉特,S。;Zhang,《用时频字典匹配追踪》,IEEE Trans。信号处理。,41, 12, 3397-3415 (1993) ·Zbl 0842.94004号
[10] DeVore,R.A。;Temlyakov,V.N.,《贪婪算法的一些评论》,《高级计算》。数学。,5, 1, 173-187 (1996) ·Zbl 0857.65016号
[11] 刘,E。;Temlyakov,V.N.,正交超贪婪算法及其在压缩传感中的应用,IEEE Trans。Inf.Theory,58,42040-2047(2012)·Zbl 1365.94180号
[12] 陈,S。;Billings,S.A。;Luo,W.,正交最小二乘法及其在非线性系统辨识中的应用,国际控制杂志,50,1873-1896(1989)·Zbl 0686.93093号
[13] 弗里德曼,J.H。;Stuetzle,W.,投影寻踪回归,美国统计协会,76,376,817-823(1981)
[14] Huber,P.J.,《投影追踪》,《Ann.Stat.》,第13、2、435-475页(1985年)·Zbl 0595.62059号
[15] Rebollo-Neira,L。;Lowe,D.,优化正交匹配追踪方法,IEEE信号处理。莱特。,9, 4, 137-140 (2002)
[16] Temlyakov,V.N.,《贪婪近似》,《数值学报》。,17, 235-409 (2008) ·Zbl 1178.65050号
[17] 文森特,P。;Bengio,Y.,《内核匹配追踪》,马赫。学习。,48, 1/3, 165-187 (2002) ·Zbl 0998.68120号
[18] Claerbout,J.F。;Muir,F.,《利用不稳定数据进行稳健建模》,地球物理学,38,5,826-844(1973)
[19] 陈,S。;多诺霍,D。;桑德斯,M.,《基追踪的原子分解》,SIAM J.Sci。计算。,20, 1, 33-61 (1998) ·Zbl 0919.94002号
[20] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.,Ser。B、 Methodol.方法。,58, 1, 267-288 (1996) ·Zbl 0850.62538号
[21] Tibshirani,R。;约翰斯通,I。;哈斯蒂,T。;Efron,B.,《最小角度回归》,《Ann.Stat.》,32,2,407-499(2004)·Zbl 1091.62054号
[22] 贝克,A。;Teboulle,M.,线性反问题的快速迭代收缩阈值算法,SIAM J.成像科学。,2, 1, 183-202 (2009) ·Zbl 1175.94009号
[23] 博伊德,S。;北卡罗来纳州帕里赫。;朱,E。;佩莱托,B。;Eckstein,J.,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。学习。,3, 1, 1-122 (2011) ·Zbl 1229.90122号
[24] Gribonval,R。;尼尔森,M.,《超越稀疏性:通过最小化和贪婪算法恢复结构化表示》,高级计算。数学。,28, 1, 23-41 (2008) ·兹比尔1128.41004
[25] 博鲁普,L。;Gribonval,R。;尼尔森,M.,《超越一致性:恢复结构化时频表示》,应用。计算。哈蒙。分析。,24, 1, 120-128 (2008) ·Zbl 1143.94002号
[26] Knudson,K.C。;Yates,J。;Huk,A。;Pillow,J.W.,用连续正交匹配追踪推断连续信号的稀疏表示,高级神经信息处理。系统。,27, 1215-1223 (2014)
[27] 埃夫特哈里,A。;Wakin,M.B.,《贪婪是超级:超分辨率的快速算法》(2015)
[28] 多佛,C。;梅奥博士,A。;Herzet,C.,迭代稀疏近似的有效原子选择策略,(2018年iTWIST——低复杂度数据模型和传感技术之间相互作用的国际旅行研讨会。2018年国际旅行研讨会——低复杂程度数据模型和传感器技术之间相互影响的国际旅行讲习班,法国马赛(2018)),1-3
[29] Bredies,K。;Pikkarainen,香港,测度空间中的逆问题,ESAIM控制优化。计算变量,19,1,190-218(2012)·Zbl 1266.65083号
[30] 德卡斯特罗,Y。;Gamboa,F.,《使用贝林最小外推进行精确重建》,J.Math。分析。申请。,395, 1, 336-354 (2012) ·Zbl 1302.94019号
[31] 唐·G。;Bhaskar,B.N。;沙阿·P。;Recht,B.,《离网压缩传感》,IEEE Trans。《信息理论》,59,11,7465-7490(2013)·Zbl 1364.94168号
[32] 卡斯特罗,Y.D。;Gamboa,F。;亨利安,D。;Lasserre,J.-B.,高维半代数域上超分辨率的精确解,IEEE Trans。《信息理论》,63,1621-630(2017)·Zbl 1359.94030号
[33] 博伊德,N。;希宾格,G。;Recht,B.,稀疏逆问题的交替下降条件梯度法,(2015 IEEE第六届多传感器自适应处理(CAMSAP)计算进展国际研讨会(2015)),57-60
[34] 加泰罗尼亚,P。;杜瓦尔,V。;Peyré,G.,离网稀疏反褶积的低秩方法,SIAM J.Imaging Sci。,1464-1500年12月3日(2019年)
[35] 德诺伊尔,Q。;杜瓦尔,V。;佩雷,G。;Soubies,E.,滑动Frank-Wolfe算法及其在超分辨率显微镜中的应用,逆问题。,36,1,第014001条pp.(2019)·Zbl 1434.65082号
[36] 埃夫特哈里,A。;Thompson,A.,《测度上的稀疏逆问题:条件梯度和交换方法的等价性》,SIAM J.Optim。,1329-1349年2月29日(2019年)·Zbl 1421.90113号
[37] 弗林斯,A。;de Gournay,F。;Weiss,P.,关于总变差最小化的交换和连续方法的线性收敛速度(2019年6月)
[38] Chizat,L。;Bach,F.,《关于使用最优传输的超参数模型梯度下降的全局收敛性》,(神经信息处理系统进展,第31卷(2018)),3036-3046
[39] Chizat,L.,超参数梯度下降测度的稀疏优化(2019年7月),工作文件或预印本
[40] de Prony,G.,Essai实验与分析:不同温度下,弹性流体的膨胀性和膨胀力。理工大学。(1795)
[41] Kunis,S。;Peter,T。;Römer,T。;von der Ohe,U.,Prony方法的多元推广,线性代数应用。,490, 31-47 (2016) ·Zbl 1329.65312号
[42] Liao,W。;范江,A.,MUSIC用于单快照光谱估计:稳定性和超分辨率,应用。计算。哈蒙。分析。,40, 1, 33-67 (2016) ·Zbl 1416.94028号
[43] 罗伊·R。;Kailath,T.,ESPRIT——通过旋转不变性技术估计信号参数,IEEE Trans。阿库斯特。语音信号处理。,37, 7, 984-995 (1989)
[44] 魏,X。;Dragotti,P.L.,基于FRESH-FRI的单图像超分辨率算法,IEEE Trans。图像处理。,25, 8, 3723-3735 (2016) ·Zbl 1408.94707号
[45] Tropp,J.A.,《贪婪很好:稀疏近似的算法结果》,IEEE Trans。Inf.理论,50,10,2231-2242(2004)·Zbl 1288.94019号
[46] 苏森,C。;Gribonval,R。;Idier,J。;Herzet,C.,《正交匹配追踪和正交最小二乘的联合k步分析》,IEEE Trans。《信息论》,59,5,3158-3174(2013)·Zbl 1364.94160号
[47] Gribonval,R。;Vandergheynst,P.,关于准非相干字典中匹配追求的指数收敛,IEEE Trans。Inf.理论,52,1255-261(2006)·Zbl 1309.94038号
[48] Fuchs,J.-J.,关于任意冗余基中的稀疏表示,IEEE Trans。Inf.理论,50,6,1341-1344(2004)·Zbl 1284.94018号
[49] Tropp,J.A.,Just relax:识别噪声中稀疏信号的凸规划方法,IEEE Trans。Inf.理论,52,31030-1051(2006)·Zbl 1288.94025号
[50] Herzet,C。;梅奥博士,A。;Soussen,C.,《利用相干和衰减对OMP/OLS的宽松恢复条件》,IEEE Trans。Inf.Theory,62,1459-470(2016)·Zbl 1359.94100号
[51] 黄,S。;Zhu,J.,使用OMP及其变体恢复稀疏信号:基于RIP的收敛性分析,逆问题。,第27、3条,第035003页(2011年)·Zbl 1220.94017号
[52] Maleh,R.,《正交匹配追踪的改进RIP分析》(2011年),技术代表。
[53] 莫奇。;Shen,Y.,关于正交匹配追踪中限制等距性的注记,IEEE Trans。《信息论》,58,6,3654-3656(2012)·Zbl 1365.94182号
[54] Wang,J。;Shim,B.,《关于使用正交匹配追踪的稀疏信号恢复极限》,IEEE Trans。信号处理。,60, 9, 4973-4976 (2012) ·Zbl 1393.94719号
[55] Chang,L。;Wu,J.,一种改进的基于RIP的性能保证,用于通过正交匹配追踪恢复稀疏信号,IEEE Trans。Inf.Theory,60,9,5702-5715(2014)·Zbl 1360.94052号
[56] Wen,J。;朱,X。;Li,D.,正交匹配追踪限制等距常数的改进界,电子。莱特。,49, 23, 1487-1489 (2013)
[57] Mo,Q.,《正交匹配追踪的严格限制等距常数界限》(2015),技术代表。
[58] Rudin,W.,《数学分析原理》,《国际纯数学和应用数学丛书》(1976年),麦格劳-希尔科学/工程/数学·Zbl 0148.02903号
[59] 卡罗,D.D。;埃尔维拉,C。;Deleforge,A。;Bertin,N。;Gribonval,R.,《爆炸机:一种用于盲和正则化声回波检索的离网方法》,(2020 IEEE声学、语音和信号处理国际会议(ICASSP)(2020)),156-160
[60] 阿扎伊斯,J.-M。;德卡斯特罗,Y。;Gamboa,F.,从不准确采样中检测峰值,应用。计算。哈蒙。分析。,38, 2, 177-195 (2015) ·Zbl 1308.94046号
[61] Fernandez-Granda,C.,通过凸规划实现点源超分辨率,Inf.Inference,J.IMA,5,3,251-303(2016)·兹比尔1386.94027
[62] Kreĭn先生。;Nudel'man,A.,《马尔可夫矩问题和极值问题》(1977),美国数学学会·Zbl 0361.42014号
[63] 德诺伊尔,Q。;杜瓦尔,V。;Peyré,G.,正测量稀疏超分辨率的支持恢复,J.Fourier Ana。申请。,23, 5, 1153-1194 (2017) ·Zbl 1417.65223号
[64] Poon,C。;Peyré,G.,多维稀疏超分辨率,SIAM J.数学。分析。,51, 1, 1-44 (2019) ·Zbl 1456.94009号
[65] 希勒,C.J。;Lim,L.-H.,大多数张量问题都是NP-hard,J.ACM,60,6(2013)·Zbl 1281.68126号
[66] 埃尔维拉,C。;科恩,J.E。;Herzet,C。;Gribonval,R.,《连续字典满足低阶张量近似》,(iTwist 2020-低复杂度数据模型和传感技术之间的相互作用国际旅行研讨会。iTwith 2020-低复杂性数据模型和传感器技术之间的交互作用国际旅行会议,法国南特(2020)),1-3
[67] Chandrasekaran,V.公司。;Recht,B。;帕里罗,P.A。;Willsky,A.S.,线性反问题的凸几何,发现。计算。数学。,12, 6, 805-849 (2012) ·Zbl 1280.52008年
[68] Wendland,H.,分散数据近似(2005)·Zbl 1075.65021号
[69] 肖-泰勒,J。;Cristianini,N.,《模式分析的核心方法》(2004),剑桥大学出版社:美国剑桥大学出版社
[70] 伯恩斯坦,D.,《矩阵数学:应用于线性系统理论的理论、事实和公式》(2005),普林斯顿大学出版社·Zbl 1075.15001号
[71] Pólya,G.,关于特征函数的评论,(《第一届伯克利数理统计与概率研讨会论文集》(1949),加州大学出版社:加州大学伯克利分校出版社),115-123·Zbl 0038.28707号
[72] 维德尔,D.V.,拉普拉斯变换(1941),普林斯顿数学出版社
[73] Bertsekas,D.,《非线性规划》(1999),雅典娜科学出版社·Zbl 1015.90077号
[74] Fejzić,H。;弗雷林,C。;Rinne,D.,笛卡尔的符号规则,数据集的交替和平衡差异,《美国数学》。周一。,116, 4, 316-327 (2009) ·Zbl 1229.26025号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。