×

重新审视压缩传感:利用单纯形和稀疏化方法的效率。 (英语) Zbl 1353.65057号

总结:我们提出了两种解决大规模压缩感知问题的方法。第一种方法使用参数单纯形方法,通过取少量单纯形支点来恢复非常稀疏的信号,而第二种方法使用Kronecker乘积重新构造问题,以通过更稀疏的问题公式实现更快的计算。特别是,我们关注这些方法在压缩感知中的计算方面。对于第一种方法,如果真实信号非常稀疏,并且我们将我们的解初始化为零向量,那么定制的参数单纯形方法通常需要少量迭代才能收敛。我们的数值研究表明,这种方法比最先进的恢复非常稀疏信号的方法快10倍。当传感矩阵是两个较小矩阵的Kronecker乘积时,可以使用第二种方法。我们证明了Kronecker压缩感知(KCS)策略获得理想的如果使用第一种方法,恢复比相应的条件更具限制性。然而,KCS可以用一个非常稀疏的约束矩阵来表示为线性程序,而第一种方法涉及一个完全密集的约束矩阵。因此,得益于稀疏问题表示的算法,如内点方法(IPM),有望在KCS问题上具有计算优势。我们从数值上证明,无论稀疏程度或问题大小如何,KCS与IPM相结合的速度都比普通IPM和最先进的方法(如\(\ell_1\_\ell_s)和Mirror Prox)快10倍。

MSC公司:

65千5 数值数学规划方法
90C05(二氧化碳) 线性规划
90摄氏51度 内部点方法
90C06型 数学规划中的大尺度问题
94甲12 信号理论(表征、重建、滤波等)
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] Adler,I.,Karp,R.M.,Shamir,R.:在\[{O}(\min(M_2,d_2)O\](min(m2,d2))预期的枢轴步数中求解\[M\times d\]M×d线性程序的单纯形变式。J.复杂。3, 372-387 (1987) ·Zbl 0641.65054号 ·doi:10.1016/0885-064X(87)90007-0
[2] Belloni,A.,Chernozhukov,\[V.:\ell_1\],高维稀疏模型中的1-惩罚分位数回归。Ann.Stat.39,82-130(2011年)·Zbl 1209.62064号 ·doi:10.1214/10-AOS827
[3] Cai,T.T.,Zhang,A.:Sharp RIP适用于稀疏信号和低阶矩阵恢复。申请。计算。谐波分析。35, 74-93 (2012) ·Zbl 1310.94021号
[4] Candès,E.,Romberg,J.,Tao,T.:稳健的不确定性原理:从高度不完整的频率信息中进行准确的信号重建。IEEE传输。信息理论52489-509(2006)·Zbl 1231.94017号 ·doi:10.1109/TIT.2005.862083
[5] Candès,E.J.:受限等距特性及其对压缩传感的影响。C.R.数学。346, 589-592 (2008) ·Zbl 1153.94002号 ·doi:10.1016/j.crma.2008.03.014
[6] Chen,S.S.,Donoho,D.L.,Saunders,M.A.:通过基追踪进行原子分解。SIAM J.科学。计算。20, 33-61 (1998) ·Zbl 0919.94002号 ·doi:10.137/S1064827596304010
[7] Cohen,A.、Dahmen,W.、Devore,R.:压缩传感和最佳k项近似。美国数学杂志。Soc.22211-231(2009年)·Zbl 1206.94008号 ·doi:10.1090/S0894-0347-08-00610-3
[8] Dantzig,G.B.:线性规划与扩展。普林斯顿大学出版社,普林斯顿(1998)·Zbl 0997.90504号
[9] Donoho,D.L.:压缩传感。IEEE传输。《信息论》52,1289-1306(2006)·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[10] Donoho,D.L.,Elad,M.:一般(非正交)字典中的最优稀疏表示,通过\[\ell_1\]У1-最小化。程序。国家。阿卡德。《美国科学》100,2197-2202(2003)·Zbl 1064.94011号 ·doi:10.1073/pnas.0437847100
[11] Donoho,D.L.,Elad,M.,Temlyakov,V.N.:噪声存在下稀疏过完备表示的稳定恢复。IEEE传输。Inf.理论52,6-18(2006)·Zbl 1288.94017号 ·doi:10.1109/TIT.2005.860430
[12] Donoho,D.L.,Huo,X.:不确定性原理和理想原子分解。IEEE传输。Inf.Theory信息论47,2845-2862(2001)·Zbl 1019.94503号 ·doi:10.1109/18.959265
[13] Donoho,D.L.,Maleki,A.,Montanari,A.:压缩感知的消息传递算法。程序。国家。阿卡德。科学。美国10618914-18919(2009)·doi:10.1073/pnas.0909892106
[14] Donoho,D.L.,Stark,P.B.:不确定性原理和信号恢复。SIAM J.应用。数学。49, 906-931 (1989) ·Zbl 0689.42001 ·doi:10.1137/0149053
[15] Donoho,D.L.,Tanner,J.:高维随机投影单形的邻域性。程序。国家。阿卡德。科学。102, 9452-9457 (2005) ·Zbl 1135.60300号
[16] Donoho,D.L.,Tanner,J.:通过线性规划求解欠定线性方程的稀疏非负解。程序。国家。阿卡德。科学。1029446-9451(2005年)·Zbl 1135.90368号
[17] Donoho,D.L.,Tanner,J.:观察到高维几何中相变的普遍性,对现代数据分析和信号处理具有启示。菲洛斯。事务处理。罗伊。Soc.S.A 367,4273-4273(2009年)·Zbl 1185.94029号 ·doi:10.1098/rsta.2009.0152
[18] Duarte,M.F.,Baraniuk,R.G.:Kronecker压缩传感。IEEE传输。图像处理。21, 494-504 (2012) ·Zbl 1372.94379号 ·doi:10.1109/TIP.2011.2165289
[19] Elad,M.:稀疏和冗余表示——从理论到信号和图像处理应用。施普林格,纽约(2010)·Zbl 1211.94001号
[20] Figueiredo,M.、Nowak,R.、Wright,S.:稀疏重建的梯度投影:应用于压缩传感和其他反问题。IEEE J.选择。顶部。信号处理。1, 586-597 (2008) ·doi:10.1109/JSTSP.2007.910281
[21] Forrest,J.J.,Goldfarb,D.:线性规划的SteepestEdge单纯形算法。数学。程序。57, 341-374 (1992) ·Zbl 0787.90047号 ·doi:10.1007/BF01581089
[22] Foucart,S.:硬阈值追踪:压缩感知算法。SIAM J.数字。分析。49, 2543-2563 (2011) ·Zbl 1242.65060号 ·数字对象标识代码:10.1137/100806278
[23] Foucart,S.,Rauhut,H.:压缩传感的数学导论。施普林格,纽约(2013)·Zbl 1315.94002号 ·doi:10.1007/978-0-8176-4948-7
[24] Gilbert,A.C.,Strauss,M.J.,Tropp,J.A.,Vershynin,R.:一个草图:压缩感知的快速算法。摘自:第三十九届ACM计算理论研讨会论文集,第237-246页。ACM,纽约(2007)·兹比尔1232.94008
[25] Gill,P.E.,Murray,W.,Ponceleon,D.B.,Saunders,M.A.:在线性和二次规划的障碍方法中求解简化KKT系统。技术代表,DTIC文件(1991)·Zbl 0815.65080号
[26] Iwen,M.A.:组合次线性时间傅里叶算法。已找到。科穆特。数学。10, 303-338 (2010) ·Zbl 1230.65145号 ·doi:10.1007/s10208-009-9057-1
[27] Juditsky,A.,Karzan,F.K.,Nemirovski,A.:通过随机一阶算法最小化。约瑟夫·傅立叶大学,技术代表(2014)·Zbl 1282.90128号
[28] Kim,S.、Koh,K.、Lustig,M.、Boyd,S.和Gorinevsky,D.:大规模l_1正则化最小二乘的内点方法。IEEE传输。选择。顶部。信号处理。1, 606-617 (2007) ·doi:10.1109/JSTSP.2007.910971
[29] Klee,V.,Minty,G.J.:单纯形法有多好?不平等III,第159-175页(1972年)·Zbl 0297.90047号
[30] Kutyniok,G.:压缩传感:理论和应用。CoRR公司。arXiv:1203.3815(2012)·Zbl 1283.94018号
[31] Lustig,I.J.、Mulvey,J.M.、Carpenter,T.J.:为内点方法制定两阶段随机程序。操作。第39号决议,第757-770号决议(1991年)·Zbl 0739.90048号 ·数字对象标识代码:10.1287/opre.39.5.757
[32] Mallat,S.,Zhang,Z.:将追求与时间频率词典相匹配。信号处理。IEEE传输。41, 3397-3415 (1993) ·Zbl 0842.94004号 ·数字对象标识代码:10.1109/78.258082
[33] Needell,D.,Tropp,J.A.:CoSaMP:不完整和不准确样本的迭代信号恢复。Commun公司。ACM 53、93-100(2010)·Zbl 1163.94003号 ·数字对象标识代码:10.1145/1859204.1859229
[34] Needell,D.,Vershynin,R.:均匀不确定性原理和通过正则化正交匹配追踪的信号恢复。已找到。科穆特。数学。9, 317-334 (2009) ·Zbl 1183.68739号 ·doi:10.1007/s10208-008-9031-3
[35] Pan,P.-Q.:单纯形算法的最大距离枢轴规则。欧洲药典。第187号决议、第393-402号决议(2008年)·兹比尔1149.90101 ·doi:10.1016/j.ejor.2007.03.026
[36] Post,I.,Ye,Y.:对于确定性马尔可夫决策过程,单纯形方法是强多项式。数学。操作。第40号决议,859-868(2015年)·Zbl 1329.90084号 ·doi:10.1287/摩尔.2014.0699
[37] Spielman,D.A.,Teng,S.-H.:算法的平滑分析:为什么单纯形算法通常需要多项式时间。J.ACM(JACM)51,385-463(2004)·Zbl 1192.90120号 ·数字对象标识代码:10.1145/990308.990310
[38] Tropp,J.A.:贪婪是好的:稀疏近似的算法结果。IEEE传输。Inf.理论50,2231-2242(2004)·Zbl 1288.94019号 ·doi:10.1109/TIT.2004.834793
[39] Vanderbei,R.:稀疏线性系统中的稠密列的分裂。线性代数应用。152, 107-117 (1991) ·Zbl 0727.65034号 ·doi:10.1016/0024-3795(91)90269-3
[40] Vanderbei,R.:LOQO:二次规划的内部点代码。最佳方案。方法软件。12, 451-484 (1999) ·Zbl 0973.90518号 ·doi:10.1080/10556789908805759
[41] Vanderbei,R.:线性规划:基础与扩展,第三版。施普林格,纽约(2007)·Zbl 0874.90133号
[42] Vanderbei,R.J.:Alpo:另一个线性程序优化器。ORSA J.计算。5, 134-146 (1993) ·Zbl 0777.90031号 ·doi:10.1287/ijoc.5.2.134
[43] Vanderbei,R.J.:线性规划。基础与扩展,运筹学与管理科学国际丛书,第37卷(2001年)·邮编:1043.90002
[44] Vanderbei,R.J.:快速傅里叶优化。数学。掠夺。公司。4, 1-17 (2012) ·Zbl 1257.90049号 ·doi:10.1007/s12532-011-0034-8
[45] Yin,W.,Osher,S.,Goldfarb,D.,Darbon,J.:Bregman迭代算法用于\[\ell_1\]У1-最小化,并应用于压缩传感。SIAM J.成像科学。143-168(2008年)·Zbl 1203.90153号 ·doi:10.1137/070703983
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。