×

凸集上稀疏优化的一种平滑方法。 (英语) Zbl 1445.90106号

摘要:在本文中,我们研究了一类启发式方案来解决凸集上最小化(ell_0)范数的NP-hard问题。一个著名的近似是考虑最小化(ell_1)范数的凸问题。我们感兴趣的是在(ell_1)-范数中的问题没有提供(ell_0)-范问题的最优解的情况下找到改进的结果。我们考虑使用依赖于参数的光滑凹函数族的松弛技术。文献中已经尝试了一些其他的放松方法,本文的目的是提供一个更一般的背景。这种动机允许推导出对一般约束集有效的新理论结果。我们使用同伦算法,从(ell_1)-范数问题的解开始,到(ell_0)-范问题的解结束。新的结果是子问题解的存在性、格式的收敛性、解的单调性和与数据无关的精确惩罚定理。

MSC公司:

90立方 非线性规划
90 C59 数学规划中的近似方法和启发式
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿卜杜拉,L。;哈杜,M。;Migot,T.,使用互补和平滑函数求解绝对值方程,J.Compute。申请。数学。,327, 196-207 (2018) ·Zbl 1370.90297号
[2] 阿西夫,理学硕士;Romberg,J.,使用(ell_1)同伦的流信号稀疏恢复,IEEE Trans。信号处理。,624209-4223(2014年)·Zbl 1394.94053号
[3] 澳大利亚银行。;Teboulle,M.,最优化和变分不等式中的渐近锥和函数(2006),柏林:Springer,柏林
[4] 贝克,A。;Teboulle,M.,线性反问题的快速迭代收缩阈值算法,SIAM J.成像科学。,2, 1, 183-202 (2009) ·Zbl 1175.94009号
[5] Bergounioux,M。;Haddou,M.,离散图像恢复问题的一种新松弛方法,J.凸分析。,17, 3, 421-435 (2010) ·兹比尔1226.94004
[6] 毕,S。;刘,X。;Pan,S.,基于mpec公式的零形式最小化精确惩罚分解方法,SIAM J.Sci。计算。,36、4、A1451-A1477(2014)·Zbl 1306.65211号
[7] Blumensath,T。;Davies,ME,梯度追踪,IEEE Trans。信号处理。,56, 6, 2370-2382 (2008) ·Zbl 1390.94102号
[8] 布莱德利,PS;Mangasarian,OL,通过凹最小化和支持向量机进行特征选择,ICML,98,82-90(1998)
[9] AM布鲁克斯坦;多诺霍,DL;Elad,M.,《从方程组的稀疏解到信号和图像的稀疏建模》,SIAM Rev.,51,1,34-81(2009)·Zbl 1178.68619号
[10] 坎迪斯,EJ;J.隆伯格。;Tao,T.,《鲁棒不确定性原理:从高度不完整的频率信息中精确重建信号》,IEEE Trans。《信息论》,52,2489-509(2006)·兹比尔1231.94017
[11] 坎迪斯,EJ;JK隆伯格;Tao,T.,从不完整和不准确的测量中恢复稳定信号,Commun。纯应用程序。数学。,59, 8, 1207-1223 (2006) ·邮编1098.94009
[12] 坎迪斯,EJ;JK隆伯格;Tao,T.,从不完整和不准确的测量中恢复稳定信号,Commun。纯应用程序。数学。,59, 8, 1207-1223 (2006) ·邮编1098.94009
[13] 坎迪斯,EJ;Tao,T.,线性规划解码,IEEE Trans。《信息论》,51,12,4203-4215(2005)·Zbl 1264.94121号
[14] 坎迪斯,EJ;Wakin,MB;Boyd,SP,通过重加权最小化增强稀疏性,J.Fourier Ana。申请。,14, 5, 877-905 (2008) ·Zbl 1176.94014号
[15] Chartrand,R.,通过非凸最小化对稀疏信号进行精确重建,IEEE信号处理。莱特。,14, 10, 707-710 (2007)
[16] 陈,SS;多诺霍,DL;马萨诸塞州桑德斯,《基追踪原子分解》,SIAM J.Sci。计算。,20, 1, 33-61 (1998) ·Zbl 0919.94002号
[17] 陈,X。;Zhou,W.,(ell_2-\ell_p)最小化的重加权(ell_1)最小化算法的收敛性,计算。最佳方案。申请。,59, 1-2, 47-61 (2014) ·Zbl 1326.90062号
[18] 科恩,A。;Dahmen,W。;DeVore,R.,压缩传感和最佳(k)项近似,美国数学杂志。Soc.,22,1211-231(2009年)·兹比尔1206.94008
[19] Daubechies,I。;Defrise,M。;De Mol,C.,具有稀疏约束的线性反问题的迭代阈值算法,Commun。纯应用程序。数学。,57, 11, 1413-1457 (2004) ·Zbl 1077.65055号
[20] 迪·洛伦佐,D。;刘齐,G。;Rinaldi,F。;肖恩,F。;Sciandone,M.,《基于凹优化的稀疏投资组合选择方法》,Optim。方法软件。,27, 6, 983-1000 (2012) ·Zbl 1250.90070
[21] Donoho,D.L.:欠定线性方程的邻域多面体和稀疏解。斯坦福大学统计系技术报告(2004年)
[22] Donoho,DL,压缩传感,IEEE Trans。《信息论》,52,4,1289-1306(2006)·Zbl 1288.94016号
[23] Donoho,DL,对于大多数大型欠定线性方程组,最小范数解也是最稀疏解,Commun。纯应用程序。数学。,59, 6, 797-829 (2006) ·Zbl 1113.15004号
[24] 多诺霍,DL;Elad,M.,通过最小化在一般(非正交)字典中实现最优稀疏表示,Proc。国家。阿卡德。科学。,100, 5, 2197-2202 (2003) ·Zbl 1064.94011号
[25] 多诺霍,DL;Elad,M。;Temlyakov,VN,噪声存在下稀疏超完备表示的稳定恢复,IEEE Trans。Inf.理论,52,1,6-18(2006)·Zbl 1288.94017号
[26] 多诺霍,DL;霍,X.,《测不准原理和理想原子分解》,IEEE Trans。《信息论》,47,7,2845-2862(2001)·Zbl 1019.94503号
[27] Feng,M.,Mitchell,J.E.,Pang,J.-S.,Shen,X.,Wächter,A.:l0-范数优化问题的互补公式。技术报告,技术报告,纽约州特洛伊伦斯勒理工学院数学科学系(2013)
[28] 福卡特,S。;Lai,M-J,通过(0<q\le 1)的(ell_q)-最小化求解欠定线性系统的最稀疏解,应用。计算。谐波分析。,26, 3, 395-407 (2009) ·Zbl 1171.90014号
[29] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,统计学学习的要素。斯普林格统计系列(2001),纽约:斯普林格,纽约·Zbl 0973.62007号
[30] Fuchs,J-J,关于任意冗余基的稀疏表示,IEEE Trans。Inf.理论,50,6,1341-1344(2004)·Zbl 1284.94018号
[31] Fung,总经理;Mangasarian,OL,足够小p的线性等式、不等式和线性规划的最小\(\ell_0\)和\(\ell_p\)范数解的等价性,J.Optim。理论应用。,151, 1, 1-10 (2011) ·Zbl 1226.90104号
[32] Ge博士。;蒋,X。;Ye,Y.,关于lp最小化复杂性的注释,数学。程序。,129, 2, 285-299 (2011) ·Zbl 1226.90076号
[33] Gribonval,R。;Nielsen,M.,基并中的稀疏分解,IEEE Trans。《信息论》,49,12,3320-3325(2003)·Zbl 1286.94032号
[34] 哈杜,M。;Maheux,P.,非线性互补问题的平滑方法,J.Optim。理论应用。,160, 3, 711-729 (2014) ·Zbl 1396.90085号
[35] 赖,M-J;Wang,J.,欠定线性系统稀疏解的无约束(ell_q)极小化,SIAM J.Optim。,21, 1, 82-101 (2011) ·Zbl 1220.65051号
[36] Le Thi,HA;晚餐,TP;勒,HM;Vo、XT、Dc稀疏优化近似方法,欧洲期刊Oper。研究,244,1,26-46(2015)·Zbl 1346.90819号
[37] 刘齐,G。;Rinaldi,F.,通过frank-wolfe降维方法解决带有简单约束的(反斜杠)惩罚问题,Optim。莱特。,9, 1, 57-74 (2015) ·Zbl 1316.90047号
[38] Malioutov,D.,Aravkin,A.:迭代对数阈值。2014年IEEE声学、语音和信号处理国际会议(ICASSP),第7198-7202页。IEEE(2014)
[39] Mallat,S.,《信号处理的小波之旅》(1999),剑桥:学术出版社,剑桥·Zbl 0945.68537号
[40] Mohimani,H。;Babaie-Zadeh,M。;Jutten,C.,基于平滑范数的过完备稀疏分解的快速方法,IEEE Trans。信号处理。,57, 1, 289-301 (2009) ·Zbl 1391.94325号
[41] Natarajan,BK,线性系统的稀疏近似解,SIAM J.Compute。,24, 2, 227-234 (1995) ·Zbl 0827.68054号
[42] Needell,D.:通过迭代重加权l1-最小化恢复噪声信号。载:2009年第四十三届阿西洛马尔信号、系统和计算机会议记录,第113-117页。IEEE(2009)
[43] Needell,D。;Tropp,JA,Cosamp:从不完整和不准确样本中恢复迭代信号,应用。计算。谐波分析。,26, 3, 301-321 (2009) ·Zbl 1163.94003号
[44] Rinaldi,F.:多面体集上最小化零范数的数学规划方法。罗马大学萨皮恩扎分校博士论文、博士论文(2009年)
[45] Rinaldi,F.,《寻找凸约束问题稀疏解的凹编程》,Optim。方法软件。,1971年6月26日-992(2011年)·Zbl 1254.90179号
[46] Rinaldi,F。;肖恩,F。;Sciandrone,M.,用于最小化多面体集上的零形式的凹编程,计算。最佳方案。申请。,46, 3, 467-486 (2010) ·Zbl 1229.90170号
[47] Rockafellar,RT,凸分析(1970),普林斯顿:普林斯顿大学出版社,普林斯顿·Zbl 0193.18401号
[48] Tropp,J。;Wright,SJ,线性反问题稀疏解的计算方法,Proc。IEEE,98,6,948-958(2010)
[49] Tropp,JA,Greed很好:稀疏近似的算法结果,IEEE Trans。Inf.理论,50,10,2231-2242(2004)·Zbl 1288.94019号
[50] JA Tropp,Just relax:识别噪声中稀疏信号的凸规划方法,IEEE Trans。Inf.理论,52,31030-1051(2006)·Zbl 1288.94025号
[51] Voronin,S.,Chartrand,R.:稀疏约束反问题的一种新的广义阈值算法。2013年IEEE声学、语音和信号处理国际会议(ICASSP),第1636-1640页。IEEE(2013)
[52] 韦斯顿,J。;Elisseeff,A。;Schölkopf,B。;Tipping,M.,零范数与线性模型和核方法的使用,J.马赫。学习。1439-1461年3月第3号决议(2003年)·Zbl 1102.68605号
[53] 维普夫·D。;Nagarajan,S.,《寻找稀疏解的迭代重加权(ell_1)和(ell_2)方法》,IEEE J.Sel。顶部。信号处理。,4, 2, 317-329 (2010)
[54] Xie,Z.,Hu,J.:对欠定线性系统稀疏解的l1-极小化进行了重新加权。2013年第六届国际图像和信号处理大会(CISP),第3卷,第1660-1664页。IEEE(2013)
[55] Zhao,Y-B,基于Rsp的欠定线性系统稀疏和最小范数解分析,IEEE Trans。信号处理。,61, 22, 5777-5788 (2013) ·Zbl 1394.94697号
[56] Zhao,Y-B;Kočvara,M.,线性方程组最稀疏解的新计算方法,SIAM J.Optim。,25, 2, 1110-1134 (2015) ·Zbl 1320.65060号
[57] Zhao,Y-B;罗,Z-Q,构建多面体集最稀疏点的新加权(ell_1)算法,数学。操作。第42号、第1号、第57-76号决议(2016年)·Zbl 1359.90072号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。