×

用于\(\alpha\ell_1-\beta\ell_2\)稀疏性正则化的投影梯度方法。 (英语) Zbl 1456.65040号

摘要:非凸正则化是一种新的稀疏恢复方法。通过应用类似于经典迭代软阈值算法(ISTA)的ST-算法,可以计算正则化函数的极小值。众所周知,ISTA收敛速度很慢,投影梯度(PG)方法是ISTA的一种更快的替代方法。然而,传统的PG方法仅限于解决经典稀疏正则化问题。本文通过将PG方法推广到非凸的(alpha\Vert\cdot\Vert_{ell_1}-\beta\Vert_cdot\Vert_{ell_2})稀疏正则化,给出了ST-((alpha\ ell_1-\beta \ ell_2)算法的两个加速方案。此外,我们还讨论了利用莫罗佐夫差分原理确定(ell_1)-球约束半径(R)的策略。数值结果表明了该方法的有效性。

MSC公司:

65千5 数值数学规划方法
90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Anzengruber S W和Ramlau R 2010 Morozov关于带非线性算子的Tikhonov型泛函的差异原理反问题26 025001·Zbl 1192.65064号 ·doi:10.1088/0266-5611/26/2/025001
[2] Beck A和Teboulle M 2009线性反问题的快速迭代收缩阈值算法SIAM J.Imaging Sci.2 183-202·Zbl 1175.94009号 ·doi:10.1137/080716542
[3] Becker S、Bobin J和CandèS E J 2011 NESTA:稀疏恢复的快速准确一阶方法SIAM J.成像科学4 1-39·Zbl 1209.90265号 ·数字对象标识代码:10.1137/090756855
[4] Benning M和Burger M 2018反问题的现代正则化方法Acta Numer.27 1-111·Zbl 1431.65080号 ·doi:10.1017/s0962492918000016
[5] van den Berg E和Friedlander M P 2008探索基础追踪解决方案的帕累托前沿SIAM J.Sci。计算31 890-912·Zbl 1193.49033号 ·doi:10.1137/080714488
[6] Blumensath T和Davies M E 2008稀疏近似的迭代阈值法J.Fourier Ana。申请号:1629-54·Zbl 1175.94060号 ·doi:10.1007/s00041-008-9035-z
[7] Blumensath T和Davies M E 2009压缩感知应用的迭代硬阈值。计算。哈蒙。分析27 265-74·Zbl 1174.94008号 ·doi:10.1016/j.acha.2009.04.002
[8] Bonesky T 2009 Morozov的差异原理和Tikhonov型泛函逆问题25 015·Zbl 1162.65028号 ·doi:10.1088/0266-5611/25/1/015015
[9] Bredies K和Lorenz D A 2008迭代硬收缩,用于稀疏约束下最小化问题SIAM J.Sci。计算:30 657-83·Zbl 1170.46067号 ·doi:10.1137/060663556
[10] Chambolle A和Dossal C 2015关于“快速迭代收缩/阈值算法”J.Optim迭代的收敛性。理论应用166 968-82·Zbl 1371.65047号 ·doi:10.1007/s10957-015-0746-4
[11] O'Donoghue B和Candès E 2015发现加速梯度方案的自适应重启。计算。数学15 715-32·Zbl 1320.90061号 ·doi:10.1007/s10208-013-9150-3
[12] Daubechies I,Defrise M和De Mol C 2004稀疏约束线性反问题的迭代阈值算法Comm.Pure Appl。数学57 1413-57·Zbl 1077.65055号 ·doi:10.1002/cpa.20042
[13] Daubechies I、Defrise M和Mol C D 2016稀疏性强制正则化和ISTA重新审视逆问题32 104001·Zbl 1402.65048号 ·doi:10.1088/0266-5611/32/10/104001
[14] Daubechies I、Fornasier M和Loris I 2008稀疏约束线性反问题的加速投影梯度法J.Fourier Ana。申请号:1764-92·Zbl 1175.65062号 ·doi:10.1007/s00041-008-9039-8
[15] 丁L和韩W 2019α1 − β稀疏恢复逆问题的正则化35 125009·Zbl 1485.65138号 ·doi:10.1088/1361-6420/ab34b5
[16] Figueiredo M A T、Nowak R D和Wright S J 2007用于压缩传感和其他反问题稀疏重建应用的梯度投影IEEE J.Sel。顶部。信号处理。1 586-97·doi:10.1109/jstsp.2007.910281
[17] Fornasier M(ed)2010稀疏恢复的理论基础和数值方法(柏林:De Gruyter&Co)·Zbl 1195.94005号 ·数字对象标识代码:10.1515/9783110226157
[18] Fornasier M、Peter S、Rauhut H和Worm S 2016迭代加权最小二乘法的共轭梯度加速度计算。最佳方案。申请65 205-59·Zbl 1353.90115号 ·doi:10.1007/s10589-016-9839-8
[19] Fornasier M和Rauhut H 2008迭代阈值算法应用。计算。哈蒙。分析25 187-208·Zbl 1149.65038号 ·doi:10.1016/j.acha.2007.10.005
[20] Ge H,Wen J,Chen W 2018截断的零空间性质1−2最小化IEEE信号处理。信函25 1261-5·doi:10.1109/lsp.2018.2852138
[21] Hansen P C 2007正则化工具4.0版,用于matlab 7.3 Numer。算法46 189-94·Zbl 1128.65029号 ·doi:10.1007/s11075-007-9136-9
[22] Huang X、Shi L和Yan M 2015非凸排序1稀疏近似J.Oper的最小化。中国研究社会3 207-29·Zbl 1319.49050号 ·doi:10.1007/s40305-014-0069-4
[23] Jin B和Maass P 2012参数识别问题的稀疏正则化反问题28 123001·Zbl 1280.47063号 ·doi:10.1088/0266-5611/28/1223001
[24] Jin B、Maass P和Scherzer O 2017反问题中的稀疏正则化反问题33 060301·Zbl 1369.00102号 ·doi:10.1088/1361-6420/33/6/060301
[25] Lazzaro D,Piccolomini E L和Zama F 2019稀疏成像中自动选择正则化参数的非凸惩罚算法逆问题35 084002·Zbl 1428.94027号 ·doi:10.1088/1361-6420/ab1c6b
[26] 李鹏、陈伟、葛浩和吴敏科20201-α脉冲噪声消除逆问题中信号和图像重建的2种最小化方法36 055009·Zbl 1468.94021号 ·doi:10.1088/1361-6420/ab750c
[27] Loris I、Bertero M、De Mol C、Zanella R和Zanni L 2009加速梯度投影法基于步长选择规则的1-约束信号恢复。计算。哈蒙。分析27 247-54·Zbl 1170.65318号 ·doi:10.1016/j.acha.2009.02.003
[28] Loris I和Verhoeven C 2011关于不可分离罚函数逆问题27 125007情况下迭代软阈值算法的推广·Zbl 1233.65039号 ·数字对象标识代码:10.1088/0266-5611/27/125007
[29] Lou Y和Yan M 2018通过近端算子实现快速L1-L2最小化J.Sci。计算74 767-85·Zbl 1390.90447号 ·doi:10.1007/s10915-017-0463-2
[30] Montefusco L B、Lazzaro D和Papi S 2013稀疏恢复问题非凸方法的快速算法信号处理93 2636-47·doi:10.1016/j.sigpro.2013.02.018
[31] Nesterov Y 2005非光滑函数的平滑最小化数学。程序103 127-52·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[32] Osher S,Burger M,Goldfarb D,Xu J和Yin W 2005基于全变分的图像恢复多尺度模型的迭代正则化方法。模拟4 460-89·1090.94003赞比亚比索 ·doi:10.1137/040605412
[33] Ramlau R 2002 Morozov的非线性算子Tikhonov正则化的差异原理Numer。功能。分析。选项23 147-72·Zbl 1002.65064号 ·doi:10.1081/nfa-12003676文件
[34] Ramlau R和Zarzer C A 2012关于带非凸稀疏约束电子的Tikhonov泛函的最小化。事务处理。数字。分析39 476-507·Zbl 1287.65044号
[35] Rockafellar R T 1970凸分析(普林斯顿:普林斯顿大学出版社)·Zbl 0932.90001号 ·doi:10.1515/9781400873173
[36] Scherzer O 1993使用莫罗佐夫差分原理进行Tikhonov正则化,以解决非线性不适定问题SIAM J.Numer。分析30 1796-838·兹比尔0799.65060 ·doi:10.1137/0730091
[37] Scherzer O、Grasmair M、Grossauer H、Haltmeier M和Lenzen F 2009成像中的变分方法(应用数学科学第167卷)(纽约:Springer)·Zbl 1177.68245号
[38] Teschke G和Borries C 2010稀疏约束非线性反问题的加速投影最速下降法反问题26 025007·Zbl 1192.65071号 ·doi:10.1088/0266-5611/26/2/025007
[39] Tibshirani R 1996通过Lasso J.Roy回归收缩和选择。统计Soc.B 58 267-88·Zbl 0850.62538号 ·doi:10.1111/j.2517-6161.1996.tb02080.x
[40] Tikhonov A N和Arsenin V Y 1977《病态问题的解决方案》(华盛顿:V H Winston and Sons)·Zbl 0354.65028号
[41] Tikhonov A N、Leonov A S和Yagola A G 1998非线性不适定问题(伦敦:Chapman和Hall)·Zbl 0920.65038号 ·doi:10.1007/978-94-017-5167-4
[42] Wang W,Lu S,Mao H和Cheng J 2013年多参数Tikhonov正则化0稀疏约束反问题29 065018·兹比尔1273.65068 ·doi:10.1088/0266-5611/29/6/065018
[43] Wright S、Nowak R和Figueiredo M 2009年通过可分离近似进行稀疏重构IEEE Trans。信号处理57 2479-93·Zbl 1391.94442号 ·doi:10.1109/tsp.2009.2016892
[44] Yan L、Shin Y和Xiu D 2017稀疏近似使用1个-2极小化及其在随机配置SIAM J.Sci中的应用。计算39 A229-254·Zbl 1381.94029号 ·数字对象标识码:10.1137/15m103947x
[45] 尹P,娄Y,何Q,辛J 2015年最小化1−2用于压缩传感SIAM J.Sci。计算37 A536-63·Zbl 1316.90037号 ·doi:10.137/140952363
[46] Zeidler E 1985非线性泛函分析及其应用第3卷(纽约:Springer)·Zbl 0583.47051号 ·doi:10.1007/978-1-4612-5200-3
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。