×
李、钱;白燕琴;于长军;袁亚香

一种新的L_0范数极小化问题的分段二次逼近方法。 （英语） 兹比尔1409.90188

科学。中国，数学。 62，第1期，185-204（2019）.
摘要：在本文中，我们考虑了一类可表示为L_0范数极小化问题的欠定线性方程组的稀疏解的寻找问题。通过使用最小绝对残差逼近，我们提出了一个新的分段二次函数来逼近L_0范数。然后，我们建立了一个分段二次近似（PQA）模型，其中目标函数是由光滑非凸分量和非光滑凸分量之和给出的。为了求解PQA模型，我们提出了一种基于迭代阈值算法思想的算法，并推导了其收敛性和收敛速度。最后，我们进行了一系列数值实验，以证明所提算法对（PQA）的性能。我们还进行了相图分析，以进一步表明（PQA）正则化优于（L_1）和（L_2）正则化。

引用于6文件

MSC公司：

90立方 非线性规划
90 C59 数学规划中的近似方法和启发式
90 C90 数学规划的应用

关键词：

稀疏优化;非凸近似;迭代阈值算法

软件：

NESTA公司;PDCO公司;TwIST公司
PDF格式BibTeX公司 XML格式引用
\textit{Q.Li}等人，科学。中国，数学。62，第1号，185--204（2019；Zbl 1409.90188）
全文： 内政部

参考文献：

[1] Beck A，Teboulle M.线性反问题的快速迭代收缩阈值算法。SIAM成像科学杂志，2009，2:183-202·Zbl 1175.94009号 ·doi:10.1137/080716542
[2] Becker S、Bobin J、Cands E J.NESTA:稀疏恢复的快速准确一阶方法。SIAM成像科学杂志，2011，4:1-39·Zbl 1209.90265号 ·数字对象标识代码：10.1137/090756855
[3] Bioucas-Dias J M，Figueiredo M A.一种新的TwIST：用于图像恢复的两步迭代收缩/阈值算法。IEEE Trans-Image Process，2007年，16:2992-3004·doi:10.1109/TIP.2007.909319
[4] Blumensath T，Davies M E.稀疏近似的迭代阈值法。傅里叶分析应用杂志，2008，14:629-654·Zbl 1175.94060号 ·doi:10.1007/s00041-008-9035-z
[5] Blumensath T，Davies M E.压缩感知的迭代硬阈值法。应用计算哈蒙分析，2008，27:265-274·Zbl 1174.94008号 ·doi:10.1016/j.acha.2009.04.002
[6] Bredies K，Lorenz DA，Reiterer S.通过迭代阈值法最小化非光滑、非凸泛函。最优化理论应用杂志，2014165:78-112·Zbl 1321.49048号 ·doi:10.1007/s10957-014-0614-7
[7] Bruckstein A M，Donoho D L，Elad M。从方程组的稀疏解到信号和图像的稀疏建模。SIAM版本，2009年，51:34-81·Zbl 1178.68619号 ·数字对象标识代码：10.1137/060657704
[8] Candes E J，Recht B.通过凸优化实现精确矩阵补全。发现计算数学，2008，9:717-772·兹比尔1219.90124 ·doi:10.1007/s10208-009-9045-5
[9] Candes E J，Romberg J，Tao T.鲁棒不确定性原理：从高度不完整的频率信息重建精确信号。IEEE Trans Inform Theory，2006，52:489-509·Zbl 1231.94017号 ·doi:10.1109/TIT.2005.862083
[10] Candes E J，Wakin M B，Boyd S P。通过加权l1最小化增强稀疏性。傅里叶分析应用杂志，2008，14:877-905·Zbl 1176.94014号 ·doi:10.1007/s00041-008-9045-x
[11] 曹文飞，孙杰，徐振斌。利用Lq（q=1/2，2/3）正则化的闭式阈值公式进行快速图像反褶积。J Vis Comm图像代表，2013，24:1529-1542·doi:10.1016/j.jvcir.2012.10.006
[12] Chen S S，Donoho D L，Saunders M A。基于基追踪的原子分解。SIAM科学计算杂志，1998，20:33-61·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[13] Daubechies I，Defrise M，Christine D M。稀疏约束线性反问题的迭代阈值算法。Comm Pure应用数学，2004，57:1413-1457·Zbl 1077.65055号 ·doi:10.1002/cpa.20042
[14] Daubechies I、Devore R、Fornasier M等。稀疏恢复的迭代加权最小二乘最小化。Comm Pure应用数学，2010，63:1-38·Zbl 1202.65046号 ·doi:10.1002/cpa.20303
[15] Devore R，Jawerth B.通过小波变换编码进行图像压缩。IEEE Trans Inform Theory，1992年，38:719-746·Zbl 0754.68118号 ·数字对象标识代码：10.1109/18.119733
[16] Donoho D L.通过软阈值去噪。IEEE Trans Inform Theory，1995，41:613-627·Zbl 0820.62002号 ·doi:10.109/18.382009
[17] Donoho D L.压缩传感。IEEE Trans Inform Theory，2006年，52:1289-1306·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[18] Efron B，Hastie T.最小角回归。《统计年鉴》，2004，32:407-499·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[19] Fan J，Li R.基于非冲突惩罚似然的变量选择及其预言性质。J Amer统计协会，2001，96:1348-1360·兹比尔1073.62547 ·doi:10.1198/016214501753382273
[20] Gasso G、Rakotomamonjy A、Canu S。使用特定系列的非凸惩罚和DC编程恢复稀疏信号。IEEE Trans Signal Process，2009年，57:4686-4698·Zbl 1391.90489号 ·doi:10.1109/TSP.2009.2026004
[21] Geman D，Reynolds G.约束恢复和不连续恢复。IEEE Trans-Pattern Anal Mach Intell，1992年，14:367-383·doi:10.1109/34.120331
[22] Geman D，Yang C.半二次正则化非线性图像恢复。IEEE Trans-Image Process，1995年，4:932-946·数字对象标识代码：10.1109/83.392335
[23] 龚平华，张春生，陆振生，等。非凸正则优化问题的一种通用的局部收缩和阈值算法。Proc Int Conf Mach Learn，2013年，28:37-45
[24] Gorodnitsky I F，Rao B D。使用FOCUSS从有限数据中重建稀疏信号：一种加权最小范数算法。IEEE Trans Signal Process，1997，45:600-616·doi:10.1109/78.558475
[25] Hale E T，Yin W，Zhang Y.L1最小化的不动点延拓方法：方法论与收敛性。SIAM J Optim，2008年，19:1107-1130·Zbl 1180.65076号 ·数字对象标识代码：10.1137/070698920
[26] Lai M J、Xu Y Y、YinWT。改进的迭代重加权最小二乘法用于无约束光滑Lq最小化。SIAM J数字分析，2013，51:927-957·Zbl 1268.49038号 ·数字对象标识代码：10.1137/10840364
[27] Lai M J，Yin W T。使用全局线性收敛算法增强L1和核范数模型。SIAM成像科学杂志，2013，6:1059-1091·兹比尔1279.68329 ·doi:10.137/120863290
[28] Moreau J J.Proximite和dualite dans un espace hilbertien。公牛数学法国，1965，93:273-299·Zbl 0136.12101号 ·doi:10.24033/bsmf.1625
[29] Natarajan B K.线性系统的稀疏近似解。SIAM计算机杂志，1995，24:227-234·Zbl 0827.68054号 ·doi:10.1137/S0097539792240406
[30] Nesterov Y.凸优化导论：基础课程。波士顿：斯普林格出版社，2003年·Zbl 1086.90045号
[31] Parikh N，Boyd S.近似算法。发现趋势Optim，2013，1:123-231
[32] 钱永堂，贾斯，周杰，等。基于稀疏约束非负矩阵分解的高光谱分解。IEEE Trans Geosci遥感，2011，49:4282-4297·doi:10.1109/TGRS.2011.2144605
[33] Rakotomamonjy A、Flamary R、Gasso G等。稀疏线性和稀疏多核多任务学习的Lp-Lq惩罚。IEEE Trans Neural Netw，2011年，22:1307-1320·doi:10.1109/TNN.2011.2157521
[34] Tibshirani R.通过LASSO回归收缩和选择。J R Stat Soc Ser B，1996年，58:267-288·Zbl 0850.62538号
[35] Wen B，Chen X J，Pong T K。一类非凸非光滑极小问题的外推近似梯度算法的线性收敛性。SIAM J Optimi，2017年，27:124-145·Zbl 1359.90138号 ·doi:10.1137/16M1055323
[36] Wu B.矩阵分解的高维分析及其在因子模型相关矩阵估计中的应用。博士论文。新加坡：新加坡国立大学，2014年
[37] Xu，Z.B.，《数据建模：视觉心理学方法和L1/2正则化理论》，3151-3184（2010），柏林·Zbl 1243.68262号
[38] 徐志斌，张晓英，徐福明，等。L1/2正则化：一种阈值表示理论和快速求解器。IEEE Trans Neural Netw学习系统，2012，23:1013-1027·doi:10.1109/TNNLS.2012.2197412
[39] 徐志斌，郭海林，王毅，等。Lq（0<q<1）正则化中L1/2正则化的代表：基于相图的实验研究。自动化学报，2012，38:1225-1228
[40] 徐志斌，张华，王毅，等。L1/2正则化。《中国科学》，2010，53:1159-1169·兹比尔1497.62192 ·doi:10.1007/s11432-010-0090-0
[41] Yang A Y，Ganesh A，Ma Y.基于稀疏表示的鲁棒人脸识别。IEEE Trans-Pattern Ana Mach Intell，2009年，31:210-227·doi:10.1109/TPAMI.2008.172
[42] Yang A Y，Ganesh A，Zhou Z H，等。鲁棒人脸识别的快速L1最小化算法。IEEE Trans-Image Process，2013年，22:3234-3246·doi:10.1109/TIP.2013.2262292
[43] Yin P H，Lou Y F，He Q，等。压缩传感的L1-2最小化。SIAM科学计算杂志，2015，37:536-563·Zbl 1316.90037号 ·数字对象标识代码：10.1137/140952363
[44] 曾俊生，林世斌，王毅，等。L1/2正则化：迭代半阈值算法的收敛性。IEEE Trans Signal Process，2014年，62:2317-2329·Zbl 1393.90145号 ·doi:10.1109/TSP.2014.2309076
[45] 曾家生，林世斌，徐振斌。稀疏正则化：迭代跳跃阈值算法的收敛性。IEEE Trans Signal Process，2014年，64:5106-5118·Zbl 1414.94726号 ·doi:10.1109/TSP.2016.2595499
[46] Zhang C H.极小极大凹罚下的几乎无偏变量选择。《统计年鉴》，2010年，38:894-942·Zbl 1183.62120号 ·doi:10.1214/09-AOS729
[47] Zhang T.稀疏正则化的多级凸松弛分析。J Mach Learn Res，2010年，11:1081-1107·Zbl 1242.68262号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。