×
程万友;陈子欣;胡庆杰

（l_0）正则化优化的一个活动集Barzilar-Borwein算法。 （英语） Zbl 1451.90097号

J.全球。最佳方案。 76，第4期，769-791（2020）.
本文研究了一类（l_0）正则优化问题。在定义了4种驻点（基本驻点、强驻点、L-驻点、严格L-驻点）及其性质之后，提出了一种能够逼近严格L-驻留点的正确支撑的主动集方法，并为其逼近精度提供了保证（定理3.1-3.3）。然后，提出了一种算法，该算法具有以下性质：由该算法生成的序列的任何极限点都收敛到强平稳点（定理4.1–4.3）。数值结果表明，将本文提出的算法嵌入到连续程序中时，该算法是有效的。
审核人：乔治·格内科（卢卡）

引用于1文件

MSC公司：

90C06型 数学规划中的大尺度问题
90C25型 凸面编程
65年20月 数值算法的复杂性和性能
94A08型 信息与通信理论中的图像处理（压缩、重建等）

关键词：

\（l0\）-正则优化问题;活动集标识;驻点分类

软件：

FPC_AS公司;CoSaMP公司
PDF格式BibTeX公司 XML格式引用
\textit｛W.Cheng｝等人，《环球报》。最佳方案。76，第4号，769--791（2020；Zbl 1451.90097）
全文： 内政部

参考文献：

[1] Attouch，H。；博尔特，J。；Svaiter，BF，半代数和驯服问题下降方法的收敛性：近似算法，前向-后向分裂，正则高斯-赛德尔方法，数学。程序。，137, 91-129 (2013) ·Zbl 1260.49048号
[2] Barzilai，J。；Borwein，JM，两点步长梯度法，IMA J.Numer。分析。，8, 141-148 (1988) ·Zbl 0638.65055号
[3] 贝克，A。；Teboulle，M.，线性反问题的快速迭代收缩阈值算法，SIAM J.成像科学。，2, 183-202 (2009) ·Zbl 1175.94009号
[4] 贝克，A。；Hallak，N.，对称惩罚和稀疏性的近似映射，SIAM J.Optim。，28, 496-527 (2018) ·Zbl 1390.90438号
[5] Bi、SJ；Liu，XL码；Pan，SH，基于MPEC公式的零范数最小化的精确惩罚分解方法，SIAM J.Sci。计算。，36, 1451-1477 (2014) ·Zbl 1306.65211号
[6] Blumensath，T。；Davies，ME，稀疏近似的迭代阈值，J.Fourier Ana。申请。，14, 629-654 (2008) ·Zbl 1175.94060号
[7] AM布鲁克斯坦；多诺霍，DL；Elad，M.，《从方程组的稀疏解到信号和图像的稀疏建模》，SIAM Rev.，51，34-81（2009）·Zbl 1178.68619号
[8] Breiman，L.，使用非负garrote进行更好的子集回归，技术计量学，37373-384（1995）·Zbl 0862.62059号
[9] 坎迪斯，EJ；J.隆伯格。；Tao，T.，《鲁棒不确定性原理：从高度不完整的频率信息中精确重建信号》，IEEE Trans。《信息论》，52，489-509（2006）·Zbl 1231.94017号
[10] 坎迪斯，EJ；Wakin，MB；Boyd，SP，通过重加权最小化增强稀疏性，J.Fourier Ana。申请。，14, 877-905 (2008) ·Zbl 1176.94014号
[11] 陈，TY；FE柯蒂斯；Robinson，DP，最小化（ell_1）正则凸函数的一种简化空间算法，SIAM J.Optim。，3, 1583-1610 (2017) ·Zbl 1369.90103号
[12] Cheng，WY；Dai，YH，带主动集策略的基于梯度的优化方法，数学。计算。，87, 1283-1305 (2018) ·Zbl 1392.90079号
[13] 达西奥斯，I。；Fountoulakis，K。；Gondzio，J.，压缩传感问题的原对偶牛顿共轭梯度法的预条件，SIAM J.Sci。计算。，37, 2783-2812 (2015) ·Zbl 1371.65049号
[14] Davis，G。；Mallat，S。；Avellaneda，M.，自适应贪婪近似，Constr。约，1357-98（1997年）·兹比尔0885.41006
[15] Daubechies，I。；Defrise，M。；De Mol，C.，具有稀疏约束的线性反问题的迭代阈值算法，Commun。纯应用程序。数学。，57, 1413-1457 (2004) ·Zbl 1077.65055号
[16] Dolan，ED；Moré，JJ，带性能配置文件的基准优化软件，数学。程序。，91, 201-213 (2002) ·邮编：1049.90004
[17] Donoho，DL，对于大多数大型欠定线性方程组，最小范数解也是最稀疏解，Commun。纯应用程序。数学。，59, 797-829 (2006) ·Zbl 1113.15004号
[18] 范，J。；Li，R.，通过非一致惩罚似然进行变量选择及其预言属性，美国统计协会，96，1348-1360（2001）·Zbl 1073.62547号
[19] Figueiredo，MAT；罗德岛诺瓦克；Wright，SJ，《稀疏重建的梯度投影：压缩传感和其他反问题的应用》，IEEE J.Sel。顶部。信号处理。，1, 586-597 (2007)
[20] 福卡特，S。；Lai，MJ，通过（ell_q（0<q<1））获得欠定线性系统的最稀疏解，应用。计算。哈蒙。分析。，26, 395-407 (2009) ·Zbl 1171.90014号
[21] 格里波，L。；Lampariello，F。；Lucidi，S.，牛顿法的非单调线搜索技术，SIAM J.Numer。分析。，23, 707-716 (1986) ·Zbl 0616.65067号
[22] 黑尔，ET；尹，W。；Zhang，Y.，（ell_1）极小化的定点延拓：方法论和收敛性，SIAM J.Optim。，19, 1107-1130 (2008) ·Zbl 1180.65076号
[23] 焦，YL；金，BJ；Lu，XL，（ell_0）正则优化问题的带延拓算法的原对偶活动集，应用。计算。哈蒙。分析。，39, 400-426 (2015) ·Zbl 1329.49042号
[24] 梁，JW；法迪利，J。；Peyré，G.，前向-后向型方法的活动识别和局部线性收敛，SIAM J.Optim。，1408-437（2017）·兹比尔1357.49064
[25] 刘，YL；潘，SH；Bi，SJ，零形式和秩优化问题的等效Lipschitz代理，J.Glob。最佳。，72, 679-704 (2018) ·Zbl 1404.90117号
[26] 卢，Z。；Zhang，Y.，通过惩罚分解方法的稀疏近似，SIAM J.Optim。，23, 2448-2478 (2013) ·Zbl 1295.90056号
[27] 马拉特，新加坡；Zhang，《用时频字典匹配追踪》，IEEE Trans。信号处理。，4133397-3415（1993年）·Zbl 0842.94004号
[28] Natarajan，BK，线性系统的稀疏近似解，SIAM J.Compute。，24, 227-234 (1995) ·Zbl 0827.68054号
[29] Needell，D。；Tropp，JA，CoSaMP：不完整和不准确样本的迭代信号恢复，应用。计算。哈蒙。分析。，26, 301-321 (2009) ·Zbl 1163.94003号
[30] Pati，Y.C.，Rezaiifar，R.，Krishnaprasad，P.S.：正交匹配追踪：递归函数逼近及其在小波分解中的应用。摘自：第27届Asilomar信号、系统和计算机会议记录（加利福尼亚州太平洋格罗夫），第40-44页。IEEE，华盛顿特区（1993）
[31] Santis，医学博士；Lucidi，S。；Rinaldi，F.，用于（ell_1）正则化最小二乘的快速活动集块坐标下降算法，SIAM。J.Optim。，26, 781-809 (2016) ·Zbl 1333.65059号
[32] Soubies，E。；Blanc-Féraud，L。；Aubert，G.，（\ell_2-\ell_0）最小化精确连续惩罚的统一观点，SIAM J.Optim。，27, 2034-2060 (2017) ·Zbl 1375.65086号
[33] 苏森，C。；Idier，J。；Brie，D。；Duan，J.，《从贝努利高斯反褶积到稀疏信号恢复》，IEEE Trans。信号处理。，59, 4572-4584 (2011) ·兹比尔1392.94466
[34] 苏比，E。；Blanc-Féraud，L.公司。；Aubert，G.，最小二乘正则化问题的连续精确罚（CEL0），SIAM J.Imaging Sci。，8, 1607-1639 (2015) ·Zbl 1325.65086号
[35] Temlyakov，VN，贪婪近似，数值学报。，17, 235-409 (2008) ·Zbl 1178.65050号
[36] 曾，P。；Yun，SW，非光滑可分离极小化的坐标梯度下降法，数学。程序。，117, 387-423 (2009) ·Zbl 1166.90016号
[37] 温，ZW；尹，WT；Goldfarb，D。；Zhang，Y.，基于收缩、子空间优化和延拓的稀疏重建快速算法，SIAM J.Sci。计算。，32, 1832-1857 (2010) ·Zbl 1215.49039号
[38] Wright，J。；罗德岛诺瓦克；Figueiredo，MAT，可分离近似稀疏重建，IEEE Trans。信号处理。，57, 2479-2493 (2009) ·Zbl 1391.94442号
[39] 徐，ZB；XY Chang；徐，FM；Zhang，H.，（ell_{frac{1}{2}}）正则化：阈值表示理论和快速求解器，IEEE Trans。神经网络。学习。，23, 1013-1027 (2012)
[40] 袁，GX；Ho，CH；Lin，CJ，大规模线性分类的最新进展，Proc。IEEE，1002584-2603（2012）
[41] Zhang，T.，用于稀疏正则化学习的多级凸松弛，高级神经网络过程。系统。，22, 1929-1936 (2009)
[42] Zhang，CH，最小最大凹惩罚下的几乎无偏变量选择，《美国统计年鉴》，38，894-942（2010）·Zbl 1183.62120号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。