李文静;卞伟;杜金川 一类稀疏群（ell_0）正则优化问题的差分-凸算法。 （英语） Zbl 1496.90097号 SIAM J.Optim公司。 32，第3期，1614-1641（2022）. 摘要：本文考虑了一类稀疏群正则化优化问题。首先，我们给出了所考虑问题的连续松弛模型，并定义了松弛问题的一类驻点。然后，我们在全局极小值意义下建立了这两个问题的等价性，并证明了所定义的驻点等价于所考虑的稀疏群（ell_0）正则化问题的局部极小值，其全局极小值具有期望的界。此外，基于松弛问题的差分凸结构，我们设计了两种DC算法来求解松弛问题。我们证明了由它们生成的迭代的任何累加点都是一个局部极小值点，对于所考虑的稀疏群（\ell_0）问题有一个理想的界。特别是，所有累积点都有一个公共的支持集，它们的零项可以在有限的迭代内获得。此外，我们给出了所提算法的全局收敛性分析。最后，我们进行了一些数值实验，以证明所提算法的有效性。 引用于2文件 理学硕士： 90立方 非线性规划 90立方厘米 数学规划中的最优性条件和对偶性 65千5 数值数学规划方法 关键词：稀疏群\（\ell0\）正则化;连续松弛;DC算法;全球收敛 PDF格式BibTeX公司 XML格式引用 \textit{W.Li}等人，SIAM J.Optim。32，第3号，1614-1641（2022；Zbl 1496.90097） 全文： 内政部 arXiv公司 参考文献： [1] M.Ahn、J.-S.Pang和J.Xin，《凸学习的差异：方向平稳性、最优性和稀疏性》，SIAM J.Optim。，27（2017），第1637-1665页·Zbl 1369.90130号 [2] F.J.Aragon Artacho和P.T.Vuong，非光滑函数凸函数算法的增强差分，SIAM J.Optim。，30（2020年），第980-1006页·Zbl 1461.65119号 [3] H.Attouch和J.Bolt，关于涉及分析特征的非光滑函数的近似算法的收敛性，数学。程序。，116（2009），第5-16页·Zbl 1165.90018号 [4] H.Attouch、J.Bolt和B.Svaiter，半代数和驯服问题下降方法的收敛性：近似算法、前向-后向分裂和正则高斯-赛德尔方法，数学。程序。，137（2013），第91-129页·Zbl 1260.49048号 [5] A.Beck和N.Hallak，涉及群稀疏项的优化问题，数学。程序。，178（2019），第39-67页·Zbl 1430.90465号 [6] 卞伟，陈晓霞，带基数惩罚的非光滑凸回归的平滑近端梯度算法，SIAM J.Numer。分析。，58（2020年），第858-883页。 [7] E.Candeís、M.Wakin和s.Boyd，通过重加权最小化增强稀疏性，J.Fourier Anal。申请。，14（2008），第877-905页·Zbl 1176.94014号 [8] R.Chartrand和V.Staneva，受限等距特性和非凸压缩传感，反问题，24（2008），第657-682页·Zbl 1143.94004号 [9] X.Chen，M.Ng，and C.Zhang，Non-Lipschitz（\ell_p）-正则化和箱约束图像恢复模型，IEEE Trans。图像处理。，21（2012年），第4709-4721页·Zbl 1373.94080号 [10] F.H.Clarke，优化和非光滑分析，Wiley，纽约，1983年·Zbl 0582.49001号 [11] M.Duarte和Y.Eldar，《结构化压缩传感：从理论到应用》，IEEE Trans。信号处理。，59（2011），第4053-4085页·Zbl 1392.94188号 [12] Y.Eldar、P.Kuppinger和B.H.，块解析信号：不确定性关系和有效恢复，IEEE Trans。信号处理。，58（2010），第3042-3054页·Zbl 1392.94195号 [13] Y.Eldar和M.Mishali，子空间结构化联合信号的稳健恢复，IEEE Trans。通知。《理论》，55（2009），第5302-5316页·Zbl 1367.94087号 [14] J.Fan和R.Li，通过非变异惩罚似然选择变量及其预言性质，J.Amer。统计人员。协会，96（2001），第1348-1360页·Zbl 1073.62547号 [15] S.Foucart和M.-J.Lai，通过（0<q\leq 1）的（ell_q）-最小化得到欠定线性系统的最稀疏解，应用。计算。哈蒙。分析。，26（2009），第395-407页·兹比尔1171.90014 [16] J.-y.Gotoh、A.Takeda和K.Tono，稀疏优化问题的DC公式和算法，数学。程序。，169（2018），第141-176页·Zbl 06869181号 [17] J.Huang、P.Breheny和S.Ma，高维模型中群体选择的选择性综述，统计学。科学。，27（2012），第481-499页·Zbl 1331.62347号 [18] J.Huang，J.Horowitz，and S.Ma，稀疏高维回归模型中桥估计量的渐近性质，Ann.Statist。，36（2008），第587-613页·Zbl 1133.62048号 [19] J.Huang、X.Huang和D.Metaxas，《动态群稀疏性学习》，摘自IEEE第12届国际计算机视觉会议论文集，IEEE，新泽西州皮斯卡塔韦，2009年，第64-71页。 [20] R.Jenatton、J.Audibert和F.Bach，《稀疏诱导准则下的结构化变量选择》，J.Mach。学习。Res.，12（2011），第2777-2824页·Zbl 1280.68170号 [21] 焦Y.Jian，B.Jin，X.Lu，通过（l_0（l_2）惩罚的群稀疏恢复：理论与算法，IEEE Trans。信号处理。，65（2017年），第998-1012页·Zbl 1414.94280号 [22] H.Le Thi和T.Pham Dinh，DC编程和DCA：三十年的发展，数学。程序。，169（2018），第5-68页·Zbl 1387.90197号 [23] H.Le Thi、T.Pham Dinh、H.Le和X.Vo，稀疏优化的DC近似方法，欧洲期刊Oper。Res.，244（2015），第26-46页·Zbl 1346.90819号 [24] G.Li和T.Pong，Kurdyka-Łojasiewicz不等式的指数演算及其在一阶方法线性收敛中的应用，发现。计算。数学。，18（2018），第1199-1232页·Zbl 1405.90076号 [25] X.Li，D.Sun，和K.-C.Toh，求解拉索问题的高效半光滑牛顿增广拉格朗日方法，SIAM J.Optim。，28（2018），第433-458页·Zbl 1392.65062号 [26] M.Lin、Y.-J.Liu、D.Sun和K.-C.Toh，集群Lasso问题的高效稀疏半光滑牛顿方法，SIAM J.Optim。，29（2019），第2026-2052页·Zbl 1427.90200号 [27] T.Liu、T.Pong和A.Takeda，pDCAe的精细收敛分析及其在同时稀疏恢复和异常检测中的应用，计算。最佳方案。申请。，73（2019年），第69-100页·Zbl 1420.90048号 [28] 陆振华，（l_0）正则凸锥规划的迭代硬阈值方法，数学。程序。，147（2014），第125-154页·Zbl 1308.65094号 [29] 陆志明，周志明，一类结构化非光滑DC规划的非单调增强近端DC算法，SIAM J.Optim。，29（2019），第2725-2752页·Zbl 1430.90471号 [30] 陆振中，周振中，孙振中，一类结构化非光滑DC极小化的带外推的改进近端DC算法，数学。程序。，176（2019），第369-401页·Zbl 1415.90091号 [31] J.Lv、M.Pawlak和U.Annakkage，使用Lasso预测瞬态稳定边界，IEEE Trans。电力系统。，28（2013），第281-288页。 [32] B.K.Natarajan，线性系统的稀疏近似解，SIAM J.Comput。，24（1995年），第227-234页·Zbl 0827.68054号 [33] M.Nikolova，用（l_0）范数正则化的最小二乘最优解与受k-稀疏性约束的最小二乘最佳解之间的关系，应用。计算。哈蒙。分析。，41（2016），第237-265页·Zbl 1338.90323号 [34] L.Pan和X.Chen，使用带帽折叠凹函数进行图像恢复的组稀疏优化，SIAM J.Imaging Sci。，14（2021），第1-25页·Zbl 1474.90507号 [35] J.-S.Pang，M.Razaviyayn和A.Alvarado，计算非光滑DC程序的B平稳点，数学。操作。决议，42（2017），第95-118页·Zbl 1359.90106号 [36] D.Peleg和R.Meir，向量稀疏性优化的双线性公式，信号处理。，8（2008），第375-389页·Zbl 1186.94273号 [37] D.Phan和H.Le Thi，通过（ell_{p，0}）正则化选择群变量及其在最优评分中的应用，神经网络。，118（2019），第220-234页·Zbl 1441.62073号 [38] D.Phan、H.Le Thi和T.Pham Dinh，《有效的双层变量选择及其在多重协方差矩阵估计中的应用》，载于J.Kim、K.Shim、L.Cao、J.G.Lee、X.Lin、Y.S.Moon编辑的《计算讲义》。科学。《知识发现和数据挖掘进展》，10234，施普林格，查姆，瑞士，2017年，第304-316页。 [39] D.N.Phan和H.A.Le Thi，《使用（\ell_{0,0}）正则化估计多个稀疏精度矩阵的新方法》，2017年IEEE数据科学和高级分析国际会议（DSAA），IEEE，新泽西州皮斯卡塔韦，2017年，第726-733页。 [40] R.Rockafellar，《凸分析》，普林斯顿大学出版社，新泽西州普林斯顿，1997年·Zbl 0932.90001号 [41] N.Simon、J.Friedman、T.Hastie和R.Tibshirani，稀疏群Lasso，J.Compute。图表。统计人员。，22（2013），第231-245页。 [42] E.Soubies，L.Blanc-Feíraud和G.Aubert，最小二乘正则化问题的连续精确罚（CEL0），SIAM J.Imaging Sci。，8（2015），第1607-1639页·Zbl 1325.65086号 [43] E.Soubies、L.Blanc-Feíraud和G.Aubert，《（\ell_2-\ell_0）最小化精确连续惩罚的统一观点》，SIAM J.Optim。，27（2017），第2034-2060页·Zbl 1375.65086号 [44] M.Stojnic、F.Parvaresh和B.Hassibi，关于用最佳测量次数重建块解析信号，IEEE Trans。信号处理。，57（2009），第3075-3085页·Zbl 1391.94402号 [45] P.Tang、C.Wang、D.Sun和K.-C.Toh，非凸平方损失回归问题的基于牛顿的稀疏半光滑近似优化最小算法，J.Mach。学习。研究，21（2020），第1-38页·Zbl 1531.62216号 [46] E.Van Den Berg和M.P.Friedlander，探索基础追踪解决方案的帕累托边界，SIAM J.Sci。计算。，31（2008），第890-912页·Zbl 1193.49033号 [47] B.Wen、X.Chen和T.Pong，带外推的近似凸差分算法，计算。最佳方案。申请。，69（2018），第297-324页·Zbl 1401.90175号 [48] S.Wright、R.Nowak和M.Figueiredo，可分离近似稀疏重建，IEEE Trans。信号处理。，57（2009），第2479-2493页·Zbl 1391.94442号 [49] P.-T.Yap、Y.Zhang和D.Shen，通过稀疏群估计对扩散MRI信号进行多组织分解，IEEE Trans。图像处理。，25（2016），第4340-4353页·Zbl 1408.94770号 [50] 张春海，极小极大凹罚下的几乎无偏变量选择，安统计学家。，38（2010），第894-942页·Zbl 1183.62120号 [51] Y.Zhang、N.Zhang，D.Sun和K.-C.Toh，用于求解大规模稀疏群Lasso问题的基于Hessian的高效算法，数学。程序。，179（2020），第223-263页·Zbl 1435.90112号 [52] S.Zhou，L.Pan和N.Xiu，用于\（\ell_0\）正则化优化的牛顿方法，Numer。《算法》，88（2021），第1541-1570页·Zbl 1482.65092号 [53] Y.Zhou，J.Han，X.Yuan，Z.Wei，and R.Hong，鲁棒目标跟踪的逆稀疏群拉索模型，IEEE Trans。多媒体，19（2017），第1798-1810页。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。