×

一类非光滑凸优化问题的改进近似梯度法。 (英语) Zbl 1394.90461号

摘要:在本文中,我们提出了一种改进的近端梯度法来解决一类非光滑凸优化问题,这些问题出现在许多当代统计和信号处理应用中。该方法采用了一种基于最近梯度法的新方案来构造下降方向。在不考虑目标函数强凸性的假设下,证明了改进的近似梯度法是Q线性收敛的。最后进行了一些数值实验来评估该方法。

MSC公司:

90C25型 凸面编程
90立方 非线性规划

软件:

SLEP公司味精
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Tibshirani,R.:通过拉索进行回归收缩和选择。J.R.统计社会服务。B 58267-288(1996年)·Zbl 0850.62538号
[2] Bakin,S.:数据挖掘问题中的自适应回归和模型选择。澳大利亚国立大学博士论文,堪培拉(1999年)·Zbl 1207.65084号
[3] Yuan,M.,Lin,Y.:分组变量回归中的模型选择和估计。J.R.统计社会服务。B(Stat.Methodol.)68(1),49-67(2006)·Zbl 1141.62030号 ·doi:10.1111/j.1467-9868.2005302.x
[4] Ma,S.,Song,X.,Huang,J.:监督Lasso组在微阵列数据分析中的应用。BMC生物信息。8(1), 60 (2007) ·doi:10.1186/1471-2105-8-60
[5] 巴赫,F.:套索和多核学习的一致性。J.马赫。学习。第9号决议,1179-1225(2009年)·Zbl 1225.68147号
[6] Kim,D.,Sra,S.,Dhillon,I.:应用于混合范数回归的可扩展信任区域算法。In:机器学习国际会议,第1卷(2010年)
[7] Liu,J.,Ji,S.,Ye,J.:SLEP:稀疏学习与有效投射。亚利桑那州立大学坦佩分校(2009)
[8] Roth,V.,Fischer,B.:广义线性模型的群L asso:解的唯一性和有效算法。摘自:《第25届机器学习国际会议论文集》,第848-855页(2008)·Zbl 1334.90127号
[9] Van den Berg,E.、Schmidt,M.、Friedlander,M.和Murphy,K.:通过线性时间投影的群稀疏性。技术报告TR-2008-09。不列颠哥伦比亚大学计算机科学系(2008)·Zbl 0765.90073号
[10] Wright,S.,Nowak,R.,Figueiredo,M.:可分离近似的稀疏重建。IEEE传输。信号处理。57(7), 2479-2493 (2009) ·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892
[11] Friedman,J.,Hastie,T.,Tibshirani,R.:关于拉索群和稀疏群拉索的注释。arXiv:1001.0736v1[math.ST](2010)
[12] Vincent,M.,Hansen,N.R.:稀疏群套索和高维多项式分类。arXiv:1205.1245v1[stat.ML](2012)·Zbl 1471.62200号
[13] Rockafellar,R.T.,Wets,R.J.B.:变分分析。施普林格,纽约(1998)·Zbl 0888.49001号 ·doi:10.1007/978-3-642-02431-3
[14] Eckstein,J.,Bertsekas,D.P.:关于最大单调算子的Douglas-Rachford分裂方法和近点算法。数学。程序。55, 293-318 (1992) ·Zbl 0765.90073号 ·doi:10.1007/BF01581204
[15] Combettes,P.L.,Wajs,V.R.:通过近端前向-后向分裂恢复信号。多尺度模型仿真。4, 1168-1200 (2005) ·Zbl 1179.94031号 ·doi:10.1137/050626090
[16] Nesterov,Y.:凸优化入门讲座。Kluwer,波士顿(2004)·Zbl 1086.90045号 ·doi:10.1007/978-1-4419-8853-9
[17] Luo,Z.Q.,Tseng,P.:关于凸本质光滑极小化下降法的线性收敛性。SIAM J.控制优化。30(2), 408-425 (1992) ·Zbl 0756.90084号 ·doi:10.1137/0330025
[18] Tseng,P.:结构化凸优化的近似精度、梯度方法和误差界。数学。程序。125(2), 263-295 (2010) ·Zbl 1207.65084号 ·doi:10.1007/s10107-010-0394-2
[19] Zhang,H.B.,Jiang,J.,Luo,Z.Q.:关于一类非光滑凸极小化问题的近端梯度方法的线性收敛性。《运营杂志》。中国研究社会1(2),163-186(2013)·Zbl 1334.90127号 ·文件编号:10.1007/s40305-013-0015-x
[20] Zhang,H.H.B.,Wei,J.,Li,M.,et al.:关于用群再生核范数正则化凸问题的近端梯度法。J.全球。最佳方案。58(1), 169-188 (2014) ·Zbl 1318.90055号 ·doi:10.1007/s10898-013-0034-5
[21] He,B.,Yuan,X.:复合变分不等式的前向-后向下降方法。最佳方案。方法软件。28(4), 706-724 (2013) ·Zbl 1282.90196号 ·doi:10.1080/10556788.2011.645033
[22] Hiriart-Urruti,J.-B.,Lemarechal,C.:凸分析基础。格兰德伦文本版。施普林格,柏林(2001)·Zbl 1334.90127号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。