张海滨;姜娇娇;罗志泉 关于一类非光滑凸极小化问题的近似梯度法的线性收敛性。 (英语) Zbl 1334.90127号 《运营杂志》。Res.Soc.中国 第1、2号,163-186(2013). 摘要:我们考虑了一类非光滑凸优化问题,其中目标函数是一个具有线性映射的强凸可微函数的组合,该映射由优化变量的(ell_1)-范数和(ell_2)-范量之和正则化。这类问题自然产生于稀疏组Lasso中的应用,这是一种流行的变量选择技术。解决此类问题的有效方法是采用近似梯度法(PGM)。本文证明了该问题最优解集周围的局部误差界,并用它建立了PGM方法的线性收敛性,而不必假设总体目标函数的强凸性。 引用于19文件 MSC公司: 90C25型 凸面编程 90摄氏52度 减少梯度类型的方法 关键词:近似梯度法;错误界限;线性收敛;稀疏群套索 软件:取消锁定BoX;SLEP公司;味精 PDF格式BibTeX公司 XML格式引用 \textit{H.Zhang}等人,J.Oper。中国研究学会1,第2号,163--186(2013;Zbl 1334.90127) 全文: DOI程序 参考文献: [1] 巴赫,F.:套索和多核学习的一致性。J.马赫。学习。第9号决议,1179–1225(2008年)·Zbl 1225.68147号 [2] Combettes,P.L.,Pesquet,J.C.:信号处理中的近距离分裂方法。arXiv:0912.3522v4[math.OC],2010年5月18日 [3] Combettes,P.L.,Wajs,V.R.:通过近端前向-后向分裂恢复信号。多尺度模型。模拟。4, 1168–1200 (2005) ·Zbl 1179.94031号 ·doi:10.1137/050626090 [4] Fan,J.,Li,R.:通过非冲突惩罚似然及其预言属性进行变量选择。《美国法律总汇》第96卷(456)、1348-1359页(2001年)·Zbl 1073.62547号 ·doi:10.1198/016214501753382273 [5] Friedman,J.,Hastie,T.,Tibshirani,R.:关于拉索群和稀疏群拉索的注释。arXiv:1001.0736v1[math.ST],2010年1月5日 [6] Kim,D.,Sra,S.,Dhillon,I.:应用于混合范数回归的可扩展信任区域算法。在:国际机器学习会议(ICML),第1卷(2010年) [7] Liu,J.,Ji,S.,Ye,J.:SLEP:稀疏学习与有效投影。亚利桑那州立大学(2009) [8] Luo,Z.Q.,Tseng,P.:关于凸本质光滑极小化下降法的线性收敛性。SIAM J.控制优化。30(2), 408–425 (1992) ·Zbl 0756.90084号 ·doi:10.1137/0330025 [9] Ma,S.,Song,X.,Huang,J.:监督Lasso组在微阵列数据分析中的应用。BMC生物信息。8(1), 60 (2007) ·doi:10.1186/1471-2105-8-60 [10] Meier,L.,Van de Geer,S.,Buhlmann,P.:逻辑回归的Lasso组。J.R.Stat.Soc.,塞尔维亚。B、 统计方法。70(1), 53–71 (2008) ·Zbl 1400.62276号 ·文件编号:10.1111/j.1467-9868.2007.00627.x [11] Nesterov,Y.:凸优化入门讲座。Kluwer,波士顿(2004)·Zbl 1086.90045号 [12] Tseng,P.:结构化凸优化的近似精度、梯度方法和误差界。数学。程序。125(2), 263–295 (2010) ·Zbl 1207.65084号 ·doi:10.1007/s10107-010-0394-2 [13] Tseng,P.,Yun,S.:非光滑可分离最小化的坐标梯度下降法。数学。程序。117, 387–423 (2009) ·Zbl 1166.90016号 ·doi:10.1007/s10107-007-0170-0 [14] Rockafellar,R.T.:凸分析。普林斯顿大学出版社,普林斯顿(1970)·Zbl 0193.18401号 [15] Rockafellar,R.T.,Wets,R.J.B.:变分分析。施普林格,纽约(1998) [16] Roth,V.,Fischer,B.:广义线性模型的群L asso:解的唯一性和有效算法。摘自:《第25届机器学习国际会议论文集》,第848–855页。ACM,纽约(2008) [17] Tibshirani,R.:通过拉索进行回归收缩和选择。J.R.Stat.Soc.B 58、267–288(1996)·Zbl 0850.62538号 [18] van den Berg,E.、Schmidt,M.、Friedlander,M.和Murphy,K.:通过线性时间投影的群稀疏性。技术报告TR-2008-09,不列颠哥伦比亚大学计算机科学系(2008) [19] Vincent,M.,Hansen,N.R.:稀疏群Lasso和高维多项式分类。J.计算。统计数据分析。arXiv:1205.1245v1[stat.ML],2012年5月6日·Zbl 1471.62200号 [20] Wright,S.,Nowak,R.,Figueiredo,M.:可分离近似的稀疏重建。IEEE传输。信号处理。57(7), 2479–2493 (2009) ·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892 [21] Yang,H.,Xu,Z.,King,I.,Lyu,M.:拉索小组的在线学习。参加:第27届国际机器学习会议(ICML2010)(2010) [22] Yuan,M.,Lin,Y.:分组变量回归中的模型选择和估计。J.R.Stat.Soc.,塞尔维亚。B、 统计方法。68(1), 49–67 (2006) ·Zbl 1141.62030号 ·doi:10.1111/j.1467-9868.2005302.x [23] Zou,H.:自适应拉索及其预言属性。《美国统计协会期刊》101(476),1418-1429(2006)·Zbl 1171.62326号 ·doi:10.1198/016214500000735 [24] Zou,H.,Hastie,T.:通过弹性网络的正则化和变量选择。J.R.Stat.Soc.B 67(2),301–320(2005)·Zbl 1069.62054号 ·文件编号:10.1111/j.1467-9868.2005.005.x 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。