×

关于一类非光滑凸极小化问题的近似梯度法的线性收敛性。 (英语) Zbl 1334.90127号

摘要:我们考虑了一类非光滑凸优化问题,其中目标函数是一个具有线性映射的强凸可微函数的组合,该映射由优化变量的(ell_1)-范数和(ell_2)-范量之和正则化。这类问题自然产生于稀疏组Lasso中的应用,这是一种流行的变量选择技术。解决此类问题的有效方法是采用近似梯度法(PGM)。本文证明了该问题最优解集周围的局部误差界,并用它建立了PGM方法的线性收敛性,而不必假设总体目标函数的强凸性。

MSC公司:

90C25型 凸面编程
90摄氏52度 减少梯度类型的方法
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] 巴赫,F.:套索和多核学习的一致性。J.马赫。学习。第9号决议,1179–1225(2008年)·Zbl 1225.68147号
[2] Combettes,P.L.,Pesquet,J.C.:信号处理中的近距离分裂方法。arXiv:0912.3522v4[math.OC],2010年5月18日
[3] Combettes,P.L.,Wajs,V.R.:通过近端前向-后向分裂恢复信号。多尺度模型。模拟。4, 1168–1200 (2005) ·Zbl 1179.94031号 ·doi:10.1137/050626090
[4] Fan,J.,Li,R.:通过非冲突惩罚似然及其预言属性进行变量选择。《美国法律总汇》第96卷(456)、1348-1359页(2001年)·Zbl 1073.62547号 ·doi:10.1198/016214501753382273
[5] Friedman,J.,Hastie,T.,Tibshirani,R.:关于拉索群和稀疏群拉索的注释。arXiv:1001.0736v1[math.ST],2010年1月5日
[6] Kim,D.,Sra,S.,Dhillon,I.:应用于混合范数回归的可扩展信任区域算法。在:国际机器学习会议(ICML),第1卷(2010年)
[7] Liu,J.,Ji,S.,Ye,J.:SLEP:稀疏学习与有效投影。亚利桑那州立大学(2009)
[8] Luo,Z.Q.,Tseng,P.:关于凸本质光滑极小化下降法的线性收敛性。SIAM J.控制优化。30(2), 408–425 (1992) ·Zbl 0756.90084号 ·doi:10.1137/0330025
[9] Ma,S.,Song,X.,Huang,J.:监督Lasso组在微阵列数据分析中的应用。BMC生物信息。8(1), 60 (2007) ·doi:10.1186/1471-2105-8-60
[10] Meier,L.,Van de Geer,S.,Buhlmann,P.:逻辑回归的Lasso组。J.R.Stat.Soc.,塞尔维亚。B、 统计方法。70(1), 53–71 (2008) ·Zbl 1400.62276号 ·文件编号:10.1111/j.1467-9868.2007.00627.x
[11] Nesterov,Y.:凸优化入门讲座。Kluwer,波士顿(2004)·Zbl 1086.90045号
[12] Tseng,P.:结构化凸优化的近似精度、梯度方法和误差界。数学。程序。125(2), 263–295 (2010) ·Zbl 1207.65084号 ·doi:10.1007/s10107-010-0394-2
[13] Tseng,P.,Yun,S.:非光滑可分离最小化的坐标梯度下降法。数学。程序。117, 387–423 (2009) ·Zbl 1166.90016号 ·doi:10.1007/s10107-007-0170-0
[14] Rockafellar,R.T.:凸分析。普林斯顿大学出版社,普林斯顿(1970)·Zbl 0193.18401号
[15] Rockafellar,R.T.,Wets,R.J.B.:变分分析。施普林格,纽约(1998)
[16] Roth,V.,Fischer,B.:广义线性模型的群L asso:解的唯一性和有效算法。摘自:《第25届机器学习国际会议论文集》,第848–855页。ACM,纽约(2008)
[17] Tibshirani,R.:通过拉索进行回归收缩和选择。J.R.Stat.Soc.B 58、267–288(1996)·Zbl 0850.62538号
[18] van den Berg,E.、Schmidt,M.、Friedlander,M.和Murphy,K.:通过线性时间投影的群稀疏性。技术报告TR-2008-09,不列颠哥伦比亚大学计算机科学系(2008)
[19] Vincent,M.,Hansen,N.R.:稀疏群Lasso和高维多项式分类。J.计算。统计数据分析。arXiv:1205.1245v1[stat.ML],2012年5月6日·Zbl 1471.62200号
[20] Wright,S.,Nowak,R.,Figueiredo,M.:可分离近似的稀疏重建。IEEE传输。信号处理。57(7), 2479–2493 (2009) ·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892
[21] Yang,H.,Xu,Z.,King,I.,Lyu,M.:拉索小组的在线学习。参加:第27届国际机器学习会议(ICML2010)(2010)
[22] Yuan,M.,Lin,Y.:分组变量回归中的模型选择和估计。J.R.Stat.Soc.,塞尔维亚。B、 统计方法。68(1), 49–67 (2006) ·Zbl 1141.62030号 ·doi:10.1111/j.1467-9868.2005302.x
[23] Zou,H.:自适应拉索及其预言属性。《美国统计协会期刊》101(476),1418-1429(2006)·Zbl 1171.62326号 ·doi:10.1198/016214500000735
[24] Zou,H.,Hastie,T.:通过弹性网络的正则化和变量选择。J.R.Stat.Soc.B 67(2),301–320(2005)·Zbl 1069.62054号 ·文件编号:10.1111/j.1467-9868.2005.005.x
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。