×

一种用于套索和基本追踪去噪的混合拟牛顿投影粒度方法。 (英语) Zbl 1434.90118号

摘要:我们提出了一种新的算法来优化({mathbb{R}}^n)中多面体集上的凸函数。该算法扩展了谱投影粒度方法,在可能的情况下,将有限内存BFGS迭代限制在当前人脸上。我们在适当的条件下证明了算法的收敛性,并将该算法应用于解决拉索问题,从而通过由E.范登伯格M.P.弗里德兰德[SIAM J.Sci.Compute.31,No.2,890-912(2008;兹比尔1193.49033)]. 该算法特别适用于简单域,也可用于求解有界约束问题以及限制于单纯形的问题。

MSC公司:

90C20个 二次规划
65千5 数值数学规划方法
90立方厘米25 凸面编程
90C53型 拟牛顿型方法
52号B12 特殊多边形(线性规划、中心对称等)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.Ser。B(Methodol.),58,1,267-288(1996)·Zbl 0850.62538号
[2] 范登伯格,E。;Mp Friedlander,《探索基本追求解决方案的帕累托边界》,SIAM J.Sci。计算。,31, 2, 890-912 (2008) ·Zbl 1193.49033号 ·doi:10.1137/080714488
[3] 陈,Ss;Donoho博士;Saunders,Ma,通过基追踪进行原子分解,SIAM J.Sci。计算。,20,1,33-61(1998年)·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[4] 坎迪斯(Ej Candès);J.隆伯格。;Tao,T.,《鲁棒不确定性原理:从高度不完整的频率信息中精确重建信号》,IEEE Trans。《信息论》,52,2489-509(2006)·Zbl 1231.94017号 ·doi:10.1109/TIT.2005.862083
[5] Donoho,Dl,压缩传感,IEEE Trans。《信息论》,52,4,1289-1306(2006)·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[6] 伯金,Eg;马丁内斯,Jm;Raydan,M.,凸集上的非单调谱投影梯度法,SIAM J.Optim。,10, 4, 1196-1211 (2000) ·Zbl 1047.90077号 ·doi:10.137/S1052623497330963
[7] Liu,博士;Nocedal,J.,《关于大规模优化的有限内存BFGS方法》,数学。程序。序列号。B、 45、1-3、503-528(1989)·Zbl 0696.90048号 ·doi:10.1007/BF01589116
[8] Bertsekas,Dp,《关于Goldstein-Levitin-Polyak梯度投影法》,IEEE Trans。自动。控制,AC-21,2174-184(1976)·Zbl 0326.49025号 ·doi:10.1109/TAC.1976.1101194
[9] Barzilai,J。;Borwein,Jm,两点步长梯度法,IMA J.Numer。分析。,8, 1, 141-148 (1988) ·Zbl 0638.65055号 ·doi:10.1093/imanum/8.1.141
[10] Fletcher,R.,有限记忆最速下降法,数学。程序。序列号。A、 135413-436(2012)·Zbl 1254.90113号 ·doi:10.1007/s10107-011-0479-6
[11] Nocedal,J。;Wright,Sj,《数值优化》。Springer运筹学和金融工程系列(2006),柏林:Springer,柏林·兹比尔1104.65059
[12] Bertsekas博士,《非线性规划》(2003),贝尔蒙特:雅典娜科学出版社
[13] Grünbaum,B.,《凸多面体》,《数学研究生教材第221卷》(2003年),柏林:施普林格出版社,柏林·Zbl 1024.52001年
[14] van den Berg,E.:应用于Lasso和basis-purching去噪的混合准Newton投影粒度方法。arXiv:161105483(2016年)
[15] 范登伯格,E。;Friedlander,Mp,带最小二乘约束的稀疏优化,SIAM J.Optim。,21, 4, 1201-1229 (2011) ·Zbl 1242.49061号 ·数字对象标识代码:10.1137/100785028
[16] Duchi,J.,Shalev-Shwartz,S.,Singer,Y.,Chandra,T.:高维学习中对(ell_1)球的有效投影。摘自:《第25届机器学习国际会议论文集》,第272-279页(2008)
[17] 莫罗,Jj,Proximitéet dualitédans un espace hilbertien,法国社会数学公报,93,273-299(1965)·Zbl 0136.12101号 ·doi:10.24033/bsmf.1625
[18] 组合框,Pl;Wajs,Vr,近端前向背向分裂信号恢复,多尺度模型。模拟。,4, 4, 1168-1200 (2005) ·Zbl 1179.94031号 ·doi:10.1137/050626090
[19] Hj费罗;柯奇斯,C。;Potschka,A。;Bock,汞;Diehl,M.,qpOASES:二次规划的参数活动集算法,数学。程序。计算。,6, 4, 327-363 (2014) ·Zbl 1302.90146号 ·doi:10.1007/s12532-014-0071-1
[20] 小李;孙,Y。;Saunders,Ma,最小化复合函数的近似牛顿型方法,SIAM J.Optim。,24, 3, 1420-1443 (2014) ·Zbl 1306.65213号 ·doi:10.1137/130921428
[21] 范登伯格,E。;弗里德兰德,Mp;亨尼芬特,G。;Fj Herrmann;萨博,R。;是的,厄尔玛。,算法890:sparco-稀疏重建的测试框架,ACM-Trans。数学。软质。,35,4,1-16(2009年)·数字对象标识代码:10.1145/1462173.1462178
[22] 坎迪斯(Ej Candès);Tao,T.,线性规划解码,IEEE Trans。《信息论》,51,2,4203-4215(2005)·Zbl 1264.94121号 ·doi:10.1109/TIT.2005.858979
[23] 坎迪斯,E。;Eldar,Yc;Needell,D。;Randall,P.,《压缩传感与相干和冗余字典》,应用。计算。谐波分析。,31, 1, 59-73 (2011) ·Zbl 1215.94026号 ·doi:10.1016/j.acha.2010.10.002
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。