德克·洛伦茨。;马克·佩奇(Marc E.Pfetsch)。;安德烈亚斯·蒂尔曼。 使用自适应近似投影的不可行点次梯度方法。 (英语) Zbl 1304.90159号 计算。最佳方案。申请。 57,编号271-306(2014). 摘要:我们提出了一种新的次梯度方法来最小化凸集上的非光滑凸函数。为了加快计算速度,我们使用自适应近似投影,只需要在精确投影的一定距离内移动(在算法过程中会减少)。特别是,我们方法中的迭代在整个过程中可能是不可行的。然而,我们提供了在适当的假设下确保收敛到最佳可行点的条件。一个收敛结果处理先验固定的步长序列。另两个结果处理动态Polyak型步长,分别取决于最优目标函数值的上下估计。此外,我们简要介绍了两个应用:凸机会约束优化和寻找欠定线性系统的最小(ell{1})范数解,这是压缩传感中的一个重要问题。 引用于2文件 MSC公司: 90C25型 凸面编程 90摄氏52度 减少梯度类型的方法 关键词:非光滑优化;凸优化;投影次梯度法;近似投影;压缩感知 软件:PDCO公司 PDF格式BibTeX公司 XML格式引用 \textit{D.A.Lorenz}等人,《计算》。最佳方案。申请。57,第2号,271--306(2014;Zbl 1304.90159) 全文: 内政部 arXiv公司 参考文献: [1] Alber,Y.I.,Iusem,A.N.,Solodov,M.V.:关于Hilbert空间中非光滑凸优化的投影次梯度方法。数学。程序。81, 23-35 (1998) ·Zbl 0919.90122号 [2] Allen,E.,Helgason,R.,Kennington,J.,Shetty,B.:亚梯度优化的Polyak收敛结果的推广。数学。程序。37, 309-317 (1987) ·Zbl 0631.90060号 ·doi:10.1007/BF02591740 [3] Anstreicher,K.M.,Wolsey,L.A.:次梯度优化的两个“众所周知的”性质。数学。程序。120213-220(2009年)·Zbl 1180.90179号 ·doi:10.1007/s10107-007-0148-y [4] Bauschke,H.H.,Borwein,J.M.:关于解决凸可行性问题的投影算法。SIAM第38版,367-426(1996)·Zbl 0865.47039号 ·doi:10.1137/S0036144593251710 [5] Bazaraa,M.S.,Sherali,H.D.:关于次梯度优化中步长的选择。欧洲药典。第7号决议,380-388(1981)·Zbl 0454.90056号 ·doi:10.1016/0377-2217(81)90096-5 [6] Bertsekas,D.P.,Mitter,S.K.:具有不可微代价泛函的优化问题的下降数值方法。SIAM J.控制11,637-652(1973)·Zbl 0243.49012号 ·doi:10.1137/0311049 [7] Birge,J.R.,Louveaux,F.:随机编程导论。序列号。操作。施普林格研究所,柏林(1999年)。修正的第二次打印 [8] Boyd,S.,Mutapcic,A.:《随机次梯度法》。课堂讲稿(2007年)。http://see.stanford.edu/materials/lsocoee364b/04-stoch_subgrad_notes.pdf。2013年8月29日访问·Zbl 1173.90502号 [9] Bruckstein,A.M.,Donoho,D.L.,Elad,M.:从方程组的稀疏解到信号和图像的稀疏建模。SIAM版本51,34-81(2009)·Zbl 1178.68619号 ·数字对象标识代码:10.1137/060657704 [10] Candès,E.,Romberg,J.,Tao,T.:稳健的不确定性原理:从高度不完整的频率信息中进行准确的信号重建。IEEE传输。《信息论》52,489-509(2006)·Zbl 1231.94017号 ·doi:10.1109/TIT.2005.862083 [11] Charnes,A.,Cooper,W.W.:机会约束编程。管理。科学。6, 73-79 (1959) ·Zbl 0995.90600号 ·doi:10.1287/mnsc.6.1.73 [12] Chen,S.S.,Donoho,D.L.,Saunders,M.A.:通过基追踪进行原子分解。SIAM J.科学。计算。20, 33-61 (1998) ·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010 [13] Cohen,A.,Dahmen,W.,DeVore,R.:自适应小波方法。二、。在椭圆情况之外。找到。计算。数学。2, 203-245 (2002) ·Zbl 1025.65056号 ·doi:10.1007/s102080010027 [14] Combettes,P.L.,Luo,J.:用于不可微约束图像恢复的自适应水平集方法。IEEE传输。图像处理。11295-1304(2002年)·doi:10.1109/TIP.2002.804527 [15] 压缩传感资源。http://dsp.rice.edu/cs。2013年8月29日访问 [16] D'Antonio,G.,Frangioni,A.:偏转条件近似次梯度方法的收敛性分析。SIAM J.Optim公司。20, 357-386 (2009) ·Zbl 1187.90222号 ·doi:10.1137/080718814 [17] Donoho,D.L.:压缩传感。IEEE传输。《信息论》52,1289-1306(2006)·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582 [18] Ferris,M.C.:弱尖锐极小值和精确惩罚函数。技术代表779,Comp。科学。威斯康星大学系,威斯康星州麦迪逊,美国(1988年) [19] Goffin,J.L.,Kiwiel,K.:简单次梯度能级方法的收敛性。数学。程序。85207-211(1999年)·兹比尔0956.90032 ·doi:10.1007/s101070050053 [20] Grasmair,M.、Haltmier,M.和Scherzer,O.:线性收敛的充要条件ℓ1-正规化。Commun公司。纯应用程序。数学。64, 161-182 (2011) ·Zbl 1217.65095号 ·doi:10.1002/cpa.20350 [21] Klein Haneveld,W.K.:随机线性和动态规划中的二重性。经济学和数学系统讲义,第274卷。柏林施普林格(1986)·Zbl 0598.90062号 ·doi:10.1007/978-3-642-51697-9 [22] Klein Haneveld,W.K.,van der Vlerk,M.H.:综合机会约束:简化形式和算法。计算。管理。科学。3, 245-269 (2006) ·Zbl 1136.90424号 ·doi:10.1007/s10287-005-0007-3 [23] Neto,E.S.H.,De Pierro,A.R.:约束凸优化的增量次梯度:统一框架和新方法。SIAM J.Optim公司。20, 1547-1572 (2009) ·兹比尔1207.65082 ·doi:10.1137/070711712 [24] Hestenes,M.R.,Stiefel,E.:求解线性系统的共轭梯度方法。《国家研究杂志》。伯尔。站立。49309-436(1952年)·Zbl 0048.09901号 ·doi:10.6028/jres.049.044 [25] Hiriart-Urruti,J.-B.,Lemaréchal,C.:凸分析和最小化算法。二、。序列号。Grundlehren der Mathematischen Wissenschaften[Fundam.Princ.Math.Sci.],第306卷。柏林施普林格(1993)·Zbl 0795.49002号 [26] Hiriart-Urruti,J.-B.,Lemaréchal,C.:凸分析基础。施普林格,柏林(2004)。校正后的第二次打印 [27] Kall,P.,Mayer,J.:随机线性规划。模型、理论和计算。柏林施普林格出版社(2005)·Zbl 1104.90033号 [28] Kim,S.,Ahn,H.,Cho,S.-C.:可变目标值次梯度法。数学。程序。49, 359-369 (1991) ·Zbl 0825.90754号 ·doi:10.1007/BF01588797 [29] Kiwiel,K.C.:凸不可微最小化的束方法中的邻近控制。数学。程序。46, 105-122 (1990) ·Zbl 0697.90060号 ·doi:10.1007/BF01585731 [30] Kiwiel,K.C.:凸不可微极小化的熵投影次梯度法。J.优化。理论应用。96, 159-173 (1998) ·Zbl 0897.90176号 ·doi:10.1023/A:1022671302532 [31] Kiwiel,K.C.:凸优化近似和增量次梯度方法的收敛性。SIAM J.Optim公司。14, 807-840 (2004) ·Zbl 1063.90039号 ·doi:10.1137/S1052623400376366 [32] Kruschel,C.,Lorenz,D.A.:计算和分析稀疏重建的可恢复支持(2013)。arXiv:1309.2460[数学.OC]·Zbl 1338.94018号 [33] Kuhn,D.:具有期望值约束的随机规划的收敛界。J.优化。理论应用。141, 597-618 (2009) ·Zbl 1175.90304号 ·doi:10.1007/s10957-008-9476-1 [34] Larsson,T.、Patriksson,M.、Strömberg,A.-B.:条件次梯度优化理论与应用。欧洲药典。第88号决议,382-403(1996年)·Zbl 0913.90225号 ·doi:10.1016/0377-2217(94)00200-2 [35] Lewis,A.S.,Luke,D.R.,Malick,J.:交替和平均非凸投影的局部线性收敛。找到。计算。数学。9, 485-513 (2009) ·兹比尔1169.49030 ·doi:10.1007/s10208-008-9036-y [36] Lim,C.,Sherali,H.D.:一些可变目标值和次梯度偏转方法的收敛性和计算分析。计算。最佳方案。申请。34, 409-428 (2005) ·Zbl 1153.90574号 ·doi:10.1007/s10589-005-3914-x [37] Löbel,A.:公共交通中的最佳车辆调度。柏林理工大学论文(1998年)·Zbl 0989.90024号 [38] Lorenz,D.A.、Pfetsch,M.E.、Tillmann,A.M.:求解基础追求:子梯度算法、启发式最优性检查和求解器比较。优化在线电子打印ID 2011-07-3100(2011)·Zbl 1371.65055号 [39] Malioutov,D。;切廷,M。;Willsky,A.,稀疏信号表示的同伦延拓,第5期,733-736(2005) [40] Nedić,A.,Bertsekas,D.P.:不可微优化的增量次梯度方法。SIAM J.Optim公司。12, 109-138 (2001) ·Zbl 0991.90099号 ·doi:10.1137/S1052623499362111 [41] Nedić,A.,Bertsekas,D.P.:次梯度方法中确定性噪声的影响。数学。程序。12575-99(2010年)·Zbl 1205.90225号 ·doi:10.1007/s10107-008-0262-5 [42] Nesterov,Y.:非光滑函数的平滑最小化。数学。程序。103, 127-152 (2005) ·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5 [43] Osbourne,M.,Presnell,B.,Turlach,B.:最小二乘问题中变量选择的新方法。IMA J.数字。分析。20, 389-402 (2000) ·Zbl 0962.65036号 ·doi:10.1093/imanum/20.3.89 [44] Polyak,B.T.:解决极值问题的通用方法。多克。阿卡德。Nauk SSSR 174,33-36(1967)·Zbl 0177.15102号 [45] Polyak,B.T.:非光滑泛函的最小化。苏联计算。数学。数学。物理学。9, 14-29 (1969) ·Zbl 0229.65056号 ·doi:10.1016/0041-5553(69)90061-5 [46] 波利亚克,B.T。;Lemaréchal,C.(编辑);Mifflin,R.(编辑),亚梯度方法:苏联研究综述,5-29(1978),埃尔姆斯福德·Zbl 0407.90072号 [47] Prékopa,A.:对随机规划理论的贡献。数学。程序。4, 202-221 (1973) ·Zbl 0273.90045号 ·doi:10.1007/BF01584661 [48] Sherali,H.D.,Choi,G.,Tubcbilek,C.H.:不可微优化的可变目标值方法。操作。Res.Lett公司。26,1-8(2000年)·Zbl 0958.90091号 ·doi:10.1016/S0167-6377(99)00063-2 [49] Shor,N.Z.:不可微函数的最小化方法。柏林施普林格(1985)·Zbl 0561.90058号 ·doi:10.1007/978-3642-82118-9 [50] van den Berg,E.,Schmidt,M.,Friedlander,M.P.,Murphy,K.:通过线性时间投影的群稀疏性。技术代表TR-2008-09,不列颠哥伦比亚大学(2008) [51] Wright,S.J.、Nowak,R.D.、Figueiredo,M.A.T.:通过可分离近似进行稀疏重建。IEEE传输。信号处理。57, 2479-2493 (2009) ·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892 [52] Zaslavski,A.J.:存在计算误差的非光滑凸优化的投影次梯度方法。数字。功能。分析。最佳方案。31, 616-633 (2010) ·Zbl 1196.49028号 ·doi:10.1080/01630563.2010.489248 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。