×

使用自适应近似投影的不可行点次梯度方法。 (英语) Zbl 1304.90159号

摘要:我们提出了一种新的次梯度方法来最小化凸集上的非光滑凸函数。为了加快计算速度,我们使用自适应近似投影,只需要在精确投影的一定距离内移动(在算法过程中会减少)。特别是,我们方法中的迭代在整个过程中可能是不可行的。然而,我们提供了在适当的假设下确保收敛到最佳可行点的条件。一个收敛结果处理先验固定的步长序列。另两个结果处理动态Polyak型步长,分别取决于最优目标函数值的上下估计。此外,我们简要介绍了两个应用:凸机会约束优化和寻找欠定线性系统的最小(ell{1})范数解,这是压缩传感中的一个重要问题。

MSC公司:

90C25型 凸面编程
90摄氏52度 减少梯度类型的方法

软件:

PDCO公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Alber,Y.I.,Iusem,A.N.,Solodov,M.V.:关于Hilbert空间中非光滑凸优化的投影次梯度方法。数学。程序。81, 23-35 (1998) ·Zbl 0919.90122号
[2] Allen,E.,Helgason,R.,Kennington,J.,Shetty,B.:亚梯度优化的Polyak收敛结果的推广。数学。程序。37, 309-317 (1987) ·Zbl 0631.90060号 ·doi:10.1007/BF02591740
[3] Anstreicher,K.M.,Wolsey,L.A.:次梯度优化的两个“众所周知的”性质。数学。程序。120213-220(2009年)·Zbl 1180.90179号 ·doi:10.1007/s10107-007-0148-y
[4] Bauschke,H.H.,Borwein,J.M.:关于解决凸可行性问题的投影算法。SIAM第38版,367-426(1996)·Zbl 0865.47039号 ·doi:10.1137/S0036144593251710
[5] Bazaraa,M.S.,Sherali,H.D.:关于次梯度优化中步长的选择。欧洲药典。第7号决议,380-388(1981)·Zbl 0454.90056号 ·doi:10.1016/0377-2217(81)90096-5
[6] Bertsekas,D.P.,Mitter,S.K.:具有不可微代价泛函的优化问题的下降数值方法。SIAM J.控制11,637-652(1973)·Zbl 0243.49012号 ·doi:10.1137/0311049
[7] Birge,J.R.,Louveaux,F.:随机编程导论。序列号。操作。施普林格研究所,柏林(1999年)。修正的第二次打印
[8] Boyd,S.,Mutapcic,A.:《随机次梯度法》。课堂讲稿(2007年)。http://see.stanford.edu/materials/lsocoee364b/04-stoch_subgrad_notes.pdf。2013年8月29日访问·Zbl 1173.90502号
[9] Bruckstein,A.M.,Donoho,D.L.,Elad,M.:从方程组的稀疏解到信号和图像的稀疏建模。SIAM版本51,34-81(2009)·Zbl 1178.68619号 ·数字对象标识代码:10.1137/060657704
[10] Candès,E.,Romberg,J.,Tao,T.:稳健的不确定性原理:从高度不完整的频率信息中进行准确的信号重建。IEEE传输。《信息论》52,489-509(2006)·Zbl 1231.94017号 ·doi:10.1109/TIT.2005.862083
[11] Charnes,A.,Cooper,W.W.:机会约束编程。管理。科学。6, 73-79 (1959) ·Zbl 0995.90600号 ·doi:10.1287/mnsc.6.1.73
[12] Chen,S.S.,Donoho,D.L.,Saunders,M.A.:通过基追踪进行原子分解。SIAM J.科学。计算。20, 33-61 (1998) ·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[13] Cohen,A.,Dahmen,W.,DeVore,R.:自适应小波方法。二、。在椭圆情况之外。找到。计算。数学。2, 203-245 (2002) ·Zbl 1025.65056号 ·doi:10.1007/s102080010027
[14] Combettes,P.L.,Luo,J.:用于不可微约束图像恢复的自适应水平集方法。IEEE传输。图像处理。11295-1304(2002年)·doi:10.1109/TIP.2002.804527
[15] 压缩传感资源。http://dsp.rice.edu/cs。2013年8月29日访问
[16] D'Antonio,G.,Frangioni,A.:偏转条件近似次梯度方法的收敛性分析。SIAM J.Optim公司。20, 357-386 (2009) ·Zbl 1187.90222号 ·doi:10.1137/080718814
[17] Donoho,D.L.:压缩传感。IEEE传输。《信息论》52,1289-1306(2006)·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[18] Ferris,M.C.:弱尖锐极小值和精确惩罚函数。技术代表779,Comp。科学。威斯康星大学系,威斯康星州麦迪逊,美国(1988年)
[19] Goffin,J.L.,Kiwiel,K.:简单次梯度能级方法的收敛性。数学。程序。85207-211(1999年)·兹比尔0956.90032 ·doi:10.1007/s101070050053
[20] Grasmair,M.、Haltmier,M.和Scherzer,O.:线性收敛的充要条件1-正规化。Commun公司。纯应用程序。数学。64, 161-182 (2011) ·Zbl 1217.65095号 ·doi:10.1002/cpa.20350
[21] Klein Haneveld,W.K.:随机线性和动态规划中的二重性。经济学和数学系统讲义,第274卷。柏林施普林格(1986)·Zbl 0598.90062号 ·doi:10.1007/978-3-642-51697-9
[22] Klein Haneveld,W.K.,van der Vlerk,M.H.:综合机会约束:简化形式和算法。计算。管理。科学。3, 245-269 (2006) ·Zbl 1136.90424号 ·doi:10.1007/s10287-005-0007-3
[23] Neto,E.S.H.,De Pierro,A.R.:约束凸优化的增量次梯度:统一框架和新方法。SIAM J.Optim公司。20, 1547-1572 (2009) ·兹比尔1207.65082 ·doi:10.1137/070711712
[24] Hestenes,M.R.,Stiefel,E.:求解线性系统的共轭梯度方法。《国家研究杂志》。伯尔。站立。49309-436(1952年)·Zbl 0048.09901号 ·doi:10.6028/jres.049.044
[25] Hiriart-Urruti,J.-B.,Lemaréchal,C.:凸分析和最小化算法。二、。序列号。Grundlehren der Mathematischen Wissenschaften[Fundam.Princ.Math.Sci.],第306卷。柏林施普林格(1993)·Zbl 0795.49002号
[26] Hiriart-Urruti,J.-B.,Lemaréchal,C.:凸分析基础。施普林格,柏林(2004)。校正后的第二次打印
[27] Kall,P.,Mayer,J.:随机线性规划。模型、理论和计算。柏林施普林格出版社(2005)·Zbl 1104.90033号
[28] Kim,S.,Ahn,H.,Cho,S.-C.:可变目标值次梯度法。数学。程序。49, 359-369 (1991) ·Zbl 0825.90754号 ·doi:10.1007/BF01588797
[29] Kiwiel,K.C.:凸不可微最小化的束方法中的邻近控制。数学。程序。46, 105-122 (1990) ·Zbl 0697.90060号 ·doi:10.1007/BF01585731
[30] Kiwiel,K.C.:凸不可微极小化的熵投影次梯度法。J.优化。理论应用。96, 159-173 (1998) ·Zbl 0897.90176号 ·doi:10.1023/A:1022671302532
[31] Kiwiel,K.C.:凸优化近似和增量次梯度方法的收敛性。SIAM J.Optim公司。14, 807-840 (2004) ·Zbl 1063.90039号 ·doi:10.1137/S1052623400376366
[32] Kruschel,C.,Lorenz,D.A.:计算和分析稀疏重建的可恢复支持(2013)。arXiv:1309.2460[数学.OC]·Zbl 1338.94018号
[33] Kuhn,D.:具有期望值约束的随机规划的收敛界。J.优化。理论应用。141, 597-618 (2009) ·Zbl 1175.90304号 ·doi:10.1007/s10957-008-9476-1
[34] Larsson,T.、Patriksson,M.、Strömberg,A.-B.:条件次梯度优化理论与应用。欧洲药典。第88号决议,382-403(1996年)·Zbl 0913.90225号 ·doi:10.1016/0377-2217(94)00200-2
[35] Lewis,A.S.,Luke,D.R.,Malick,J.:交替和平均非凸投影的局部线性收敛。找到。计算。数学。9, 485-513 (2009) ·兹比尔1169.49030 ·doi:10.1007/s10208-008-9036-y
[36] Lim,C.,Sherali,H.D.:一些可变目标值和次梯度偏转方法的收敛性和计算分析。计算。最佳方案。申请。34, 409-428 (2005) ·Zbl 1153.90574号 ·doi:10.1007/s10589-005-3914-x
[37] Löbel,A.:公共交通中的最佳车辆调度。柏林理工大学论文(1998年)·Zbl 0989.90024号
[38] Lorenz,D.A.、Pfetsch,M.E.、Tillmann,A.M.:求解基础追求:子梯度算法、启发式最优性检查和求解器比较。优化在线电子打印ID 2011-07-3100(2011)·Zbl 1371.65055号
[39] Malioutov,D。;切廷,M。;Willsky,A.,稀疏信号表示的同伦延拓,第5期,733-736(2005)
[40] Nedić,A.,Bertsekas,D.P.:不可微优化的增量次梯度方法。SIAM J.Optim公司。12, 109-138 (2001) ·Zbl 0991.90099号 ·doi:10.1137/S1052623499362111
[41] Nedić,A.,Bertsekas,D.P.:次梯度方法中确定性噪声的影响。数学。程序。12575-99(2010年)·Zbl 1205.90225号 ·doi:10.1007/s10107-008-0262-5
[42] Nesterov,Y.:非光滑函数的平滑最小化。数学。程序。103, 127-152 (2005) ·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[43] Osbourne,M.,Presnell,B.,Turlach,B.:最小二乘问题中变量选择的新方法。IMA J.数字。分析。20, 389-402 (2000) ·Zbl 0962.65036号 ·doi:10.1093/imanum/20.3.89
[44] Polyak,B.T.:解决极值问题的通用方法。多克。阿卡德。Nauk SSSR 174,33-36(1967)·Zbl 0177.15102号
[45] Polyak,B.T.:非光滑泛函的最小化。苏联计算。数学。数学。物理学。9, 14-29 (1969) ·Zbl 0229.65056号 ·doi:10.1016/0041-5553(69)90061-5
[46] 波利亚克,B.T。;Lemaréchal,C.(编辑);Mifflin,R.(编辑),亚梯度方法:苏联研究综述,5-29(1978),埃尔姆斯福德·Zbl 0407.90072号
[47] Prékopa,A.:对随机规划理论的贡献。数学。程序。4, 202-221 (1973) ·Zbl 0273.90045号 ·doi:10.1007/BF01584661
[48] Sherali,H.D.,Choi,G.,Tubcbilek,C.H.:不可微优化的可变目标值方法。操作。Res.Lett公司。26,1-8(2000年)·Zbl 0958.90091号 ·doi:10.1016/S0167-6377(99)00063-2
[49] Shor,N.Z.:不可微函数的最小化方法。柏林施普林格(1985)·Zbl 0561.90058号 ·doi:10.1007/978-3642-82118-9
[50] van den Berg,E.,Schmidt,M.,Friedlander,M.P.,Murphy,K.:通过线性时间投影的群稀疏性。技术代表TR-2008-09,不列颠哥伦比亚大学(2008)
[51] Wright,S.J.、Nowak,R.D.、Figueiredo,M.A.T.:通过可分离近似进行稀疏重建。IEEE传输。信号处理。57, 2479-2493 (2009) ·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892
[52] Zaslavski,A.J.:存在计算误差的非光滑凸优化的投影次梯度方法。数字。功能。分析。最佳方案。31, 616-633 (2010) ·Zbl 1196.49028号 ·doi:10.1080/01630563.2010.489248
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。