×

关于最小化两个非光滑凸函数之和的近似次梯度分裂方法。 (英语) Zbl 1365.65160号

摘要:在本文中,当目标函数是两个不可微凸函数之和时,我们提出了一种用于解决Hilbert空间中非光滑优化问题的近端前向分裂迭代的变体。所提出的迭代方法将被称为近似次梯度分裂法,它利用目标函数的可加结构,将经典次梯度迭代扩展到重要的问题类。在适当的假设下,使用不同的步长建立了生成序列的弱收敛性。此外,我们还分析了迭代的复杂性。

MSC公司:

65千5 数值数学规划方法
90C25型 凸面编程
90立方 非线性规划

软件:

取消锁定BoX
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Alber,Y.I.,Iusem,A.N.,Solodov,M.V.:关于Hilbert空间中非光滑凸优化的投影次梯度方法。数学课程81、23-37(1998)·Zbl 0919.90122号
[2] Bauschke,H.H.,Borwein,J.:关于解决凸可行性问题的投影算法。SIAM第38版,367-426(1996)·兹比尔0865.47039 ·doi:10.1137/S0036144593251710
[3] Bauschke,H.H.,Combettes,P.L.:希尔伯特空间中的凸分析和单调算子理论。施普林格,纽约(2011)·Zbl 1218.47001号
[4] Bauschke,H.H.、Koch,V.R.、Phan,H.M.:体育场规范和Douglas-Rachford分割:道路设计优化的新方法。《运营研究》(2016)出版·兹比尔1338.90381
[5] Beck,A.,Teboulle,M.:基于梯度的约束全变差图像去噪和去模糊快速算法。IEEE Trans-image Process 18,2419-2434(2009)·Zbl 1371.94049号 ·doi:10.1109/TIP.2009.2028250
[6] Beck,A.,Teboulle,M.:基于梯度的算法及其在信号恢复问题中的应用。摘自:Palomar,D.,Eldar,Y.(编辑)《信号处理和通信中的凸优化》,第42-88页。坎布里奇大学出版社(2010)·Zbl 1211.90290号
[7] Bello Cruz,J.Y.:向量优化问题的次梯度方法。SIAM J Optim 232169-2182(2013)·Zbl 1295.90065号 ·doi:10.1137/120866415
[8] Bello Cruz,J.Y.,Iusem,A.N.:Hilbert空间中非光滑凸极小化的强收敛方法。数字功能分析优化32,1009-1018(2011)·Zbl 1232.90319号 ·数字标识代码:10.1080/01630563.2011.590914
[9] Bello Cruz,J.Y.,Iusem,A.N.:副单调变分不等式直接方法的收敛性。计算优化应用46,247-263(2010)·Zbl 1220.90129号 ·doi:10.1007/s10589-009-9246-5
[10] Bello Cruz,J.Y.,Nghia,T.T.A.:关于近端向前向后分裂方法与线搜索的收敛性。技术报告,2015年,可从arXiv获得:1501.02501.pdf·Zbl 1354.65116号
[11] Bot,R.,Csetnek,E.R.:单调包含问题的前向-后向和Tseng类型惩罚方案。集值和变分分析22,313-331(2014)·Zbl 1308.47064号 ·doi:10.1007/s11228-014-0274-7
[12] Candes,E.J.,Tao,T.:线性编程解码。IEEE Trans-Inf理论51,4203-4215(2005)·Zbl 1264.94121号 ·doi:10.1109/TIT.2005.858979
[13] Chavent,G.,Kunisch,K.:约束不适定反问题的Tikhonov正则化的收敛性。反向探针10,63-76(1994)·Zbl 0799.65061号 ·doi:10.1088/0266-5611-10/1/006
[14] Chen,G.H.-G.,Rockafellar,R.T.:正向-反向分裂的收敛速度。SIAM J Optim 7,421-444(1997)·Zbl 0876.49009号 ·doi:10.1137/S1052623495290179
[15] Combettes,P.L.:通过非扩张平均算子的组合求解单调包含。优化53475-504(2004)·Zbl 1153.47305号 ·doi:10.1080/02331930412331327157
[16] Combettes,P.L.:一些优化算法的准Fejérian分析。可行性和优化中的内在并行算法及其应用。计算数学研究8 115-152北荷兰阿姆斯特丹(2001)·Zbl 0992.65065号
[17] Combettes,P.L.,Pesquet,J.-C.:非光滑凸变分信号恢复的Douglas-Rachford分裂方法。IEEE信号处理选定主题期刊1564-574(2007)·doi:10.1010/JSTSP.2007.910264
[18] Combettes,P.L.,Pesquet,J.-C.:信号处理中的近距离分裂方法。中:反问题的定点算法。科学与工程。Springer Optimization and Its Applications 49 185-212 Springer New York(2011)·Zbl 1242.90160号
[19] Combettes,P.L.,Wajs,V.R.:通过近端前向-后向分裂恢复信号。多尺度模型Simul 41168-1200(2005)·Zbl 1179.94031号 ·数字对象标识代码:10.1137/050626090
[20] Combettes,P.L.,Vũ,B.C.:可变度量正向反向分裂,应用于对偶中的单调包含。优化63,1289-1318(2014)·Zbl 1309.90109号 ·doi:10.1080/02331934.2012.733883
[21] D'Antonio,G.,Frangioni,A.:偏转条件近似次梯度方法的收敛性分析。SIAM J Optim 20,357-386(2009)·Zbl 1187.90222号 ·doi:10.1137/080718814
[22] Ermoliev,Y.U.M.:关于广义随机梯度和拟Fejér序列的方法。控制论5208-220(1969)·doi:10.1007/BF01071091
[23] Figueiredo,M.、Novak,R.、Wright,S.J.:稀疏重建的梯度投影:应用于压缩传感和其他反问题。IEEE J Sel Top Sign Proces 1,586-597(2007)·doi:10.1109/JSTSP.2007.910281
[24] Geman,S.,Geman,D.:图像的随机松弛、吉布斯分布和贝叶斯恢复。IEEE跨模式分析马赫数集成电路6721-741(1984)·Zbl 0573.62030号 ·doi:10.1109/TPAMI.1984.4767596
[25] Held,M.,Wolfe,P.,Crowder,H.:次梯度优化的验证。数学课程66-68(1974)·Zbl 0284.90057号 ·doi:10.1007/BF01580223
[26] James,G.M.,Radchenko,P.,Lv,J.:DASSO:Dantzig选择器和套索之间的连接。J R Stat Soc Ser B Stat Methodol 71、127-142(2009年)·Zbl 1231.62129号 ·文件编号:10.1111/j.1467-9868.2008.00668.x
[27] Kim,S.,Ahn,H.,Cho,S.-C.:可变目标值次梯度法。数学课程49,359-369(1991)·Zbl 0825.90754号 ·doi:10.1007/BF01588797
[28] Kiviel,K.C.:凸优化的近似和增量次梯度方法的收敛性。SIAM J Optim(2006),第14期,第807-840页·Zbl 1063.90039号 ·doi:10.1137/S1052623400376366
[29] Kiwiel,K.C.:凸优化的次梯度投影方法的效率,第一部分:一般水平方法。SIAM J Control Optim公司34、660-676(1996)·Zbl 0846.90084号 ·doi:10.1137/0334031
[30] Larson,T.,Patriksson,M.,Stromberg,A.-B.:条件次梯度优化-理论与应用。《欧洲运营研究杂志》88,382-403(1996)·Zbl 0913.90225号 ·doi:10.1016/0377-2217(94)00200-2
[31] Mosci,S.、Rosasco,L.、Santoro,M.、Verri,A.、Villa,S.和Sebag,M.:用近似方法求解结构化稀疏正则化。In:Balczar,J,Bonchi,F,Gionis,A(编辑)《数据库中的机器学习和知识发现》,计算机科学讲稿6322,Springer,2010,418-433·Zbl 0855.47043号
[32] Neal,P.,Boyd,S.:近似算法。优化基础和趋势112-239(2014)·数字对象标识代码:10.1561/24000003
[33] Nedic,A.,Bertsekas,D.P.:不可微优化的增量次梯度方法。SIAM J Optim 12,109-138(2001年)·Zbl 0991.90099号 ·doi:10.1137/S1052623499362111
[34] Nesterov,Y.U.:大规模优化问题的子梯度方法。数学课程146、275-297(2014)·兹比尔1297.90120 ·文件编号:10.1007/s10107-013-0686-4
[35] Nesterov,Y.U.:最小化复合函数的梯度方法。数学课程140,125-161(2013)·Zbl 1287.90067号 ·doi:10.1007/s10107-012-0629-5
[36] Nesterov,Y.U:坐标下降方法在大规模优化问题上的效率。SIAM J Optim 22,341-362(2012)·Zbl 1257.90073号 ·数字对象标识代码:10.1137/100802001
[37] Nesterov,Y.U.:关于凸优化的介绍性讲座:基础课程。Kluwer学术出版社Norwel(2004)·Zbl 1086.90045号
[38] Polyak,B.T.:《非光滑函数的最小化》(U.S.S.R.Comput Math Math Phys 9,14-29,1969)·Zbl 0229.65056号 ·doi:10.1016/0041-5553(69)90061-5
[39] Rockafellar,R.T.:单调算子和近点算法。SIAM J控制优化14,877-898(1976)·Zbl 0358.90053号 ·数字对象标识代码:10.1137/0314056
[40] Sagastizb¨al,C.:复合近端束方法。数学课程140、189-233(2013)·Zbl 1273.90163号 ·doi:10.1007/s10107-012-0600-5
[41] Sherali,H.D.,Choi,G.,Tuncbilek,C.H.:不可微优化的可变目标值方法。不可微优化的可变目标值方法,1-8(1997)·Zbl 0958.90091号
[42] Svaiter,B.F.:一类Fejér收敛算法、近似解和混合Proximal-Extragradient方法。《最优化理论应用杂志》162133-153(2014)·Zbl 1311.90178号 ·doi:10.1007/s10957-013-0449-7
[43] Tropp,J.:放松:识别稀疏信号的凸规划方法。IEEE Trans-Inf理论51,1030-1051(2006)·Zbl 1288.94025号 ·doi:10.1109/TIT.2005.864420
[44] Zhu,D.L.,Marcotte,P.:协方差性及其在求解变分不等式的迭代格式收敛中的作用。SIAM J Optim 6,714-726(1996)·Zbl 0855.47043号 ·doi:10.1137/S1052623494250415
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。