×

一类非凸非光滑优化问题的带外推的非精确近似梯度算法。 (英语) Zbl 1499.90173号

摘要:在本文中,我们提出了一种带外推的非精确近似梯度算法,用于求解一类非凸非光滑优化问题。具体来说,具有外推法的近似梯度算法中的子问题可以通过某种相对误差准则不精确地求解,即该准则可以在每次迭代中自适应地更新。在辅助函数满足Kurdyka-Łojasiewicz(KL)不等式的假设下,我们证明了用外推的不精确近似梯度算法生成的迭代序列收敛到所考虑问题的一个稳定点。此外,当KL指数已知时,可以确定该算法的收敛速度。此外,我们通过将该算法应用于求解一个非凸优化问题来说明其优点。

MSC公司:

90C26型 非凸规划,全局优化
90立方 非线性规划
90C25型 凸面编程
65K10码 数值优化和变分技术
94A08型 信息与通信理论中的图像处理(压缩、重建等)

软件:

iPiano公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Candès,E.J.,Tao,T.:线性编程解码。IEEE传输。《Inf.Theory》51,4203-4215(2005)·Zbl 1264.94121号 ·doi:10.1109/TIT.2005.858979
[2] Donoho,D.L.:压缩传感。IEEE传输。《信息论》52,1289-1306(2006)·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[3] Chambolle,A.:总变异最小化算法及其应用。数学杂志。成像视觉。20, 89-97 (2004) ·Zbl 1366.94048号 ·doi:10.1023/B:JMIV.00000011320.81911.38
[4] Bauschke,H.H.,Combettes,P.L.:希尔伯特空间中的凸分析和单调算子理论。施普林格,纽约(2011)·兹比尔1218.47001 ·doi:10.1007/978-1-4419-9467-7
[5] Jia,Z.H.,Cai,X.J.:前向-后向分裂方法中参数的松弛。派克靴。J.优化。13, 665-681 (2017) ·Zbl 1474.90334号
[6] O'Donoghue,B.,Candès,E.J.:加速梯度方案的自适应重启。找到。计算。数学。15, 715-732 (2015) ·Zbl 1320.90061号 ·doi:10.1007/s10208-013-9150-3
[7] Parikh,N.,Boyd,S.:近似算法。找到。趋势优化。1, 127-239 (2014) ·数字对象标识代码:10.1561/24000003
[8] Beck,A.,Teboulle,M.:线性反问题的快速迭代收缩阈值算法。SIAM J.成像科学。2, 183-202 (2009) ·Zbl 1175.94009号 ·doi:10.1137/080716542
[9] Attouch,H.,Bolt,J.:关于涉及分析特征的非光滑函数的近似算法的收敛性。数学。程序。116, 5-16 (2009) ·Zbl 1165.90018号 ·文件编号:10.1007/s10107-007-0133-5
[10] Attouch,H.,Bolt,J.,Redont,P.,Soubeyran,A.:非凸问题的近似交替最小化和投影方法:基于Kurdyka-Lojasiewicz不等式的方法。数学。操作。第35号决议,第438-457号决议(2010年)·Zbl 1214.65036号 ·doi:10.1287/门.1100.0449
[11] Frankel,P.,Garrigos,G.,Peypouquet,J.:Kurdyka-Lojaseewicz函数的变度量分裂方法和一般收敛速度。J.优化。理论应用。165, 874-900 (2015) ·Zbl 1316.49039号 ·doi:10.1007/s10957-014-0642-3
[12] Ochs,P.,Chen,Y.,Brox,T.,Pock,T.:iPiano:非凸优化的惯性近似算法。SIAM J.成像科学。7, 1388-1419 (2014) ·兹比尔1296.90094 ·数字对象标识代码:10.1137/130942954
[13] Wen,B.,Chen,X.J.,Pong,T.K.:一类非凸非光滑最小化问题的带外推的近似梯度算法的线性收敛性。SIAM J.优化。27, 124-145 (2017) ·Zbl 1359.90138号 ·doi:10.1137/16M1055323
[14] Attouch,H.,Bolt,J.,Svaiter,B.F.,Soubeyran,A.:半代数和驯化问题下降方法的收敛性:近似算法,前向-后向分裂和正则高斯-赛德尔方法。数学。程序。137, 91-129 (2013) ·Zbl 1260.49048号 ·doi:10.1007/s10107-011-0484-9
[15] Wu,Z.M.,Li,M.:一类非凸非光滑优化问题的通用惯性近似梯度法。计算。最佳方案。申请。(2019). https://doi.org/10.1007/s10589-019-00073-1 ·兹比尔1420.90054 ·doi:10.1007/s10589-019-00073-1
[16] Rockafellar,R.T.:单调算子和近点算法。SIAM J.控制优化。14, 877-898 (1976) ·兹比尔0358.90053 ·数字对象标识代码:10.1137/0314056
[17] Solodov,M.V.,Svaiter,B.F.:使用最大单调算子扩大的混合近似外梯度-最大点算法。设定值变量分析。7, 323-345 (1999) ·Zbl 0959.90038号 ·doi:10.1023/A:1008777829180
[18] Solodov,M.V.,Svaiter,B.F.:一种混合投影-近点算法。J.凸面分析。6, 59-70 (1999) ·Zbl 0961.90128号
[19] Solodov,M.V.,Svaiter,B.F.:一种不精确的混合广义近点算法和关于Bregman函数理论的一些新结果。数学。操作。第25号决议,214-230(2000)·Zbl 0980.90097号 ·doi:10.1287/门25.2.214.12222
[20] Li,G.Y.,Pong,T.K.:Kurdyka-Łojasiewicz不等式的指数演算及其在一阶方法线性收敛中的应用。找到。计算。数学。18, 1199-1232 (2018) ·Zbl 1405.90076号 ·doi:10.1007/s10208-017-936-8
[21] Bolt,J.,Sabach,S.,Teboulle,M.:近似交替线性化最小化或非凸和非光滑问题。数学。程序。146, 459-494 (2014) ·Zbl 1297.90125号 ·doi:10.1007/s10107-013-0701-9
[22] Nesterov,Y.:凸优化入门讲座:基础课程。Kluwer学术出版社,波士顿(2004)·Zbl 1086.90045号 ·doi:10.1007/978-1-4419-8853-9
[23] Li,G.Y.,Pong,T.K.:非凸优化的Douglas-Rachford分裂及其在非凸可行性问题中的应用。数学。程序。159, 371-401 (2016) ·Zbl 1346.90584号 ·doi:10.1007/s10107-015-0963-5
[24] Xu,Y.Y.,Yin,W.T.:正则化多凸优化的块坐标下降方法,应用于非负张量分解和完成。SIAM J.成像科学。6, 1758-1789 (2013) ·Zbl 1280.49042号 ·数字对象标识代码:10.1137/120887795
[25] Markowitz,H.:投资组合选择。《金融杂志》7,77-91(1952)
[26] Liu,Q.S.,Dang,C.Y.,Cao,J.D.:一种新的具有一个神经元的递归神经网络,用于k-winners-take-all操作的有限时间收敛。IEEE传输。神经网络。21, 1140-1148 (2010) ·doi:10.1109/TNN.2009.2038645
[27] Liu,Q.S.,Cao,J.D.,Chen,G.R.:线性规划的一种新型有限时间收敛递归神经网络。神经计算。22, 2962-2978 (2010) ·Zbl 1208.68175号 ·doi:10.1162/NECO_a_00029
[28] Chen,X.,Peng,J.M.,Zhang,S.Z.:随机标准二次优化问题的稀疏解。数学。程序。141, 273-293 (2013) ·Zbl 1305.90323号 ·doi:10.1007/s10107-012-0519-x
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。