王凯;吉塔米特拉·德赛 基于增广拉格朗日算法的并行分裂算法的收敛速度。 (英语) Zbl 1407.65069号 最佳方案。方法软件。 34,第2期,278-304(2019). 摘要:增广拉格朗日方法(ALM)是求解线性约束凸优化问题的一种备受推崇的算法。最近,在[B.他等,SIAM J.Optim。25,第4期,2274–2312(2015年;Zbl 1327.90209号)]证明了当目标函数是无耦合变量的(m\geq2)函数之和时,ALM的直接雅可比分解不一定收敛。然后,K·王等【Optim.Lett.9,No.6,1199–1212(2015;Zbl 1323.90053号)]在所有目标函数均强凸的假设下,证明了基于增广拉格朗日的并行分裂方法的全局收敛性。本文推广了这些结果,并导出了该方法在遍历和非遍历条件下的最坏情况(O(1/t))收敛速度,其中(t)表示迭代次数。此外,我们还证明了该方法的收敛速度可以从(O(1/t)提高到(O(1/t线性收敛,当涉及的函数满足一些附加条件时。 引用于1文件 MSC公司: 65千5 数值数学规划方法 90C25型 凸面编程 90立方 非线性规划 关键词:增广拉格朗日方法;可分离凸规划;雅可比分解;平行分裂法;全局线性收敛;收敛速度 引文:Zbl 1327.90209号;兹比尔1323.90053 软件:LMa拟合 PDF格式BibTeX公司 XML格式引用 \textit{K.Wang}和\textit{J.Desai},Optim。方法软件。34,编号2278-304(2019;兹bl 1407.65069) 全文: 内政部 参考文献: [1] 巴兹利,J.M。;Knepper,S。;Nagy,J.,自适应光学成像中的结构化线性代数问题,高级计算。数学。,35, 103-117 (2011) ·Zbl 1252.78015号 [2] Bose,N。;Boo,K.,《多传感器高分辨率图像重建》,《国际图像杂志》。系统。技术,9294-304(1998) [3] 博伊德,S。;北卡罗来纳州帕里赫。;朱,E。;佩莱托,B。;Eckstein,J.,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。学习。,3, 1-122 (2010) ·Zbl 1229.90122号 [4] 蔡,X。;Han,D。;Yuan,X.,关于具有一个强凸函数的三块可分离凸极小化模型的ADMM直接扩张的收敛性,计算。最佳方案。申请。,66, 39-73 (2017) ·Zbl 1372.90079号 [5] 邓伟(Deng,W.)、赖(Lai,M.)、彭(Peng,Z.)和尹伟(Yin,W。,具有\(#####)收敛的并行多块ADMM,技术代表,加州大学洛杉矶分校CAM 13-642013。 [6] Dinh,Q.T。;内科瓦拉,I。;萨沃格南,C。;Diehl,M.,大规模可分离凸优化中拉格朗日分解的不精确扰动路径允许方法,SIAM J.Optim。,23, 95-125 (2013) ·Zbl 1284.90049号 [7] 埃克斯坦,J。;Yao,W.,理解乘数交替方向方法的收敛性:理论和计算视角,太平洋大学。J.Optim。,11, 619-644 (2015) ·Zbl 1330.90074号 [8] 法奇尼,F。;Pang,J.,《有限维变分不等式和互补问题》,第一卷和第二卷(2003年),Springer:Springer,纽约·Zbl 1062.90001号 [9] Han博士。;He,H。;Xu,L.,最小化线性约束凸函数和的近似并行分裂方法,J.Compute。申请。数学。,256, 36-51 (2014) ·Zbl 1314.90060号 [10] Han博士。;袁,X。;Zhang,W.,可分离凸极小化的基于增广拉格朗日的并行分裂方法及其在图像处理中的应用,数学。计算。,83, 2263-2291 (2014) ·Zbl 1311.90100号 [11] He,H。;Han,D.,多块凸极小化问题的分布式Douglas-Rachford分裂方法,高级计算。数学。,42, 27-53 (2016) ·Zbl 1332.90198号 [12] 他,B。;陶,M。;袁,X.,可分凸规划的高斯-巴克替代交替方向法,SIAM J.Optim。,22, 313-340 (2012) ·Zbl 1273.90152号 [13] 他,B。;Hou,L。;袁,X.,关于可分凸规划增广拉格朗日方法的完全雅可比分解,SIAM J.Optim。,25, 4, 2274-2312 (2015) ·Zbl 1327.90209号 [14] He,H。;蔡,X。;Han,D.,为dantzig选择器定制的快速拆分方法,计算。最佳方案。申请。,62, 2, 347-372 (2015) ·Zbl 1334.90165号 [15] 他,B。;Xu,H.K。;Yuan,X.,关于多块可分离凸极小化问题ALM的近端Jacobian分解及其与ADMM的关系,J.Sci。计算。,66, 3, 1204-1217 (2016) ·Zbl 1371.65052号 [16] Hestenes,M.R.,乘数和梯度法,J.Optim。理论应用。,4, 303-320 (1969) ·Zbl 0174.20705号 [17] Hou,L。;他,H。;Yang,J.,多块可分离凸规划的部分并行分裂方法及其在鲁棒PCA中的应用,计算。最佳方案。申请。,63, 1, 273-303 (2016) ·Zbl 1343.90061号 [18] Lin,T。;马,S。;Zhang,S.,关于多块变量ADMM的全局线性收敛性,SIAM J.Optim。,1478-1497年3月25日(2015年)·Zbl 1333.90095号 [19] Lin,T.-Y。;马秀秋。;Zhang,S.-Z.,关于多块ADMM的次线性收敛速度,J.Oper。中国研究社会,3,3,251-274(2015)·兹比尔1323.90052 [20] Nedic,A。;Ozdaglar,A.,多智能体优化的分布式次梯度方法,IEEE Trans。自动化。控制。,54, 48-61 (2009) ·Zbl 1367.90086号 [21] Nesterov,Y.,《凸优化入门讲座:基础课程》(2003),Kluwer:Kluwer,Boston [22] Nesterov,Y.,最小化复合函数的梯度方法,数学。程序。序列号。B.、140、1、125-161(2013)·Zbl 1287.90067号 [23] Oreifej,O。;李,X。;Shah,M.,湍流中的同步视频稳定和运动目标检测,IEEE Trans。模式分析。马赫智能。,35, 450-462 (2013) [24] M.鲍威尔。,极小化问题中非线性约束的一种方法,英寸优化R.Fletcher主编,学术出版社,纽约,1969年,第283-298页·Zbl 0194.47701号 [25] 塞泽尔,S。;斯泰德尔,G。;Tebuber,T.,通过分裂Bregman技术消除泊松图像模糊,J.Vis。Commun公司。图像R.,21193-199(2010) [26] 沈,Y。;温,Z。;Zhang,Y.,基于低阶分解的矩阵分离的增广拉格朗日交替方向法,Optim。方法软件。,29, 2, 239-263 (2014) ·Zbl 1285.90068号 [27] Tao,M.,具有(####)收敛速度的可分凸规划的一些并行分裂方法,Pac。J.Optim。,10, 2, 359-384 (2014) ·Zbl 1294.90046号 [28] 陶,M。;Yuan,X.,从不完全和噪声观测中恢复矩阵的低秩和稀疏分量,SIAM J.Optim。,第21页,第57-81页(2011年)·Zbl 1218.90115号 [29] Tibshirani,R。;桑德斯,M。;Rosset,S。;朱,J。;K.奈特(K.K.Knight),《通过融合LASSO,J.R.Stat.Soc.Ser的稀疏与平滑》。B.,67,91-108(2005年)·Zbl 1060.62049号 [30] 王凯。;德赛,J。;He,H.,关于增广拉格朗日并行分裂方法的注记,Optim。莱特。,9, 1199-1212 (2015) ·兹比尔1323.90053 [31] 王,X。;洪,M。;马,S。;Luo,Z.,用乘数的两块交替方向法求解多块可分凸极小化问题,Pac。J.Optim。,11, 4, 645-667 (2015) ·Zbl 1332.65080号 [32] 王凯。;德赛,J。;He,H.,可分离凸规划的近端部分并行分裂方法,Optim。方法软件。,32, 1, 39-68 (2017) ·Zbl 1368.65091号 [33] 杨,J。;Zhang,Y.,《压缩传感中(####)问题的交替方向算法》,SIAM J.Sci。计算。,33, 250-278 (2011) ·Zbl 1256.65060号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。