×

针对三块凸优化问题,提出了一种基于缩放步长策略的高效部分并行算法。 (英语) Zbl 1508.90059号

摘要:由图像处理产生的一个流行的优化模型是可分离优化问题,其目标函数是三个独立函数的和,变量通过线性等式耦合。本文提出用一种新的部分并行分裂方法来解决这一问题,该方法在校正步骤中原始变量和对偶变量的步长不一定相同。我们建立了全局收敛性,并研究了基于变ADMM的VAPCM预测校正方法的收敛速度。我们导出了遍历和非遍历意义上的最坏情况\(O(1/t)\)收敛速度。我们还证明了收敛速度可以提高到\(o(1/t)\)。此外,在误差界假设下,我们建立了VAPCM的全局线性收敛性。我们将新方法应用于解决鲁棒主成分分析和图像分解中的问题。数值结果表明,该方法是有效的。

MSC公司:

90C25型 凸面编程
90C60型 数学规划问题的抽象计算复杂性

软件:

RASL公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bai,JC;李,JC;徐,FM;Zhang,HC,可分离凸优化的广义对称ADMM,计算优化应用,70,1129-170(2018)·Zbl 1461.65126号 ·doi:10.1007/s10589-017-9971-0
[2] Bauschke HH,Combettes PL(2017),希尔伯特空间中的凸分析和单调算子理论。CMS数学书籍·Zbl 1359.26003号
[3] 布曼,T。;艾巴特,NS;Zahzah,EH,《鲁棒低秩和稀疏矩阵分解手册:图像和视频处理中的应用》(2016),英国:Chapman和Hall/CRC,英国·Zbl 1339.68002号 ·doi:10.1201/b20190
[4] 蔡,XJ;韩博士;Yuan,XM,关于具有一个强凸函数的三块可分离凸最小化模型的ADMM的直接扩展的收敛性,Comput Optim Appl,66,1,39-73(2017)·Zbl 1372.90079号 ·doi:10.1007/s10589-016-9860-y
[5] 坎迪斯,EJ;李,XD;马云(Ma,Y.)。;Wright,J.,稳健主成分分析?,美国医学会杂志,58,3,1-37(2011)·兹比尔1327.62369 ·数字对象标识代码:10.1145/1970392.1970395
[6] 曹雪芹;韩博士;Xu,LL,最小化三个凸函数之和的一种新的部分分裂增广拉格朗日方法,应用数学计算,219,10,5449-5457(2013)·Zbl 1285.90032号
[7] 陈,CH;He,理学学士;Ye,YY;Yuan,XM,多块凸极小化问题ADMM的直接扩展不一定收敛,数学程序,155,1,57-79(2016)·Zbl 1332.90193号 ·doi:10.1007/s10107-014-0826-5
[8] 陈,CH;沈毅。;You,YF,关于三块乘法器交替方向法的收敛性分析,Absr Appl Anal,2013,1-7(2013)·Zbl 1302.90148号
[9] 邓,W。;赖,MJ;彭,ZM;Yin,WT,o(1/k)收敛的并行多块ADMM,科学计算杂志,71,2,712-736(2017)·Zbl 1398.65121号 ·doi:10.1007/s10915-016-0318-2
[10] 法奇尼,F。;Pang,JS,《有限维变分不等式与互补问题》,第卷(2003),纽约:运筹学中的Springer级数I,纽约·Zbl 1062.90001号
[11] 韩博士;孔,WW;Zhang,WX,用于低补丁库图像分解的部分分裂增广拉格朗日方法,数学成像与视觉杂志,51,1,145-160(2014)·Zbl 1332.68270号 ·doi:10.1007/s10851-014-0510-7
[12] 韩博士;袁,XM,关于乘法器交替方向法的注记,《最优化理论应用》,155,1227-238(2012)·兹比尔1255.90093 ·文件编号:10.1007/s10957-012-0003-z
[13] 韩博士;袁,XM;Zhang,WX,可分离凸极小化的基于增广拉格朗日的并行分裂方法及其在图像处理中的应用,数学计算,83,289,2263-2291(2014)·兹比尔1311.90100 ·doi:10.1090/S0025-5718-2014-02829-9
[14] He,BS,单调结构变分不等式的并行分裂增广拉格朗日方法,计算优化应用,42,2,195-212(2009)·Zbl 1183.65080号 ·数字对象标识代码:10.1007/s10589-007-9109-x
[15] He,理学学士;侯,LS;Yuan,XM,关于可分离凸规划的增广拉格朗日方法的全雅可比分解,SIAM J Optim,25,4,2274-2312(2015)·Zbl 1327.90209号 ·doi:10.1137/130922793
[16] He,理学学士;陶,M。;徐,MH;Yuan,XM,线性约束可分离凸规划问题的一种基于交替方向的压缩方法,优化,62,4573-596(2013)·Zbl 1273.90122号 ·doi:10.1080/02331934.2011.611885
[17] He,理学学士;陶,M。;袁,XM,可分离凸规划的高斯后代换交替方向法,SIAM J Optim,22,2,313-340(2012)·Zbl 1273.90152号 ·数字对象标识代码:10.1137/10822347
[18] He,理学学士;陶,M。;Yuan,XM,带可分离凸规划替代过程的交替方向乘法器法的收敛速度分析,Math Oper Res,42,3,662-691(2017)·Zbl 1371.90103号 ·doi:10.1287/门.2016.0822
[19] He,理学学士;Yuan,XM,一类基于ADMM的三块可分离凸规划算法,计算优化应用,70,3,791-826(2018)·Zbl 1393.90085号 ·doi:10.1007/s10589-018-9994-1
[20] 侯,LS;何,HJ;Yang,JF,多块可分离凸规划的部分并行分裂方法及其在鲁棒PCA中的应用,Comput Optim Appl,63,1,273-303(2016)·兹比尔1343.90061 ·数字对象标识代码:10.1007/s10589-015-9770-4
[21] 江,F。;吴,ZM;Cai,XJ,线性约束凸优化的带最优不确定近似项的广义ADMM,工业与管理优化杂志,13,5,1-22(2018)
[22] 江,SH;Li,M.,多块可分离凸规划的一种改进的严格收缩peaceman-rachford分裂方法,工业与管理优化杂志,14,1397-412(2018)·Zbl 1412.90109号 ·doi:10.3934/jimo.2017052
[23] 李,M。;孙,DF;Toh,KC,用一个强凸块求解凸极小化问题的收敛三块半近端ADMM,亚洲太平洋Oper Res杂志,32,4,1550024(2015)·Zbl 1327.90214号 ·doi:10.1142/S021759591550244
[24] 林,TY;马,SQ;张士忠,关于多块ADMM的次线性收敛速度,中国运筹学会学报,3,3,251-274(2015)·Zbl 1323.90052号 ·doi:10.1007/s40305-015-0092-0
[25] Ma,SQ,凸极小化的交替近端梯度法,科学计算杂志,68,2,546-572(2016)·Zbl 1371.65056号 ·doi:10.1007/s10915-015-0150-0
[26] 蒙泰罗,RDC;Svaiter,BF,块分解算法的迭代复杂性和乘法器的交替方向方法,SIAM J Optim,23,1,475-507(2013)·Zbl 1267.90181号 ·数字对象标识代码:10.1137/10849468
[27] 彭,YG;Ganesh,A。;Wright,J。;徐,WL;Ma,Y.,RASL:线性相关图像稀疏和低秩分解的鲁棒对齐,IEEE Trans-Pattern Ana Mach Intell,34,11,2233-2246(2012)·doi:10.1109/TPAMI.2011.282
[28] Rockafellar,RT,凸分析(2015),普林斯顿:普林斯顿大学出版社,普林斯顿
[29] 谢弗,H。;Osher,S.,纹理的低补丁库解释,SIAM J Imag Sci,6,1,226-262(2013)·Zbl 1335.68287号 ·doi:10.1137/110854989
[30] 沈毅。;高,QM;Yin,X.,用于多块线性约束可分离凸优化的多参数并行ADMM,应用数值数学,171369-388(2022)·Zbl 1479.90159号 ·doi:10.1016/j.apnum 2011年9月21日
[31] 沈毅。;XY张;Zhang,XY,用于多块线性约束可分离凸优化的部分PPA分块ADMM。最优化,数学规划与运筹学杂志70,3,631-657(2021)·Zbl 1465.90065号
[32] 沈毅。;左,YN;Yu,AL,用于线性约束可分离凸优化的部分近似S-ADMM,应用数值数学,160,65-83(2021)·Zbl 1459.90159号 ·doi:10.1016/j.apnum.2020.09.016
[33] 孙,DF;Toh,KC;Yang,LQ,带4类约束的圆锥规划的收敛3块半近邻交替方向乘子法,SIAM J Optim,25,2,882-915(2014)·兹伯利1328.90083 ·数字对象标识代码:10.1137/140964357
[34] Sun HC,Liu J,Sun M(2017)稳定主成分追踪的近似完全并行分裂方法。工程数学问题2017,文章ID 9674528,1-15·Zbl 1426.90200号
[35] 陶,M。;Yuan,XM,从不完整和有噪声的观测中恢复矩阵的低秩和稀疏分量,SIAM J Optim,21,1,57-81(2011)·Zbl 1218.90115号 ·数字对象标识代码:10.1137/100781894
[36] 王,JJ;Song,W.,多块可分离凸极小化模型的广义ADMM扭曲算法,计算应用数学杂志,309342-358(2017)·Zbl 1462.90095 ·doi:10.1016/j.cam.2016.02.001
[37] 王凯。;Desai,J.,关于增广拉格朗日并行分裂方法的收敛速度,优化方法和软件,34,2,278-304(2019)·Zbl 1407.65069号 ·数字对象标识代码:10.1080/10556788.2017.1370711
[38] 王凯。;德赛,J。;He,HJ,可分离凸规划的近似部分并行分裂方法,优化方法与软件,32,1,39-68(2017)·Zbl 1368.65091号 ·doi:10.1080/10556788.2016.1200044
[39] 王凯。;韩博士;Xu,LL,可分离凸规划的并行分裂方法,J Optim理论应用,159,1138-158(2013)·Zbl 1281.90034号 ·doi:10.1007/s10957-013-0277-9
[40] Wang,XF,使用两块交替方向乘数法求解多块可分离凸极小化问题,太平洋优化杂志,11,4,645-667(2013)·Zbl 1332.65080号
[41] 吴,ZM;刘,FX;Li,M.,求解多块可分离凸极小化问题的近似peaceman-rachford分裂方法,国际计算数学,96,4,708-728(2019)·Zbl 1499.90163号 ·doi:10.1080/00207160.2018.1435864
[42] Yang,世界卫生组织;Han,DR,一类凸优化问题的交替方向乘数法的线性收敛性,SIAM J Numer Ana,54,2,625-640(2016)·Zbl 1342.90138号 ·doi:10.1137/140974237
[43] 郑,XY;Ng,KF,分段线性多函数的度量子区域性及其在分段线性多目标优化中的应用,SIAM J Optim,24,1,154-174(2014)·Zbl 1306.90123号 ·doi:10.137/120889502
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。