×

非凸不可分优化问题Bregman Peaceman-Rachford分裂方法的收敛性。 (英语) Zbl 07802573号

摘要:这项工作是关于求解具有线性约束的非凸不可分离优化问题的分裂方法,其中目标函数由两个可分离函数和一个耦合项组成。首先,基于Bregman距离和Peaceman-Rachford分裂方法的思想,提出了对乘法器采用不同松弛因子的Bregman-Peaceman-Rachfort分裂方法。其次,在包括两个松弛因子的区域以及关键的Kurdyka-Łojasiewicz性质在内的一般条件下,证明了该算法的全局收敛性和强收敛性。第三,当相关的Kurdyka-Łojasiewicz属性函数具有特殊结构时,该算法的次线性和线性收敛速度得到了保证。此外,一些初步的数值结果表明了该算法的有效性。

MSC公司:

90C26型 非凸规划,全局优化
90立方 非线性规划
65千5 数值数学规划方法

软件:

BADMM公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 沈毅。;温,Z。;Zhang,Y.,基于低阶分解的矩阵分离的增广拉格朗日交替方向法,Optim。方法软件。,29, 2, 239-263 (2014) ·Zbl 1285.90068号
[2] Xu,Y.,稀疏非负Tucker分解的交替近端梯度法,数学。程序。计算。,7, 1, 39-70 (2015) ·Zbl 1320.49019号
[3] 杨,LF;罗,JY;Xu,Y。;张,ZR;Dong,ZY,基于碳排放交易DC-DOPF分区的分布式双共识ADMM,IEEE Trans。Ind.通知。,16, 3, 1858-1872 (2020)
[4] 道格拉斯,J。;Rachford,HH,关于两个或三个空间变量中热传导问题的数值解,Trans。美国数学。Soc.,82,421-439(1956年)·Zbl 0070.35401号
[5] 狮子,PL;Mercier,B.,两个非线性算子之和的分裂算法,SIAM J.Numer。分析。,16, 964-979 (1979) ·兹比尔0426.65050
[6] Peaceman,DW;Rachford,HH Jr,抛物型和椭圆型微分方程的数值解,《社会工业杂志》。申请。数学。,3, 28-41 (1955) ·Zbl 0067.35801号
[7] 加贝,D。;Mercier,B.,通过有限元近似解非线性变分问题的对偶算法,计算。数学。申请。,2, 1, 17-40 (1976) ·Zbl 0352.65034号
[8] 格洛温斯基,R。;Marrocco,A.,Sur l’approximation,par elements finish d’ordre un,et la resolution,par penalisation-deality’e,'une classe de problems de Dirichlet non-lineares,Ann.Math。Stat.,9,41-76(1975)·Zbl 0368.65053号
[9] 组合框,PL;Wajs,VR,近端前向-后向分裂信号恢复,多尺度模型。模拟。,4, 4, 1168-1200 (2005) ·Zbl 1179.94031号
[10] 科尔曼,E。;袁,X.,一种广义近点算法及其收敛速度,SIAM J.Optim。,24, 4, 1614-1638 (2014) ·Zbl 1311.90099号
[11] Gabay,D.,第九章乘数法在变分不等式中的应用,数学研究。申请。,15299-331(1983年)
[12] 他,B。;刘,H。;王,Z。;Yuan,X.,凸规划的严格压缩Peaceman-Rachford分裂方法,SIAM J.Optim。,24, 3, 1011-1040 (2014) ·Zbl 1327.90210号
[13] 他,B。;马,F。;Yuan,X.,具有较大步长的对称型ADMM的收敛性研究,SIAM J.Imaging Sci。,9, 1467-1501 (2016) ·兹比尔1381.90066
[14] 吴,Z。;Li,M.,基于LQP的大步长乘法器对称交替方向方法,J.Oper。中国研究社会,7365-383(2019)·Zbl 1438.49049号
[15] 孙,M。;Wang,Y。;Liu,J.,多块可分离凸规划的广义Peaceman-Rachford分裂方法及其在鲁棒PCA中的应用,Calcolo,54,1,77-94(2017)·Zbl 1368.90129号
[16] 邓,Z。;Liu,S.,带凸规划替代的广义Peaceman-Rachford分裂方法,Optim。莱特。,14, 1781-1802 (2020) ·Zbl 1459.90150号
[17] 邓,Z。;Liu,S.,带凸优化不定项的惯性近似严格压缩Peaceman-Rachford分裂方法,J.Compute。申请。数学。,374, 112772 (2020) ·Zbl 1441.90117号
[18] 李,X。;Yuan,X.,凸规划的近端严格压缩Peaceman-Rachford分裂方法及其在成像中的应用,SIAM J.imaging Sci。,8, 2, 1332-1365 (2015) ·Zbl 1327.90215号
[19] 窦,MY;李,HY;Liu,XW,一种惯性近端Peaceman-Rachford分裂方法(中文),科学。罪恶。数学。,47, 2, 333-348 (2017) ·Zbl 1499.90157号
[20] Lu,S.,Hong,M.,Wang,Z.:对称非负矩阵分解的非凸分裂方法:收敛性分析和最优性。参加:2017 IEEE声学、语音和信号处理国际会议2572-2576(2017)
[21] 奥沙森,BA;Field,DJ,通过学习自然图像的稀疏代码,出现简单细胞感受野属性,《自然》,3816583607-609(1996)
[22] Chartrand,R。;Staneva,V.,受限等距特性和非凸压缩传感,逆问题。,24, 3, 035020 (2008) ·Zbl 1143.94004号
[23] Li,G.等人。;Pong,TK,Douglas-Rachford分裂用于非凸优化,应用于非凸可行性问题,数学。程序。,159, 1-2, 371-401 (2016) ·Zbl 1346.90584号
[24] Chao,MT公司;韩博士;Cai,XJ,一类非凸规划的Peaceman-Rachford分裂方法的收敛性,Numer。数学。理论方法应用。,14, 2, 438-460 (2021) ·Zbl 1488.90142号
[25] 吴,Z。;李,M。;王,D。;Han,D.,可分离非凸极小化问题的对称交替方向乘法器方法,亚太地区。《运营杂志》。第34、6、1750030号决议(2017年)·Zbl 1383.90028号
[26] Bai,J.,Liang,J.,Guo,K.,Jing,Y.:加速对称ADMM及其在信号处理中的应用(2019)。arXiv:1906.12015年
[27] 洪,M。;Luo,Z。;Razaviyayn,M.,一类非凸问题的交替方向乘子法的收敛性分析,SIAM J.Optim。,26, 337-364 (2016) ·Zbl 1356.49061号
[28] 高,X。;Xu,Y。;Zhang,S.,《随机原始-双重近端块坐标更新》,J.Oper。中国研究社会,7205-250(2019)·Zbl 1438.90255号
[29] 洪,M。;Chang,T。;王,X。;拉扎维亚因,M。;马,S。;Luo,Z.,线性约束凸优化的乘数块连续上界最小化方法,数学。操作。Res.,45,3,797-1192(2020)·Zbl 1456.90124号
[30] Chao,MT公司;郑,CZ;Liang,DY,带替换程序的乘法器近端块最小化方法,Optim。方法软件。,30, 4, 825-842 (2015) ·Zbl 1328.90105号
[31] 高,X。;Zhang,S.,带不可分离目标和耦合约束的凸优化的一阶算法,J.Oper。中国研究社会,5131-159(2017)·兹比尔139090423
[32] 崔,Y。;李,X。;Sun,D。;Toh,K.,关于带耦合目标函数的线性约束凸优化问题的优化交替方向乘子方法的收敛性,J.Optim。理论应用。,169, 1013-1041 (2016) ·Zbl 1342.90130号
[33] 陈,C。;李,M。;刘,X。;Ye,Y.,带二次耦合项的不可分离凸最小化模型的扩展ADMM和BCD:收敛分析和见解,数学。程序。,173, 37-77 (2019) ·Zbl 1415.90079号
[34] 刘,F。;徐,L。;孙,Y。;Han,D.,多块耦合凸优化的近交方向法,J.Ind.Manag。最佳。,15, 723-737 (2018) ·Zbl 1438.90258号
[35] 郭,K。;Han,D。;Wu,T.,目标和线性约束不可分离非凸优化问题的收敛性分析,Pac。J.Optim。,14, 489-506 (2018) ·兹比尔1461.90110
[36] 郭,K。;Wang,X.,线性约束下不可分离非凸目标广义交替方向乘子法的收敛性,J.Math。研究申请。,38, 523-540 (2018) ·Zbl 1424.90216号
[37] 赵,M。;邓,Z。;Jian,J.,结构不可分的非凸和非光滑问题的线性Bregman ADMM的收敛性,复杂性,2020,1-14(2020)·Zbl 1506.90206号
[38] 江,B。;Lin,T。;马,S。;Zhang,S.,结构化非凸和非光滑优化:算法和迭代复杂性分析,计算。最佳方案。申请。,72, 115-157 (2019) ·Zbl 1411.90274号
[39] 刘,Q。;沈,X。;Gu,Y.,带收敛性分析的非凸非光滑优化的线性化ADMM,IEEE Access,776131-76144(2019)
[40] Wang,H.,Banerjee,A.:Bregman交替方向乘法器方法。摘自:《神经信息处理系统进展学报》,2816-2824(2014)
[41] Li,G.等人。;Pong,T.,非凸组合优化分裂方法的全局收敛性,SIAM J.Optim。,25, 2434-2460 (2015) ·Zbl 1330.90087号
[42] Wang,F.、Xu,Z.、Xu、H.:非凸复合问题带乘数的Bregman交替方向方法的收敛性(2014)。arXiv:1410.8625
[43] Wang,F。;曹伟。;Xu,Z.,非凸组合问题多块Bregman ADMM的收敛性,科学。中国资讯。科学。,61, 122101 (2018)
[44] Xu,J.,Chao,M.:非凸优化的惯性Bregman广义交替方向乘子法。J.应用。数学。计算。(2021). doi:10.1007/s12190-021-01590-1·Zbl 1486.90160号
[45] Rockafellar,R。;Wets,R.,变异分析(2009),柏林:施普林格科学与商业媒体,柏林·兹比尔0888.49001
[46] Attouch,H。;博尔特,J。;Redont,P。;Soubeyran,A.,非凸问题的近端交替最小化和投影方法:一种基于Kurdyka-Łojasewicz不等式的方法,数学。操作。研究,35,438-457(2010)·Zbl 1214.65036号
[47] 博尔特,J。;萨巴赫,S。;Teboulle,M.,《近似交替线性化最小化或非凸和非光滑问题》,数学。程序。,146, 459-494 (2014) ·Zbl 1297.90125号
[48] Nesterov,Y.,《凸优化导论讲座:基础课程》(2013),柏林:Springer科学与商业媒体,柏林
[49] Bregman,LM,寻找凸集公共点的松弛方法及其在凸规划问题求解中的应用,苏联计算机。数学。数学。物理。,7, 200-217 (1967) ·Zbl 0186.23807号
[50] Attouch,H。;Bolt,J.,关于涉及分析特征的非光滑函数的近似算法的收敛性,数学。程序。,116, 5-16 (2009) ·Zbl 1165.90018号
[51] 曾,L。;Xie,J.,通过SCAD选择组变量\(-l_2),统计学,48,49-66(2014)·Zbl 1367.62222号
[52] 吴,Z。;Li,M.,一类非凸非光滑优化问题的通用惯性近似梯度法,计算。最佳方案。申请。,73129-158(2019)·Zbl 1420.90054号
[53] Fan,J.,评论A,Antoniadis的《统计学中的小波:评论》。J.意大利。Stat.Soc.,6131-138(1997)·Zbl 1454.62116号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。