×

一种部分不精确的近似交替方向乘法器方法及其迭代复杂性分析。 (英语) Zbl 07093339号

摘要:本文提出了一种计算线性约束凸优化问题近似解的部分不精确最近交替方向乘子法。该方法允许使用相对近似准则不精确地求解其第一个子问题,而在第二个子问题中添加一个近端项以简化它。拉格朗日乘子的更新规则中包含一个步长参数以提高其计算性能。建立了该方法的逐点和遍历迭代复杂性界。据我们所知,这是第一次分析具有相对误差准则的不精确交替方向乘法器方法的复杂性。一些初步的数值实验表明了新方法的优点。

MSC公司:

47时05分 单调算子和推广
49平方米27 分解方法
90C25型 凸面编程
90C60型 数学规划问题的抽象计算复杂性
65K10码 数值优化和变分技术
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Gabay,D.,Mercier,B.:通过有限元近似求解非线性变分问题的对偶算法。计算。数学。申请。2(1),17-40(1976)·Zbl 0352.65034号
[2] Glowinski,R.,Marroco,A.:《超越近似法》,《最终秩序》,《解决方案》,《双重惩罚》,《非利奈狄利克雷特问题的统一分类》。R.A.I.R.O.分析。编号。9(2), 41-76 (1975) ·Zbl 0368.65053号
[3] Boyd,S.、Parikh,N.、Chu,E.、Peleato,B.、Eckstein,J.:通过交替方向乘数法进行分布式优化和统计学习。已找到。趋势马赫数。学习。3(1), 1-122 (2011) ·Zbl 1229.90122号
[4] Attouch,H.,Soueycatt,M.:希尔伯特空间乘数的增广拉格朗日和近端交替方向方法。应用于游戏、PDE和控制。派克靴。J.优化。5(1), 17-37 (2008) ·Zbl 1161.65332号
[5] Xu,M.H.:结构变分不等式的近似交替方向法。J.优化。理论应用。134(1), 107-117 (2007) ·Zbl 1129.49040号
[6] 何,B.,袁,X.:关于Douglas-Rachford交替方向法的\[\cal{O}(1/n)O\](1/1n)收敛速度。SIAM J.数字。分析。50(2), 700-709 (2012) ·Zbl 1245.90084号
[7] He,B.,Yuan,X.:关于Douglas Rachford乘法器交替方向方法的非遍历收敛速度。数字。数学。130(3), 567-577 (2015) ·Zbl 1320.90060
[8] 邓伟,尹伟:关于乘数的广义交替方向法的全局收敛性和线性收敛性。科学杂志。计算。66(3), 889-916 (2016) ·Zbl 1379.65036号
[9] Gonçalves,M.法律公告,Melo,J.G.,Monteiro,R.D.C.:扩展近端ADMM的遍历收敛速度。arXiv预印本arXiv:1611.02903(2016)
[10] He,B.,Liao,L.Z.,Han,D.,Yang,H.:单调变分不等式的一种新的非精确交替方向方法。数学。程序。92(1), 103-118 (2002) ·Zbl 1009.90108号
[11] Cui,Y.,Li,X.,Sun,D.,Toh,K.C.:关于耦合目标函数线性约束凸优化问题的优化ADMM的收敛性。J.优化。理论应用。169(3), 1013-1041 (2016) ·Zbl 1342.90130号
[12] Gu,Y.,Jiang,B.,Deren,H.:一种基于半近端的严格收缩Peaceman-Rachford分裂方法。arXiv预印arXiv:1506.02221(2015)
[13] Eckstein,J.,Yao,W.:源自拉格朗日分裂的近似ADMM算法。计算。最佳方案。申请。68(2), 363-405 (2017) ·兹比尔1378.90063
[14] Eckstein,J.,Yao,W.:Douglas-Rachford分裂的相对误差近似版本和ADMM的特殊情况。数学。程序。170(2), 417-444 (2018) ·Zbl 1401.90151号
[15] Xie,J.,Liao,A.,Yang,X.:具有相对误差准则的不精确交替方向乘数法。Optim。莱特。11(3), 583-596 (2017) ·Zbl 1367.90089号
[16] Eckstein,J.,Bertsekas,D.P.:关于最大单调算子的Douglas-Rachford分裂方法和近点算法。数学。程序。55(3,Ser.A),293-318(1992)·Zbl 0765.90073号
[17] Eckstein,J.,Silva,P.J.S.:增广拉格朗日函数的实用相对误差准则。数学。程序。141(1), 319-348 (2013) ·Zbl 1362.90312号
[18] Solodov,M.V.,Svaiter,B.F.:使用最大单调算子扩大的混合近似外梯度-最大点算法。设置值分析。7(4), 323-345 (1999) ·Zbl 0959.90038号
[19] Solodov,M.V.,Svaiter,B.F.:一种混合投影-近点算法。J.凸面分析。6(1), 59-70 (1999) ·Zbl 0961.90128号
[20] Monteiro,R.D.C.,Svaiter,B.F.:块分解算法的迭代复杂性和乘法器的交替方向方法。SIAM J.Optim公司。23(1), 475-507 (2013) ·兹比尔1267.90181
[21] Gonçalves,M.法律公告:关于具有过松弛步长的动态正则化ADMM的逐点迭代复杂性。申请。数学。计算。336, 315-325 (2018) ·Zbl 1427.90216号
[22] Bitterlich,S.,Boţ,R.I.,Csetnek,E.R.,Wanka,G.:具有线性约束的两块可分离凸优化问题的近似交替最小化算法。arXiv预印arXiv:1806.00260(2018)·Zbl 07088318号
[23] Adona,V.A.、Gonçalves,M.L.、Melo,J.G.:乘数的广义交替方向方法的迭代复杂性分析。J.全球。最佳方案。(2018). https://doi.org/10.1007/s10898-018-0697-z ·Zbl 1482.90143号 ·doi:10.1007/s10898-018-0697-z
[24] Gonçalves,M.法律公告,Melo,J.G.,Monteiro,R.D.C.:正则化ADMM和正则化非欧几里德HPE框架的改进逐点迭代复杂性。SIAM J.Optim。27(1), 379-407 (2017) ·Zbl 06693803号
[25] Gonçalves,M.L.法律公告,alves,M.M.,Melo,J.G.:可变度量近端交替方向乘数法的逐点和遍历收敛率。J.优化。理论应用。177(2), 448-478 (2018) ·Zbl 1433.90112号
[26] Boţ,R.I.,Csetnek,E.R.:单调算子的ADMM:收敛分析和速率。高级计算。数学。(2018). https://doi.org/10.1007/s10444-018-9619-3 ·Zbl 07055804号 ·doi:10.1007/s10444-018-9619-3
[27] Hager,W.W.,Yashtini,M.,Zhang,H.:变步长Bregman算子分裂算法的\[{O}(1/k)O\](1/k)收敛速度。SIAM J.数字。分析。54(3), 1535-1556 (2016) ·Zbl 1381.49009号
[28] Fang,E.X.、Bingsheng,H.、Liu,H.和Xiaoming,Y.:乘数的广义交替方向方法:新的理论见解和应用。数学。程序。计算。7(2), 149-187 (2015) ·兹比尔1353.90110
[29] Shefi,R.,Teboulle,M.:基于凸极小化乘数近似方法的分解方法的收敛速度分析。SIAM J.Optim公司。24(1), 269-297 (2014) ·Zbl 1291.90176号
[30] Rockafellar,R.T.:关于次微分映射的最大单调性。派克靴。数学杂志。33, 209-216 (1970) ·Zbl 0199.47101号
[31] Burachik,R.S.,Sagastizábal,C.A.,Svaiter,\[B.F.:\epsilon\]ϵ-极大单调算子的放大:理论和应用。In:重整:非光滑、分段光滑、半光滑和平滑方法(洛桑,1997)。应用优化,第22卷,第25-43页。Kluwer学院。出版物。,多德雷赫特(1999)·Zbl 0928.65068号
[32] Burachik,R.S.,Iusem,A.N.,Svaiter,B.F.:单调算子的扩大及其在变分不等式中的应用。设置值分析。5(2), 159-180 (1997) ·Zbl 0882.90105号
[33] Monteiro,R.D.C.,Svaiter,B.F.:关于迭代和遍历平均值的混合近端外梯度方法的复杂性。SIAM J.Optim公司。20(6), 2755-2787 (2010) ·Zbl 1230.90200
[34] Tibshirani,R.:通过套索进行回归收缩和选择。J.R.统计社会服务。B 58(1),267-288(1996)·Zbl 0850.62538号
[35] Tibshirani,R.J.:套索问题和唯一性。电子。J.Stat.7,1456-1490(2013)·Zbl 1337.62173号
[36] Koh,K.,Kim,S.J.,Boyd,S.:大规模l_1正则逻辑回归的内点方法。J.马赫。学习。1519-1555号决议(2007年)·Zbl 1222.62092号
[37] Rudin,L.I.,Osher,S.,Fatemi,E.:基于非线性总变差的噪声去除算法。《物理学D》60(1),259-268(1992)·Zbl 0780.49028号
[38] Parikh,N.,Boyd,S.:近似算法。已找到。趋势优化。1(3), 127-239 (2014)
[39] Beck,A.:最优化中的一阶方法。费城SIAM(2017)·Zbl 1384.65033号
[40] Nocedal,J.,Wright,S.J.:数值优化,第2版。施普林格,纽约(2006)·Zbl 1104.65059号
[41] Cano,A.、Masegosa,A.、Moral,S.:ELVIRA生物医学数据集存储库。http://leo.ugr.es/elvira/DBC存储/ (2005). 2018年1月7日访问
[42] Alon,U.、Barkai,N.、Notterman,D.A.、Gish,K.、Ybara,S.、Mack,D.、Levine,A.J.:寡核苷酸阵列探测的肿瘤和正常结肠组织的聚类分析揭示了广泛的基因表达模式。程序。国家。阿卡德。科学。美国96(12),6745-6750(1999)
[43] Pomeroy,S.L.、Tamayo,P.、Gaasenbeek,M.、Sturla,L.M.、Angelo,M.,McLaughlin,M.E.、Kim,J.Y.H.、Goumnerova,L.C.、Black,P.M.、Lau,C.等人:基于基因表达的中枢神经系统胚胎性肿瘤预后预测。《自然》415(6870),436-442(2002)
[44] Singh,D.、Febbo,P.G.、Ross,K.、Jackson,D.G.、Manola,J.、Ladd,C.、Tamayo,P.、Renshaw,A.A.、D'Amico,A.V.、Richie,J.P.等:基因表达与前列腺癌临床行为相关。癌细胞1(2),203-209(2002)
[45] Golub,T.R.,Slonim,D.K.,Tamayo,P.,Huard,C.,Gaasenbeek,M.,Mesirov,J.P.,Coller,H.,Loh,M.L.,Downing,J.R.,Caligiuri,M.A.,Bloomfield,C.D.,Lander,E.S.:癌症的分子分类:通过基因表达监测进行类别发现和预测。《科学》286(5439),531-537(1999)
[46] Beer,D.G.,Kardia,S.L.R.,Huang,C.,Giordano,T.J.,Levin,A.M.,Misek,D.E.,Lin,L.,Chen,G.,Gharib,T.G.,Thomas,D.G等:基因表达谱预测肺腺癌患者的生存率。《国家医学》8(8),816(2002)
[47] Dheeru,D.,Taniskidou,E.K.:UCI机器学习库。http://archive.ics.uci.edu/ml/datasets/madelon (2018). 2018年1月7日访问
[48] Sigillito,V.G.,Wing,S.P.,Hutton,L.V.,Baker,K.B.:使用神经网络对电离层雷达回波进行分类。约翰·霍普金斯APL技术挖掘。262-266年10月(1989年)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。