×
阿多纳，V.A。;Gonçalves，M.L.N。;J.G.梅洛。

广义交替方向乘法器方法的迭代复杂性分析。 （英文） Zbl 1482.90143号

J.全球。最佳方案。 73，第2号，331-348（2019）.
摘要：本文分析了求解可分离线性约束凸优化问题的广义交替方向乘子法（G-ADMM）的迭代复杂性。这种ADMM变体首先由Bertsekas和Eckstein提出[J.埃克斯坦和D.P.贝塞卡斯，数学。程序。55，第3（A）号，293–318（1992年；Zbl 0765.90073号)]，在第二个ADMM子问题中引入松弛参数（alpha）以提高其计算性能。结果表明，对于给定的容差（varepsilon>0），具有（（0，2）中的α）的G-ADMM最多可以通过（mathcal{O}（1/varepsilen^2））迭代提供与所考虑的优化问题相关的拉格朗日系统的近似解。进一步证明，至多在（{mathcal{O}}（1/varepsilon））迭代中，拉格朗日系统的近似解可以通过与G-ADMM生成的序列相关联的遍历序列来获得，该序列具有（alpha）in（0，2]）。我们的方法包括将G-ADMM解释为具有某些特殊属性的混合近端外梯度框架的实例。报告了一些初步的数值实验，以确认使用\（\alpha>1）可以获得比\（\alpha=1\）更好的数值性能（对应于标准ADMM）。

引用于6文件

MSC公司：

90C25型 凸面编程
90C60型 数学规划问题的抽象计算复杂性
65K10码 数值优化和变分技术
47时05分 单调算子和推广
49平方米27 分解方法

关键词：

乘法器的广义交替方向法;混合外梯度法;凸程序;逐点迭代复杂性;遍历迭代复杂性

引文：

Zbl 0765.90073号

软件：

GADMM公司
PDF格式BibTeX公司 XML格式引用
\textit{V.A.Adona}等人，J.Glob。最佳方案。73，第2号，331--348（2019；Zbl 1482.90143）
全文： 内政部 arXiv公司

参考文献：

[1] Bertsekas，D.P.：约束优化和拉格朗日乘子方法。纽约学术出版社（1982）·Zbl 0572.90067号
[2] Boyd，S.、Parikh，N.、Chu，E.、Peleato，B.、Eckstein，J.：通过交替方向乘数法进行分布式优化和统计学习。已找到。趋势马赫数。学习。3(1), 1-122 (2011) ·Zbl 1229.90122号 ·doi:10.1561/220000016
[3] Chambolle，A.，Pock，T.：凸问题的一阶原对偶算法及其在成像中的应用。数学杂志。成像视觉。40(1), 120-145 (2011) ·Zbl 1255.68217号 ·doi:10.1007/s10851-010-0251-1
[4] Corman，E.，Yuan，X.：广义近点算法及其收敛速度。SIAM J.Optim公司。24(4), 1614-1638 (2014) ·兹比尔1311.90099 ·数字对象标识代码：10.1137/130940402
[5] Cui，Y.，Li，X.，Sun，D.，Toh，K.C.：关于耦合目标函数线性约束凸优化问题的优化ADMM的收敛性。J.优化。理论应用。169(3), 1013-1041 (2016) ·Zbl 1342.90130号 ·doi:10.1007/s10957-016-0877-2
[6] 邓伟，尹伟：关于乘数的广义交替方向法的全局收敛性和线性收敛性。科学杂志。计算。66(3), 889-916 (2016) ·Zbl 1379.65036号 ·doi:10.1007/s10915-015-0048-x
[7] Eckstein，J.：凸程序的并行交替方向乘数分解。J.优化。理论应用。80(1), 39-62 (1994) ·Zbl 0797.90075号 ·doi:10.1007/BF02196592
[8] Eckstein，J.：凸规划的一些鞍函数分裂方法。最佳方案。方法软件。4(1), 75-83 (1994) ·doi:10.1080/10556789408805578
[9] Eckstein，J.，Bertsekas，D.P.：关于Douglas Rachford分裂方法和极大单调算子的近点算法。数学。程序。55（3系列A），293-318（1992）·Zbl 0765.90073号 ·doi:10.1007/BF01581204
[10] Fang，E.X.，He，B.，Liu，H.，Yuan，X.：乘数的广义交替方向方法：新的理论见解和应用。数学。掠夺。计算。7(2), 149-187 (2015) ·兹比尔1353.90110 ·doi:10.1007/s12532-015-0078-2
[11] Gabay，D.，Mercier，B.：通过有限元近似求解非线性变分问题的对偶算法。计算。数学。申请。2, 17-40 (1976) ·Zbl 0352.65034号 ·doi:10.1016/0898-1221（76）90003-1
[12] Glowinski，R.：非线性变分问题的数值方法。计算物理中的Springer系列。柏林施普林格（1984）·Zbl 0575.65123号 ·doi:10.1007/978-3-662-12613-4
[13] Glowinski，R.，Marroco，A.：《超越近似法》，《最终秩序》，《解决方案》，《双重惩罚》，《非利奈狄利克雷特问题的统一分类》。RAIRO分析。编号。9, 41-76 (1975) ·Zbl 0368.65053号
[14] Gonçalves，M.L.法律公告，alves，M.M.，Melo，J.G.：可变度量近端交替方向乘数法的逐点和遍历收敛率。J.优化。理论应用。177(2), 448-478 (2018) ·Zbl 1433.90112号 ·doi:10.1007/s10957-018-1232-6
[15] Gonçalves，M.法律公告，Melo，J.G.，Monteiro，R.D.C.：扩展近端ADMM的遍历收敛速度。arXiv预印本arXiv：1611.02903（2016）
[16] Gonçalves，M.法律公告，Melo，J.G.，Monteiro，R.D.C.：正则化ADMM和正则化非欧几里德HPE框架的改进逐点迭代复杂性。SIAM J.Optim。27(1), 379-407 (2017) ·Zbl 06693803号 ·doi:10.1137/16M1055530
[17] Gu，Y.，Jiang，B.，Deren，H.：一种基于半近似的严格收缩Peaceman-Rachford分裂方法。arXiv预印arXiv:1506.02221（2015）
[18] Hager，W.W.，Yashtini，M.，Zhang，H.：变步长Bregman算子分裂算法的An\[{O}（1/k）O\]（1/1k）收敛速度。SIAM J.数字。分析。54(3), 1535-1556 (2016) ·Zbl 1381.49009号 ·网址：10.1137/15100401X
[19] 何，B.，袁，X.：关于Douglas-Rachford交替方向法的\[\cal{O}（1/n）O\]（1/1n）收敛速度。SIAM J.数字。分析。50(2), 700-709 (2012) ·兹比尔1245.90084 ·doi:10.1137/110836936
[20] 何，B.，袁，X.：关于Douglas-Rachford交替方向乘数法的非遍历收敛速度。数字。数学。130(3), 567-577 (2015) ·Zbl 1320.90060 ·doi:10.1007/s00211-014-0673-6
[21] Lin，T.，Ma，S.，Zhang，S.：基于外梯度的交替方向凸最小化方法。已找到。计算。数学。17(1), 17-35 (2017) ·Zbl 1364.90259号 ·doi:10.1007/s10208-015至9282-8
[22] Liu，J.，Duan，Y.，Sun，M.：两块可分凸规划广义交替方向乘数方法的对称版本。J.不平等。申请。2017(1), 129 (2017) ·Zbl 1364.90261号 ·doi:10.1186/s13660-017-1405-0
[23] Monteiro，R.D.C.，Svaiter，B.F.：关于迭代和遍历平均值的混合近端外梯度方法的复杂性。SIAM J.Optim公司。20(6), 2755-2787 (2010) ·Zbl 1230.90200 ·doi:10.1137/090753127
[24] Monteiro，R.D.C.，Svaiter，B.F.：块分解算法的迭代复杂性和乘法器的交替方向方法。SIAM J.Optim公司。23(1), 475-507 (2013) ·Zbl 1267.90181号 ·数字对象标识代码：10.1137/10849468
[25] Nishihara，R.，Lessard，L.，Recht，B.，Packard，A.，Jordan，M.I.：ADMM收敛性的一般分析。arXiv预印arXiv:1502.02009（2015）
[26] Ouyang，Y.，Chen，Y.、Lan，G.、Pasiliao Jr.，E.：乘数的加速线性化交替方向方法。SIAM J.成像科学。8（1），644-681（2015）·Zbl 1321.90105号 ·数字对象标识码：10.1137/14095697X
[27] Solodov，M.V.，Svaiter，B.F.：使用最大单调算子扩大的混合近似外梯度-最大点算法。设定值分析。7(4), 323-345 (1999) ·Zbl 0959.90038号 ·doi:10.1023/A:1008777829180
[28] Sun，H.：希尔伯特空间中带松弛的完全预处理ADMM分析。arXiv预印本arXiv:1611.04801（2016）
[29] Tao，M.，Yuan，X.：关于广义近点算法的最佳线性收敛速度。科学杂志。计算。74(2), 826-850 (2018) ·Zbl 06858875号 ·doi:10.1007/s10915-017-0477-9
[30] Tibshirani，R.：通过套索进行回归收缩和选择。J.R.Stat.Soc.B 58（1），267-288（1996）·Zbl 0850.62538号
[31] Tibshirani，R.J.：套索问题和唯一性。电子。J.Stat.7，1456-1490（2013）·Zbl 1337.62173号 ·doi:10.1214/13-EJS815
[32] Wang，X.，Yuan，X.：Dantzig选择器的线性化交替方向乘法器方法。SIAM J.科学。计算。34(5), 2792-2811 (2012) ·Zbl 1263.90061号 ·数字对象标识代码：10.1137/10833543
[33] Yang，J.，Yuan，X.：核范数最小化的线性化增广拉格朗日和交替方向方法。数学。计算。82(281), 301-329 (2013) ·Zbl 1263.90062号 ·doi:10.1090/S0025-5718-2012-02598-1
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。