刘永超；袁晓明；曾尚志；张，金 交替方向乘子法的部分误差界条件和线性收敛速度。 （英语） 兹比尔1402.90121 SIAM J.数字。分析。 56，第4号，2095-2123（2018）. 摘要：在文献中，误差界条件被广泛用于研究各种一阶算法的线性收敛速度。大多数文献都关注于如何确保这些误差界条件，通常会对讨论中的模型提出许多假设或特殊结构。在本文中，我们重点讨论了交替方向乘法器方法（ADMM），并表明，如果在其生成的特定迭代序列上研究误差界，则用于研究ADMM线性收敛速度的已知误差界条件确实可以进一步减弱。提出了基于ADMM迭代的误差界条件，并证明了该条件下的线性收敛性。此外，利用ADMM迭代格式的一个特点，即部分扰动自动为零，我们提出了所谓的部分误差界条件，该条件比文献中已知的误差界条件弱，并且我们导出了ADMM的线性收敛速度。我们进一步表明，如果在实现ADMM时以不同的顺序更新两个原始变量，则此部分错误边界条件对于解释差异非常有用。这已经在文献中得到了实证观察，但还没有已知的理论。 引用于12文件 MSC公司： 90C25型 凸面编程 90立方厘米 互补、平衡问题和变分不等式（有限维）（数学规划方面） 90C22型 半定规划 关键词：凸规划；交替方向乘法器法；平静；部分错误界限；线性收敛速度 软件：GADMM公司 PDF格式BibTeX公司 XML格式引用 \textit{Y.Liu}等人，SIAM J.Numer。分析。56，第4号，2095--2123（2018；Zbl 1402.90121） 全文： 内政部 参考文献： [1] T.Aspelmeier、C.Charitha和D.R.Luke，无强凸性的ADMM/Douglas–Rachford算法的局部线性收敛及其在统计成像中的应用，SIAM J.成像科学。，9（2016年），第842-868页·Zbl 1347.49046号 [2] J.P.Aubin，凸极小化问题解的Lipschitz行为，数学。操作。Res.，9（1984），第87–111页·Zbl 0539.90085号 [3] D.Boley，二次或线性规划上交替方向乘子法的局部线性收敛性、SIAM J.Optim.、。，23（2013），第2183–2207页·Zbl 1288.65086号 [4] S.Boyd、N.Parikh、E.Chu、B.Peleato和J.Eckstein，基于交替方向乘数法的分布式优化和统计学习，找到。趋势马赫数。学习。，3（2010年），第1-122页·Zbl 1229.90122号 [5] T.F.Chan和R.Glowinski，一类轻度非线性椭圆型方程的有限元逼近与迭代解《技术报告》，斯坦福大学，1978年。 [6] A.Chambolle和T.Pock，凸问题的一阶原对偶算法及其在成像中的应用，J.数学。Imaging Vision 40（2011），第120–145页·Zbl 1255.68217号 [7] F.H.克拉克，优化和非光滑分析，应用经典。数学。5，SIAM，费城，1990年·Zbl 0696.49002号 [8] 邓文华和尹文华，广义交替方向乘子法的全局收敛性和线性收敛性，《科学杂志》。计算。，66（2016），第889–916页·Zbl 1379.65036号 [9] A.L.Dontchev和R.T.Rockafellar，隐函数和解映射，Springer Monogr.公司。数学。，施普林格，柏林，2009年·Zbl 1178.26001号 [10] D.Drusvyatskiy和A.Lewis，近似方法的误差界、二次增长和线性收敛，预印本，2016年。 [11] J.Eckstein和D.P.Bertsekas，线性规划的一种交替方向方法，LIDS-P，信息和决策系统实验室，麻省理工学院，马萨诸塞州剑桥，1990年。 [12] J.Eckstein和D.P.Bertsekas，关于最大单调算子的Douglas-Rachford分裂方法和邻近点算法，数学。程序。，55（1992），第293–318页·Zbl 0765.90073号 [13] J.Eckstein和W.Yao，理解乘数交替方向方法的收敛性：理论和计算视角，太平洋J.Optim。，11（2015），第619-644页·Zbl 1330.90074号 [14] 方东旭、何伯生、刘浩和袁晓明，乘数的广义交替方向法：新的理论见解和应用，数学。程序。计算。，7（2015），第149-187页·Zbl 1353.90110号 [15] F.Francisco和J.S.Pang，有限维变分不等式与互补问题，施普林格，纽约，2007年·Zbl 1062.90001号 [16] M.Fortin和R.Glowinski，增广拉格朗日方法在边值问题数值解中的应用，学生数学。申请。1983年，阿姆斯特丹北霍兰德15号·Zbl 0525.65045号 [17] D.Gabay和B.Mercier，用有限元近似解非线性变分问题的对偶算法，计算。数学。申请。，2（1976年），第17-40页·Zbl 0352.65034号 [18] R.Glowinski，乘数交替方向法的历史考察《科学与技术建模、仿真与优化》，W.Fitzgibbon、Y.A.Kuznetsov、P.Neittanmaki和O.Pironneau著，纽约斯普林格，2014年，第59-82页。 [19] R.Glowinski和A.Marrocco，近似par\（\acute{e}\）l\（\ acute{e}\）ments完成了d'ordre un et r \（\accute{e{）解par\RAIRO，R2（1975），第41–76页。 [20] R.Glowinski和P.L.Tallec，非线性力学中的增广拉格朗日方法和算子分裂方法，螺柱应用。数学。，SIAM，费城，1989年·Zbl 0698.73001号 [21] H.Gfrerer，度量子域的一阶和二阶特征及约束集映射的平静性、SIAM J.Optim.、。，21（2011），第1439–1474页·Zbl 1254.90246号 [22] H.Gfrerer，非光滑数学规划的方向度量正则性、子区域性和最优性条件，设定值变量分析。，21（2013），第151-176页·Zbl 1321.49031号 [23] H.Gfrerer和D.Klatte，优化问题和广义方程的Lipschitz和Holder稳定性，数学。程序。，158（2016），第35-75页·Zbl 1345.49030号 [24] H.Gfrerer和B.S.Mordukhovich，最弱条件下非线性规划倾斜稳定性的完全刻画、SIAM J.Optim.、。，25（2015），第2081–2119页·Zbl 1357.49074号 [25] H.Gfrerer和B.S.Mordukhovich，基于变分分析的参数约束系统的Robinson稳定性、SIAM J.Optim.、。，27（2017），第438–465页·Zbl 1368.49014号 [26] H.Gfrerer和J.V.Outrata，关于隐式多函数的Lipschitz性质、SIAM J.Optim.、。，26（2016），第2160–2189页·Zbl 1351.49019号 [27] H.Gfrerer和J.J.Ye，基于变分分析的平衡约束数学规划的新约束条件、SIAM J.Optim.、。，27（2017），第842-865页·Zbl 1368.49015号 [28] D.R.Han、D.F.Sun和L.W.Zhang，凸组合二次半定规划交替方向乘子法的线性速度收敛性，预印本，2015年。 [29] D.R.Han和X.M.Yuan，二次规划交替方向乘子法的局部线性收敛性，SIAM J.数字。分析。，51（2013），第3446–3457页·Zbl 1285.90033号 [30] B.S.He和H.Yang，线性约束单调变分不等式乘数法的收敛性，操作。Res.Lett.公司。，23（1998），第151-161页·Zbl 0963.49006号 [31] B.S.He和X.M.Yuan，鞍点问题原对偶算法的收敛性分析：从压缩的角度，SIAM J.成像科学。5，（2012），第119-149页·Zbl 1250.90066号 [32] B.S.He和X.M.Yuan，在O上(1/n）Douglas-Rachford交替方向法的收敛速度，SIAM J.Numer。分析。，50（2012年），第700–709页·Zbl 1245.90084号 [33] B.S.He和X.M.Yuan，Douglas-Rachford交替方向乘子法的非遍历收敛速度，数字。数学。，130（2015），第567–577页·Zbl 1320.90060 [34] R.Henrion、A.Jourani和J.V.Outrata，关于一类多函数的平静性、SIAM J.Optim.、。，13（2002），第603-618页·Zbl 1028.49018号 [35] 洪明扬和罗智强，关于交替方向乘法器法的线性收敛性，数学。程序。，162（2017），第165–199页·兹比尔1362.90313 [36] 林振中、陈敏明、马友友，精确恢复受损低秩矩阵的增广拉格朗日乘子方法, 2010. [37] 林振中、刘若愚、李浩，机器学习中可分离凸规划的并行分裂自适应惩罚线性化交替方向法，马赫。学习。，99（2015），第287–325页·Zbl 1331.68189号 [38] P.L.Lions和B.Mercier，两个非线性算子和的分裂算法，SIAM J.数字。分析。，16（1979年），第964-979页·Zbl 0426.6500号 [39] G.S.Liu、J.J.Ye和J.P.Zhu，平衡约束数学规划的部分精确惩罚，设定值分析。，16（2008年），第785-804页·Zbl 1170.65052号 [40] B.马丁内特，正则化dinéquationsvariationnelles par approximates successives正则化dinéquationsvariationnelles par approximates成功，Rev.Française Informat。Recherche Ope⁄rationnelle，4（1970），第154-159页·Zbl 0215.21103号 [41] R.D.Monteiro和B.F.Svaiter，块分解算法的迭代复杂性和交替方向乘法器方法、SIAM J.Optim.、。，23（2013），第475-507页·Zbl 1267.90181号 [42] R.Nishihara、L.Lessard、B.Recht、A.Packard和M.I.Jordan，ADMM收敛性的一般分析, 2015. [43] S.M.Robinson，不等式系统的稳定性理论。零件我：线性系统，SIAM J.数字。分析。，12（1975年），第754-769页·Zbl 0317.90035号 [44] S.M.Robinson，不等式组的稳定性理论二：可微非线性系统，SIAM J.数字。分析。，13（1976年），第497–513页·兹比尔0347.90050 [45] S.M.Robinson，强正则广义方程，数学。操作。Res.，5（1980），第43-62页·Zbl 0437.90094号 [46] R.T.Rockafellar和R.J.Wets，变分分析1998年，纽约施普林格·Zbl 0888.49001号 [47] R.Shefi，凸非光滑优化算法的收敛速度分析，博士论文，以色列特拉维夫大学，2015年。 [48] 陶喆和袁晓明，关于广义近点算法的最优线性收敛速度，《科学杂志》。计算。，74（2018），第826–850页·兹伯利06858875 [49] T.Valkonen，近点法的测试和非线性预处理, 2017. [50] T.Valkonen和T.Pock，部分强凸函数上PDHGM的加速，J.数学。《成像视觉》，59（2017），第394-414页·Zbl 1382.90080 [51] X.F.Wang和X.M.Yuan，Dantzig选择器乘法器的线性化交替方向法，SIAM J.科学。计算。，34（2012年），第2792–2811页·兹比尔1263.90061 [52] X.F.Wang、J.J.Ye、X.M.Yuan、S.Z.Zeng和J.Zhang，基于变分分析的非光滑非凸优化问题的近端梯度法的线性收敛性，手稿，2017年。 [53] 杨振峰和袁晓明，核范数最小化的线性增广拉格朗日和交替方向方法，数学。公司。，82（2013），第301-329页·Zbl 1263.90062号 [54] 杨伟华和韩德瑞，一类凸优化问题交替方向乘子法的线性收敛性，SIAM J.数字。分析。，54（2016年），第625-640页·Zbl 1342.90138号 [55] J.J.Ye和X.Y.Ye，变分不等式约束优化问题的必要最优性条件，数学。操作。Res.，22（1997），第977–997页·Zbl 1088.90042号 [56] X.Q.Zhang、M.Burger、X.Bresson和S.Osher，用于反褶积和稀疏重建的Bregmaized非局部正则化，SIAM J.成像科学。，3（2010年），第253-276页·Zbl 1191.94030号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。