阿尔诺·勒诺尔;菲利普·马伊 凸规划算子分裂与分解综述。 （英语） Zbl 1360.65169号 RAIRO，运营。物件。 51，第1号，17-41（2017）. 摘要：许多结构化凸极小化问题可以通过搜索两个单调算子之和的零点来建模。算子分裂方法被设计用来分解和正则化这类模型。我们在这里回顾了这些模型和经典的分裂方法。我们关注这些算法对驱动正则化项的尺度参数的数值敏感性，以加快不同类型模型的收敛速度。 引用于9文件 MSC公司： 65千5 数值数学规划方法 90C25型 凸面编程 关键词：运算符拆分;增广拉格朗日函数;分解方法;收敛加速度;凸极小化;算法 软件：取消锁定BoX PDF格式BibTeX公司 XML格式引用 \textit{A.Lenoir}和\textit{P.Mahey}，RAIRO，Oper。第51号决议，第1号，第17-41号（2017年；Zbl 1360.65169） 全文： DOI程序 哈尔 参考文献： [1] M.A.Alghamdi、A.Alotaibi、P.L.Combettes和N.Shahzad，复合包裹体部分反演的原始-对偶方法。最佳方案。Lett.8（2014）2271-2284·Zbl 1334.90122号 ·doi:10.1007/s11590-014-0734-x [2] H.Attouch和M.Soueycatt，hilbert空间乘数的增广拉格朗日和最近交替方向方法。游戏、pde和控制的应用程序。太平洋期刊Optim.5（2008）17-37·Zbl 1161.65332号 [3] H.Attouch，J.Bolt和B.F.Svaiter，半代数和驯化问题下降方法的收敛性：近似算法，前向-反向分裂和正则高斯-侧面方法。数学。项目137（2013）91-129·Zbl 1260.49048号 ·doi:10.1007/s10107-011-0484-9 [4] J.B.Baillon，R.E.Bruck和S.Reich，关于非扩张映射和半群的渐近行为。休斯顿数学杂志。4（1978）1-9·Zbl 0396.47033号 [5] H.H.Bauschke和P.L.Combettes，Hilbert空间中的凸分析和单调算子理论。Springer Verlag（2011）·Zbl 1218.47001号 [6] A.Bensoussan、J.L.Lions和R.Temam，《设计合成、设计集中和设计协调等应用的方法》。技术报告，Cahiers de l'INRIA（1972）。 [7] D.P.Bertsekas，非凸优化问题的凸化过程和分解方法。J.优化。理论应用29（1979）169-197·Zbl 0389.90080号 ·doi:10.1007/BF00937167 [8] D.P.Bertsekas和J.N.Tsitsiklis，并行和分布式计算：数值方法。普伦蒂斯·霍尔（Prentice-Hall），新泽西州恩格伍德悬崖（Englewood Cliffs）（1989年）·Zbl 0743.65107号 [9] R.I.Bot、E.R.Csetnek和A.Heinrich，寻找最大单调算子和零点的一种原对偶分裂。SIAM J.Optim.23（2013）2011-2036·Zbl 1314.47102号 ·数字对象标识码：10.1137/12088255X [10] S.Boyd、N.Parikh、E.Chu、B.Peleato和J.Eckstein，使用交替方向乘数法的分布式优化和统计学习。《发现》第3卷。趋势马赫数。学习。，编辑：M.Jordan（2011）1-122·Zbl 1229.90122号 [11] H.Brezis，《希尔伯特空间的最大单调和半收缩群》。Lect.第5卷。笔记。北霍兰德（1973）。 [12] L.M.Briceno-Arias，求解单调包含的正向douglas-rachford分裂和正向部分逆方法。优化64（2015）1239-1261·Zbl 1310.47084号 ·doi:10.1080/02331934.2013.855210 [13] L.M.Briceno-Arias和P.L.Combettes，二元复合单调包含的单调+斜分裂模型。SIAM J.Optim.21（2011）1230-1250·Zbl 1239.47053号 ·数字对象标识码：10.1137/10081602X [14] A.Chambolle和T.Pock，凸规划的一阶原对偶算法，用于成像。数学杂志。《成像愿景》40（2011）1-26·Zbl 1255.68217号 ·doi:10.1007/s10851-010-0251-1 [15] 陈彩华，何炳生，叶银玉，袁晓明，多块凸极小化问题的admm的直接推广不一定收敛。数学。计划155（2014）1-23·Zbl 1332.90193号 [16] G.H.G Chen和R.T.Rockafellar，正向-反向分裂的收敛速度。SIAM J.Optim.7（1997）421-444·兹比尔0876.49009 ·doi:10.1137/S1052623495290179 [17] G.H.G.Chen和M.Teboulle，凸极小化问题的基于近似的分解方法。数学。方案64（1994）81-101·Zbl 0823.90097号 ·doi:10.1007/BF01582566 [18] E.Chouzenoux，J.C.Pesquet和A.Repetti，最小化可微函数和凸函数之和的可变度量前向支持算法。J.优化。理论应用。162（2014）107-132·Zbl 1318.90058号 ·doi:10.1007/s10957-013-0465-7 [19] G.Cohen，辅助问题原理和优化问题的分解。J.选择。理论应用32（1980）277-305·Zbl 0417.49046号 ·doi:10.1007/BF00934554 [20] G.Cohen和D.L.Zhu，大规模优化问题中的分解协调方法。不可微情形和增广拉格朗日算子的应用。《大尺度系统进展》第1卷，由J.B.Cruz Junior编辑。JAI出版社（1983）。 [21] P.L.Combettes，通过非扩张平均算子的组合求解单调包含。优化53（2004）475-504·Zbl 1153.47305号 ·doi:10.1080/02331930412331327157 [22] P.L.Combettes和J.C.Pesquet，《信号处理中的近距离分裂方法》。在科学与工程中反问题的不动点算法中，由P.L.Combettes V.Elser D.R.Luke H.Wolkowicz H.Bauschke和R.S.Burachik编辑，Springer Verlag（2011）185-212·Zbl 1242.90160号 [23] P.L.Combettes和J.C.Pesquet，随机扫描的随机准fejér块坐标定点迭代。SIAM J.Optim.25（2015）1221-1248·Zbl 1317.65135号 ·doi:10.1137/140971233 [24] P.L.Combettes和V.R.Wajs，通过近端前向背向分裂恢复信号。多尺度模型。模拟4（2005）1168-1200·Zbl 1179.94031号 ·doi:10.1137/050626090 [25] D.Davis，前向douglas-rachford分裂方案的收敛速度分析。技术报告15-xx，加州大学洛杉矶分校CAM。预印本（2015）·Zbl 1325.65081号 [26] D.Davis和W.Yin，几种分裂方案的收敛速度分析。技术报告14-51，加州大学洛杉矶分校CAM。预印本（2014）·兹比尔1372.65168 [27] J.Douglas和J.E.Gunn，交替方向方法的一般公式。数字。数学6（1964）428-453·Zbl 0141.33103号 ·doi:10.1007/BF01386093 [28] J.Douglas和H.H.Rachford，关于2和3个空间变量中热传导问题的数值解。事务处理。阿默尔。数学。Soc.82（1956）421-439·Zbl 0070.35401号 ·doi:10.1090/S0002-9947-1956-0084194-4 [29] J.P.Dussault、O.M.Gueye和P.Mahey，单变量规划的多维尺度可分离增广拉格朗日算法。J.优化。理论应用127（2005）329-345·Zbl 1116.90105号 ·doi:10.1007/s10957-005-6547-4 [30] J.Eckstein，单调算子的分裂方法及其在并行优化中的应用。剑桥麻省理工学院博士论文（1989年）。 [31] J.Eckstein，凸规划的一些鞍点分裂方法。优化方法软件.4（1994）75-83·doi:10.1080/10556789408805578 [32] J.Eckstein，增广拉格朗日和交替方向乘数法：教程和一些说明性计算示例。技术报告，RUTCOR研究报告-RRR32-2012年12月（2012年）。 [33] J.Eckstein和D.P.Bertsekas，关于最大单调算子的douglas-rachford分裂方法和近点算法。数学。方案55（1992）293-318·Zbl 0765.90073号 ·doi:10.1007/BF01581204 [34] J.Eckstein和M.Fukushima，乘数交替方向法的一些重新推导和应用。《大规模优化：最新进展》，Springer（1994）119-138·Zbl 0816.90109号 [35] J.Eckstein和B.F.Svaiter，极大单调算子和的一般投影分裂方法。SIAM J.控制优化48（2009）787-811·Zbl 1194.49038号 ·doi:10.1137/070698816 [36] M.Fazel、T.K.Pong、D.F.Sun和P.Tseng，Hankel矩阵秩最小化及其在系统识别和实现中的应用。SIAM J.矩阵分析。申请3（2013）946-977·Zbl 1302.90127号 ·doi:10.1137/110853996 [37] M.Fukushima，交替方向乘数法在可分离凸规划中的应用。计算。最佳方案。申请1（1992）93-112·Zbl 0763.90071号 ·doi:10.1007/BF00247655 [38] D.Gabay，乘子方法在变分不等式中的应用。在M.Fortin和R.Glowinski编辑的《增广拉格朗日方法：应用于边值问题的数值解》中。Stud.Math.第15卷。申请。北荷兰人（1983）299-331。 [39] D.Gabay和B.Mercier，通过有限元近似求解非线性变分问题的对偶算法。计算。数学。应用2（1976）17-40·兹比尔0352.65034 ·doi:10.1016/0898-1221（76）90003-1 [40] R.Glowinski和P.Le Tallec，非线性力学中的增广拉格朗日和算子分裂方法。SIAM Philadelphia（1989）·Zbl 0698.73001号 [41] R.Glowinski和A.Marocco，《Sur l’approximation parél ments finishs d’ordre 1 et la Résolution parñnalisation qualityéd'une classe de problèmes de dirichlet》。RAIRO：分析。数字2（1975）41-76。 [42] D.Goldfarb和S.Ma，凸优化的快速多重分裂算法。SIAM J.Optim.22（2012）533-556·Zbl 1254.65075号 ·数字对象标识代码：10.1137/090780705 [43] D.Goldfarb，S.Ma和K.Scheinberg，最小化两个凸函数之和的快速交替线性化方法。数学。程序。(2009). ·Zbl 1280.65051号 [44] A.A.Goldstein，希尔伯特空间中的凸规划。牛市。阿默尔。数学。Society70（1964）709-710·Zbl 0142.17101号 ·doi:10.1090/S0002-9904-1964-1178-2 [45] A.Hamdi，P.Mahey和J.P.Dussault，通过可分离增广拉格朗日在非凸规划中的一种新分解方法。莱克特。注释经济。数学。系统452（1997）90-104·Zbl 0882.65055号 ·doi:10.1007/978-3-642-59073-37 [46] S.P.Han和G.Lou，一类凸程序的并行算法。SIAM J.控制优化26（1988）345-355·Zbl 0644.90068号 ·doi:10.1137/0326019 [47] B.S.He，H.Yang和S.L.Wang，单调变分不等式的自适应惩罚参数交替方向法。J.优化。理论应用106（2000）349-368·Zbl 0997.49008号 [48] 洪明清，罗志清，关于乘数交替法的线性收敛性。预印本（2013）。 [49] H.Idrissi，O.Lefebvre和C.Michelot，部分逆方法的应用和数值收敛性。莱克特。注释数学1405（1989）39-54·Zbl 0684.90088号 ·doi:10.1007/BFb0083585 [50] K.C.Kiviel，C.H.Rosa和A.Ruszczynski，通过交替线性化进行近端分解。SIAM J.Optim.9（1999）668-689·Zbl 0958.65068号 ·doi:10.1137/S1052623495288064 [51] N.Komodakis和J.C.Pesquet，《玩弄二元性：解决大规模优化问题的最新原始-对偶方法概述》。SIAM J.Optim公司。(2014). [52] S.Kontogiorgis和R.R.Meyer，凸优化的可变效率交替方向方法。数学。方案83（1998）29-53·Zbl 0920.90118号 [53] L.S.Lasdon，《大系统优化》。Mac Millan（1970年）·Zbl 0224.90038号 [54] J.Lawrence和J.E.Spingarn，关于非扩张分段等距映射的不动点。程序。伦敦数学。Soc.55（1987）605-624·Zbl 0605.47052号 ·doi:10.1112/plms/s3-55.3.605 [55] A.Lenoir、Modèles et算法为环境不确定性下的生产平面化奠定了基础。布莱斯·帕斯卡大学博士论文，克莱蒙·费兰德（2008）。 [56] A.Lenoir和P.Mahey，通过迭代折叠加速一类分裂算法。数学学报。越南39（2009）49-65·Zbl 1181.65087号 [57] J.Lieutaud，《设计方法近似值》。巴黎大学博士论文（1969年）。 [58] P.L.Lions和B.Mercier，两个非线性算子之和的分裂算法。SIAM J.数字。分析16（1979）964-979·Zbl 0426.6500号 ·doi:10.1137/0716071 [59] P.Mahey，S.Oualibouch和D.T.Pham，极大单调算子图上的邻近分解。SIAM J.Optim.5（1995）454-466·Zbl 0834.90105号 ·doi:10.1137/0805023 [60] P.Mahey、A.Ouorou、L.Leblanc和J.Chifflet，《电信网络路由的一种新的近端分解算法》。网络31（1998）227-238·Zbl 1015.90020号 ·doi:10.1002/（SICI）1097-0037（199807）31:4<227:：AID-NET3>3.0.CO；2楼 [61] P.Mahey、J.P.Dussault、A.Benchakroun和A.Hamdi，可分离增广拉格朗日算法的自适应缩放和收敛速度。《优化》，由V.H.Nguyen、J.J.Strodiot和P.Tossingsvolume编辑，Lect第481卷。注释经济。数学。系统。斯普林格（2000）278-287·Zbl 0982.90050号 [62] B.Martinet，方程中的正则化变量内尔近似级数。《法国信息评论》（Revue Française d’Informatique et de Recherche Opérationnelle）（1970）154-159·Zbl 0215.21103号 [63] B.Mercier，椭圆问题有限元解专题讲座。第63卷。数学和物理讲座。施普林格（1979）·Zbl 0445.65100号 [64] G.J.Minty，hilbert空间中的单调算子。杜克大学数学。J.29（1962）341-346·Zbl 0111.31202号 ·doi:10.1215/S0012-7094-62-02933-2 [65] J.-J.Moreau，Proximitéet dualitédans un espace hilbertien。牛市。法国社会数学93（1965）273-299。 [66] K.Mouallif，V.H.Nguyen和J.-J.Strodiot，一类非光滑凸极小化问题的扰动并行分解方法。SIAM J.Control Optim.29（1991）829-847·Zbl 0733.65038号 ·doi:10.1137/0329045 [67] Y.Nesterov，收敛速度为o（1/k^{2}）的无约束凸极小化问题的一种方法。多克。阿卡德。诺克SSSR269（1983）543-547。 [68] G.B.Passty，遍历收敛到hilbert空间中单调算子和的零。数学杂志。分析。申请72（1979）383-390·Zbl 0428.47039号 ·doi:10.1016/0022-247X（79）90234-8 [69] D.H.Peaceman和H.H.Rachford，抛物型椭圆微分方程的数值解。《社会工业杂志》。申请。数学3（1955）28-41·Zbl 0067.35801号 ·数字对象标识代码：10.1137/0103003 [70] G.Pierra，通过产品空间的形式化进行分解。数学。方案28（1984）96-115·Zbl 0523.49022号 ·doi:10.1007/BF026112715 [71] R.T.Rockafellar，增广拉格朗日算法和近点算法在凸规划中的应用。数学。操作。第1号决议（1976）97-116·Zbl 0402.90076号 ·doi:10.1287/门1.2.97 [72] R.T.Rockafellar，单调算子和近点算法。SIAM J.Control Optim.14（1976）877-898·Zbl 0358.90053号 ·数字对象标识代码：10.1137/0314056 [73] R.T.Rockafellar，集值映射的原可微性及其在优化中的应用。《安娜·本卡雷研究所》S6（1989）449-482·Zbl 0674.90082号 [74] R.T.Rockafellar和R.J.-B Wets，不确定性优化中的场景和策略聚合。数学。操作。第16号决议（1991）119-147·Zbl 0729.90067号 ·doi:10.1287/门.16.1.119 [75] R.Shefi和M.Teboulle，基于凸最小化乘数的近似方法的分解方法的收敛率分析。SIAM J.Optim公司。(2014). ·Zbl 1291.90176号 [76] M.V.Solodov，通过混合不精确近点框架求解凸优化和单调变分包含的一类分解方法。Optim。方法Softw.19（2004）557-575·Zbl 1097.90041号 ·doi:10.1080/1055678042000218957 [77] J.E.Spingarn，单调算子的部分逆。申请。数学。Optim.10（1983）247-265·Zbl 0524.90072号 ·doi:10.1007/BF01448388 [78] J.E.Spingarn，部分逆方法在凸规划中的应用：分解。数学。方案32（1985）199-223·Zbl 0565.90058号 ·doi:10.1007/BF01586091 [79] G.Stephanopulos和A.W.Westerberg，使用Hestenes乘数法重新解决工程系统优化中的双重缺口。J.优化。理论应用15（1975）285-309·Zbl 0278.49040号 ·doi:10.1007/BF00933339 [80] R.Temam，《稳定性与分形方法的收敛》。Ann.Mat.Pura Appl.79（1968）191-379·Zbl 0174.45804号 ·doi:10.1007/BF02415183 [81] P.Tseng，分裂算法在凸规划和变分不等式分解中的应用。SIAM J.《控制优化》29（1991）119-138·Zbl 0737.90048号 ·doi:10.1137/0329006 [82] P.Tseng，一种改进的最大单音映射前向背向绘图方法。SIAM J.控制优化38（2000）431-446·Zbl 0997.90062号 ·doi:10.1137/S0363012998338806 [83] R.S.Varga，矩阵迭代分析。普伦蒂斯·霍尔（Prentice-Hall），新泽西州恩格伍德悬崖（Englewood Cliffs）（1966年）。 [84] 许敏华，结构变分不等式的近似交替方向法。J.优化。理论应用.134（2007）107-117·Zbl 1129.49040号 ·doi:10.1007/s10957-007-9192-2 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。