×

多块凸极小化问题的分布式Douglas-Rachford分裂方法。 (英语) Zbl 1332.90198号

小结:定制Douglas-Rachford分裂法最近提出了DRSM来解决具有线性约束和简单抽象约束的两块可分离凸优化问题。该算法比众所周知的乘法器的交替方向法(ADMM),DRSM在两块凸极小化问题中的对偶应用,在这个意义上,子问题可以有更大的机会获得闭合形式的解,因为它们是无约束的。本文通过考虑DRSM在一般情况(m\geq3)下的初步应用,进一步研究了这一方法,即考虑了带线性约束的多块可分离凸极小化问题,其中目标函数可分离为无耦合变量的单个凸函数。该方法充分利用了可分离结构,并具有可同时求解的解耦子问题。新方法的精确和不精确版本都在一个统一的框架中给出。在温和的条件下,我们设法证明了算法的全局收敛性。通过从损坏的监控视频中提取背景的初步数值实验,验证了新算法的有效性。

MSC公司:

90C25型 凸面编程
65K10码 数值优化和变分技术
94A08型 信息和通信理论中的图像处理(压缩、重建等)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bardsley,J.、Knepper,S.、Nagy,J.:自适应光学成像中的结构化线性代数问题。高级计算。数学。35, 103-117 (2011) ·Zbl 1252.78015号 ·doi:10.1007/s10444-011-9172-9
[2] Bauschke,H.,Combettes,P.:希尔伯特空间中的凸分析和单调算子理论。施普林格,纽约(2011)·Zbl 1218.47001号 ·doi:10.1007/978-1-4419-9467-7
[3] Bertsekas,D.,Tsitsiklis,J.:并行和分布式计算,数值方法。普伦蒂斯·霍尔(Prentice-Hall),新泽西州恩格伍德悬崖(Englewood Cliffs)(1989年)·Zbl 0743.65107号
[4] Bose,N.,Boo,K.:多传感器高分辨率图像重建。国际期刊图像。系统。技术9,294-304(1998)·doi:10.1002/(SICI)1098-1098(1998)9:4<294::AID-IMA11>3.0.CO;2倍
[5] Boyd,S.、Parikh,N.、Chu,E.、Peleato,B.、Eckstein,J.:通过交替方向乘数法进行分布式优化和统计学习。已找到。趋势马赫数。学习。3, 1-122 (2010) ·Zbl 1229.90122号 ·doi:10.1561/220000016
[6] Cai,J.,Candés,E.,Shen,Z.:矩阵补全的奇异值阈值算法。SIAM J.Optim公司。20, 1956-1982 (2010) ·Zbl 1201.90155号 ·doi:10.1137/080738970
[7] Cai,J.,Chan,R.,Nikolova,M.:对脉冲加高斯噪声污染的图像进行去模糊的两阶段方法。反向探头。图像。2, 187-204 (2008) ·Zbl 1154.94306号 ·doi:10.3934/ipi.2008.2.187
[8] Cai,J.,Osher,S.,Shen,Z.:分裂Bregman方法和基于帧的图像恢复。多尺度模型。模拟。8, 337-369 (2009) ·Zbl 1189.94014号 ·doi:10.1137/090753504
[9] Candés,E.,Li,X.,Ma,Y.,Wright,J.:稳健主成分分析?J.ACM 58,1-37(2011)·Zbl 1327.62369号 ·数字对象标识代码:10.1145/1970392.1970395
[10] Chan,R.,Yang,J.,Yuan,X.:小波域图像修复的交替方向方法。SIAM J.成像科学。4, 807-826 (2011) ·Zbl 1234.68448号 ·数字对象标识代码:10.1137/100807247
[11] Chandrasekaran,V.,Sanghavi,S.,Parrilo,P.,Willskyc,A.:矩阵分解的秩parity不相干。SIAM J.Optim公司。21, 572-596 (2011) ·Zbl 1226.90067号 ·数字对象标识代码:10.1137/090761793
[12] Chen,C.,He,B.,Ye,Y.,Yuan,X.:ADMM对多块凸极小化问题的直接推广不一定收敛。出现在数学编程系列A中。doi:10.1007/s10107-014-0826-5·Zbl 1332.90193号
[13] Chen,C.,He,B.,Yuan,X.:通过交替方向法完成矩阵。IMA J.数字。分析。32, 227-245 (2012) ·Zbl 1236.65043号 ·doi:10.1093/imanum/drq039
[14] Chen,G.,Teboulle,M.:凸极小化问题的基于近似的分解方法。数学。程序。64, 81-101 (1994) ·Zbl 0823.90097号 ·doi:10.1007/BF01582566
[15] 组合框,P。;佩斯克,J。;Bauschke,H.(编辑);Burachik,R.(编辑);Combettes,P.(编辑);Elser,V.(编辑);Luke,D.(编辑);Wolkowicz,H.(编辑),《信号处理中的近距离分裂方法》,185-212(2011),纽约·Zbl 1242.90160号 ·doi:10.1007/978-1-4419-9569-810
[16] Dinh,Q.,Necoara,I.,Savorgnan,C.,Diehl,M.:大规模可分离凸优化中拉格朗日分解的不精确扰动路径允许方法。SIAM J.Optim公司。23, 95-125 (2013) ·Zbl 1284.90049号 ·数字对象标识码:10.1137/1085311X
[17] Douglas,J.,Rachford,H.:关于2和3个空间变量中热传导问题的数值解。事务处理。阿默尔。数学。Soc.82421-439(1956年)·Zbl 0070.35401号 ·doi:10.1090/S0002-9947-1956-0084194-4
[18] Eckstein,J.:凸优化的增广拉格朗日和交替方向方法:教程和一些说明性的计算结果。技术报告32-2012。罗格斯大学(2012)·Zbl 1206.90088号
[19] Eckstein,J.,Bertsekas,D.:关于最大单调算子的Douglas-Rachford分裂方法和近点算法。数学。程序。55, 293-318 (1992) ·Zbl 0765.90073号 ·doi:10.1007/BF01581204
[20] Facchinei,F.,Pang,J.:有限维变分不等式和互补问题。施普林格,纽约(2003)·兹比尔1062.90002
[21] Fukushima,M.:一类单调映射的原始Douglas Rachford分裂算法及其在交通平衡问题中的应用。数学。程序。72, 1-15 (1996) ·Zbl 0851.90138号
[22] Gabay,D.:乘数法在变分不等式中的应用。In:Fortin,M.,Glowinski,R.(eds.)增广拉格朗日方法:在边值问题数值解中的应用,第299-331页。荷兰(1983)·Zbl 1009.90108号
[23] Gabay,D.,Mercier,B.:通过有限元近似解非线性变分问题的对偶算法。计算。数学。申请。2, 16-40 (1976) ·Zbl 0352.65034号 ·doi:10.1016/0898-1221(76)90003-1
[24] Goldstein,T.,Osher,S.:分裂Bregman方法1正规化问题。SIAM J.成像科学。2, 323-343 (2009) ·Zbl 1177.65088号 ·doi:10.1137/080725891
[25] Han,D.,He,H.,Xu,L.:最小化线性约束凸函数和的近似并行分裂方法。J.计算。申请。数学。256, 36-51 (2014) ·Zbl 1314.90060号 ·doi:10.1016/j.cam.2013.07.010
[26] Han,D.,He,H.,Yang,H,Yuan,X.:一种用于线性约束可分离凸极小化的自定义Douglas-Rachford分裂算法。数字。数学。127, 167-200 (2014) ·Zbl 1295.90046号 ·doi:10.1007/s00211-013-0580-2
[27] 韩,D.,袁,X.:关于乘数交替方向法的注释。J.优化。理论应用。155(1),227-238(2012)·Zbl 1255.90093号 ·文件编号:10.1007/s10957-012-0003-z
[28] Han,D.,Yuan,X.,Zhang,W.:可分离凸极小化的一种改进的基于图的并行分裂方法及其在图像处理中的应用。数学。计算。83, 2263-2291 (2014) ·Zbl 1311.90100号 ·doi:10.1090/S0025-5718-2014-02829-9
[29] He,B.:单调结构变分不等式的并行分裂增广拉格朗日方法。计算。最佳方案。申请。42, 195-212 (2009) ·Zbl 1183.65080号 ·数字对象标识代码:10.1007/s10589-007-9109-x
[30] He,B.,Fu,X.,Jiang,Z.:使用线性近似项的近似点算法。J.优化。理论应用。141, 299-319 (2009) ·Zbl 1170.49008号 ·doi:10.1007/s10957-008-9493-0
[31] 何,B.,侯,L.,袁,X.:关于可分凸规划增广拉格朗日方法的完全雅可比分解。可从获取。http://www.optimization-online.org/DB_FILE/2013/05/3894.pdf ·Zbl 1327.90209号
[32] He,B.,Liao,L.,Han,D.,Yang,H.:单调变分不等式的一种新的非精确交替方向方法。数学。程序。92, 103-118 (2002) ·Zbl 1009.90108号 ·doi:10.1007/s101070100280
[33] 何,B,陶,M,徐,M,袁,X:一般可分离线性约束凸规划问题的基于交替方向的收缩方法。优化62,573-596(2013)·兹比尔1273.90122 ·doi:10.1080/02331934.2011.611885
[34] He,B.,Tao,M.,Yuan,X.:带链接线性约束的分离凸规划的分裂方法。IMA J.数字。分析。doi:10.1093/imanum/drt060·Zbl 1236.65043号
[35] He,B.,Tao,M.,Yuan,X.:可分离凸规划的Gaussian-back代换交替方向法。SIAM J.Optim公司。22, 313-340 (2012) ·Zbl 1273.90152号 ·数字对象标识代码:10.1137/10822347
[36] 何,B.,徐,M.,袁,X.:用交替方向法求解大规模最小二乘协方差矩阵问题。SIAM J.矩阵分析。申请。32136-152(2011年)·Zbl 1243.49039号 ·doi:10.1137/090768813
[37] Hestenes,M.:乘数法和梯度法。J.优化。理论应用。4, 303-320 (1969) ·Zbl 0174.20705号 ·doi:10.1007/BF00927673
[38] Hong,M.,Luo,Z.:关于交替方向乘数法的线性收敛性。ArXiv:1208.3922v3(2013)
[39] Larsen,R.:PROPACK—用于大型稀疏SVD计算的软件。H(H)ttp://sun.stanford.edu/srmunk/PROPACK公司/
[40] Lions,P.,Mercier,B.:两个非线性算子之和的分裂算法。SIAM J.数字。分析。16, 964-979 (1979) ·Zbl 0426.6500号 ·doi:10.1137/0716071
[41] Ma,S.,Xue,L.,Zou,H.:潜在变量高斯图形模型选择的交替方向方法。神经计算。25, 2172-2198 (2013) ·兹比尔1418.62234 ·doi:10.1162/NECO_a_00379
[42] Moreau,J.:基金会的资金来源和资金来源。C.R.学院。科学。巴黎Ser。数学。255, 2897-2899 (1962) ·Zbl 0118.10502号
[43] Nediċ,A.,Ozdaglar,A.:鞍点问题的次梯度方法。J.优化。理论应用。142, 205-228 (2009) ·Zbl 1175.90415号 ·doi:10.1007/s10957-009-9522-7
[44] Oreifej,O.,Li,X.,Shah,M.:湍流中的同步视频稳定和运动目标检测。IEEE传输。模式分析。机器。智力。35, 450-462 (2013) ·doi:10.1109/TPAMI.2012.97
[45] Powell,M.:最小化问题中非线性约束的一种方法。In:Fletcher,R.(编辑)Optimization,第283-298页,伦敦(1969年)·Zbl 1189.94014号
[46] Rockafellar,R.:关于次微分映射的最大单调性。太平洋数学杂志。33(1), 209-216 (1970) ·Zbl 0199.47101号 ·doi:10.2140/pjm.1970.33.209
[47] Rockafellar,R.:单调算子和近点算法。SIAM J.控制优化。14, 877-898 (1976) ·Zbl 0358.90053号 ·数字对象标识代码:10.1137/0314056
[48] Setzer,S.、Steidl,G.、Tebuber,T.:通过分裂Bregman技术消除泊松图像的模糊。视觉杂志。Commun公司。图像R 21193-199(2010)·doi:10.1016/j.jvcir.2009.10.006
[49] Tao,M.,Yuan,X.:从不完整和有噪声的观测中恢复矩阵的低秩和稀疏分量。SIAM J.Optim公司。21, 57-81 (2011) ·Zbl 1218.90115号 ·doi:10.1137/100781894
[50] Tibshirani,R.、Saunders,M.、Rosset,S.、Zhu,J.、K.奈特:通过融合LASSO实现的简洁流畅。J.R.统计。Soc.B 67,91-108(2005)·兹比尔1060.62049 ·文件编号:10.1111/j.1467-9868.2005.00490.x
[51] Varga,R.:矩阵迭代分析。普伦蒂斯·霍尔,恩格伍德悬崖,新泽西州(1966年)
[52] Wen,Z.,Goldfarb,D.,Yin,W.:半定规划的交替方向增广拉格朗日方法。数学。程序。计算。2, 203-230 (2010) ·Zbl 1206.90088号 ·doi:10.1007/s12532-010-0017-1
[53] Yang,J.,Zhang,Y.:交替方向算法1-压缩传感中的问题。SIAM J.科学。计算。332, 250-278 (2011) ·Zbl 1256.65060号 ·数字对象标识码:10.1137/09077761
[54] Yuan,X.:协方差选择模型的交替方向方法。科学杂志。计算。51, 261-273 (2012) ·Zbl 1255.65031号 ·doi:10.1007/s10915-011-9507-1
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。