×
孙敏儿;孙洪春

多块可分离凸规划的改进近端ADMM与部分并行分裂。 （英文） Zbl 1401.90163号

J.应用。数学。计算。 58，编号1-2151-181（2018）.
摘要：对于机器学习和统计推理中提出的一类多块可分离凸规划，我们提出了一种部分并行分裂的乘法器的近似交替方向方法，该方法具有以下优良特性：（1）减轻了近似项的权重，对近端参数的限制大大放宽；（2） 为了保持原始变量\（xi（i=1,2，\dots，m）\的固有结构，松弛参数\（\gamma\）只附加到对偶变量\（\lambda \）的更新公式。对于所得到的方法，我们建立了它的全局收敛性和遍历意义下的最坏情况（mathcal{O}（1/t））收敛速度，其中（t）是迭代计数器。最后，给出了三个数值例子来说明所获得的理论结果。

引用于三文件

MSC公司：

90C25型 凸面编程
90立方 非线性规划

关键词：

交替方向乘法器法;多块可分凸规划;全球收敛
PDF格式BibTeX公司 XML格式引用
\textit{M.Sun}和\textit{H.Sun}，J.Appl。数学。计算。58，编号1--2，151-181（2018；Zbl 1401.90163）
全文： 内政部

参考文献：

[1] Bauschke，H.H.，Combettes，P.L.：希尔伯特空间中的凸分析和单调算子理论。柏林施普林格出版社（2011）·Zbl 1218.47001号 ·doi:10.1007/978-1-4419-9467-7
[2] 博伊德，S；帕里赫，N；楚，E；佩莱托，B；Eckstein，J，《通过交替方向乘数法进行分布式优化和统计学习》，Found。趋势马赫数。学习。，3, 1-122, (2011) ·Zbl 1229.90122号 ·doi:10.1561/220000016
[3] 蔡，JF；坎迪斯，EJ；沈，Z，矩阵补全的奇异值阈值算法，SIAM J.Optim。，20, 1956-1982, (2010) ·Zbl 1201.90155号 ·doi:10.1137/080738970
[4] Chandrasekaran，V；帕里罗，P；Willsky，A，通过凸优化选择潜在变量图形模型，Ann.Stat.，401935-1967，（2012）·Zbl 1257.62061号 ·doi:10.1214/11-AOS949
[5] 陈，CH；He，理学学士；Ye，YY；Yuan，XM，ADMM对多块凸极小化问题的直接扩展不一定收敛，数学。程序。，155, 57-79, (2016) ·Zbl 1332.90193号 ·doi:10.1007/s10107-014-0826-5
[6] 陈，PJ；黄，JG；张，XQ，三个凸可分函数之和最小化的原对偶不动点算法，不动点理论应用。，2016, 1-18, (2016) ·Zbl 1505.90094号 ·doi:10.1186/s13663-016-0543-2
[7] 邓，W；赖，MJ；彭，ZM；Yin，WT，具有o（1/k）收敛性的并行多块ADMM，科学杂志。计算。，71, 712-736, (2017) ·Zbl 1398.65121号 ·doi:10.1007/s10915-016-0318-2
[8] 邓，W.，尹，W.T.：关于乘数的广义交替方向法的全局和线性收敛性。莱斯大学CAAM技术报告TR12-14（2012）·Zbl 1358.90100号
[9] Fazel，M；Pong，TK公司；孙，DF；Tseng，P，Hankel矩阵秩最小化及其在系统识别和实现中的应用，SIAM J.矩阵分析。申请。，34, 946-977, (2013) ·Zbl 1302.90127号 ·doi:10.1137/110853996
[10] 加贝，D；Mercier，B，通过有限元近似解非线性变分问题的对偶算法，计算。数学。申请。，2, 17-40, (1976) ·Zbl 0352.65034号 ·doi:10.1016/0898-1221（76）90003-1
[11] Gao，B.，Ma，F.：线性约束凸优化的具有不确定最近点正则化的对称交替方向方法。提交给J.Optim。理论应用。（修订中）（2017）·Zbl 1453.65133号
[12] He，B.S.，Yuan，X.M.：关于多块可分离凸规划及其后的ADMM的直接推广：从变分不等式的角度，在线优化（2014）
[13] He，B.S.，Ma，F.，Yuan，X.M.：通过凸规划的正诱导近端正则化的乘数线性化交替方向方法，在线优化（2016）·Zbl 1331.68189号
[14] He，B.S.，Ma，F.，Yuan，X.M.，正不定近端增广拉格朗日方法及其在多块可分离凸最小化问题的全雅可比分裂中的应用，在线优化（2016）·Zbl 1368.65088号
[15] 侯，LS；何，HJ；Yang，JF，多块可分离凸规划的部分并行分裂方法及其在鲁棒PCA中的应用，计算。最佳方案。申请。，63, 273-303, (2016) ·Zbl 1343.90061号 ·数字对象标识代码：10.1007/s10589-015-9770-4
[16] 李，M；孙，DF；Toh，KC，线性约束凸组合优化中具有不确定近似项的优化ADMM，SIAM J.Optim。，26, 922-950, (2016) ·Zbl 1338.90305号 ·doi:10.1137/14099025
[17] 狮子，PL；Mercier，B，两个非线性算子之和的分裂算法，SIAM J.Numer。分析。，16, 964-979, (1979) ·Zbl 0426.6500号 ·doi:10.1137/0716071
[18] 李，Q；沈，LX；Yang，LH，基于帧的图像修复的Split-Bregman迭代，应用。计算。哈蒙。分析。，32, 145-154, (2012) ·Zbl 1236.94021号 ·doi:10.1016/j.acha.2011.09.007
[19] 李，Q；徐，YS；Zhang，N，多块可分离凸问题的两步定点逼近算法，科学计算杂志，701204-1228，（2017）·Zbl 1368.65088号 ·doi:10.1007/s10915-016-0278-6
[20] 林，ZC；刘，RS；Li，H，机器学习中可分离凸程序的并行分裂和自适应惩罚线性化交替方向方法，马赫。学习。，95, 287-325, (2015) ·Zbl 1331.68189号 ·doi:10.1007/s10994-014-5469-5
[21] 马，SQ；徐，DZ；邹，H，隐变量高斯图形模型选择的交替方向方法，神经计算。，25, 2172-2198, (2013) ·Zbl 1418.62234号 ·doi:10.1162/NECO_a_00379
[22] Ma，SQ，凸最小化的交替近端梯度方法，科学杂志。计算。，68, 546-572, (2016) ·Zbl 1371.65056号 ·doi:10.1007/s10915-015-0150-0
[23] 孙，M；Liu，J，《用于压缩传感的近端peaceman-Rachford分裂法》，J.Appl。数学。计算。，50, 349-363, (2016) ·Zbl 1330.90079号 ·doi:10.1007/s12190-015-0874-x
[24] 孙，M；刘，J，可分凸规划的广义peaceman-Rachford分裂方法及其在图像处理中的应用，J.Appl。数学。计算。，51, 605-622, (2016) ·Zbl 1338.90307号 ·doi:10.1007/s12190-015-0922-6
[25] 孙，M；刘，J，带不定近端正则化的乘数近端交替方向法的收敛速度，J。不等式。申请。，2017, 19, (2017) ·Zbl 1358.90100号 ·doi:10.1186/s13660-017-1295-1
[26] 孙，M；Wang，YJ；Liu，J，多块可分离凸规划的广义peaceman-Rachford分裂方法及其在鲁棒PCA中的应用，Caocolo，54，77-94，（2017）·Zbl 1368.90129号
[27] 陶，M；Yuan，XM，从不完全和噪声观测中恢复矩阵的低秩和稀疏分量，SIAM J.Optim。，21, 57-81, (2011) ·Zbl 1218.90115号 ·数字对象标识代码：10.1137/100781894
[28] 王，JJ；Song，W，多块可分离凸极小化模型的广义ADMM扭曲算法，J.Compute。申请。数学。，309, 342-358, (2017) ·Zbl 1462.90095 ·doi:10.1016/j.cam.2016.02.001
[29] 徐，MH；Wu，T，一类线性化近端交替方向方法，J.Optim。理论应用。，151, 321-337, (2011) ·Zbl 1242.90168号 ·doi:10.1007/s10957-011-9876-5
[30] 张，XQ；汉堡，M；Osher，S，基于Bregman迭代的统一原对偶算法框架，J.Sci。计算。，6, 20-46, (2010) ·Zbl 1227.65052号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。