×
徐阳东;邓慧;朱伟

用于自循环一致凸优化问题的同步分布式ADMM。 （英语） Zbl 07830815号

信息科学。 614, 185-205 (2022).
摘要：本文提出了一种基于交替方向乘子法的分布式算法来解决无约束一致性优化问题。假设代理之间的网络拓扑是连通的，并考虑每个代理的自循环。由于代理的优化变量可以同步更新，因此该算法比顺序算法花费的时间更少。此外，还证明了该算法实际上是一种雅可比近似ADMM算法，并且放宽了对近似矩阵的要求。对该算法进行了收敛性分析，发现其收敛速度为（O（1/k））。最后，通过数值实验说明了该算法的特点，并与其他ADMM算法在求解最小二乘问题时进行了比较。

MSC公司：

90C25型 凸面编程
68宽15 分布式算法

关键词：

一致凸优化问题;同步分布式交替方向乘法器方法;Jacobi近端ADMM;最小二乘问题
PDF格式BibTeX公司 XML格式引用
\textit{Y.Xu}等人，《信息科学》。614185-205（2022；Zbl 07830815）
全文： 内政部

参考文献：

[1] Hellkvist，M。；Ozcelikkale，A。；Ahlen，A.，《带分布式学习的线性回归：泛化误差视角》，IEEE Trans。信号处理。，69, 5479-5495 (2021)
[2] 王，X。；石井，H。；杜立科。；Cheng，P。；Chen，J.M.，通过局部随机化和ADMM扰动的隐私保护分布式机器学习，IEEE Trans。信号处理。，68, 4226-4241 (2020) ·Zbl 07591031号
[3] Molzahn，D.K。；Dörfler，F。；桑德伯格，H。；低，S.H。；Chakrabarti，S。；巴尔迪克，R。；Lavaei，J.，《电力系统分布式优化和控制算法综述》，IEEE Trans。智能电网，82941-2962（2017）
[4] Yang，T。；Yi，X.L。；Wu，J.F。；袁，Y。；Wu，D。；孟振英。；Hong，Y.G。；Wang，H。；林，Z.L。；Johansson，K.H.，《分布式优化调查》，年。版本控制，47，278-305（2019）
[5] 帕拉斯，J。；Zazo，S.，通过折扣获得重复博弈均衡的分布式算法，应用。数学。计算。，367，第124785条pp.（2020）·Zbl 1433.91008号
[6] 何，X。；于建忠。；黄，T.W。；李，C.D。；Li，C.J.，分布式约束优化的平均拟恒等式算法：脉冲通信框架，IEEE Trans。赛博。，50, 351-360 (2020)
[7] 于振英。；于圣忠。；蒋海杰。；Mei，X.H.，有向网络上多智能体系统的分布式定时优化，非线性动力学。，103, 775-789 (2021) ·Zbl 1516.93019号
[8] 朱伟。；Tian，H.B.，《基于比例积分微分算法的分布式凸优化》，测量与控制（2021）
[9] Nedic，A。；Ozdaglar，A.，多智能体优化的分布式次梯度方法，IEEE Trans。自动。对照，54，48-61（2009）·兹伯利1367.90086
[10] Chen，S.X。；加西亚，A。；Shahrampour，S.，《分布式非凸优化：网络中弱凸问题的投影次梯度法》，IEEE Trans。自动。控制，67，662-675（2022）·Zbl 07480813号
[11] Xu，J.M。；朱，S.Y。；Soh，Y.C。；Xie，L.H.，随机网络上异步分布梯度方法的收敛性，IEEE Trans。自动。控制，63，434-448（2018）·Zbl 1390.90433号
[12] 李洪秋。；吕庆国。；Huang，T.W.，时变一般非平衡有向图上的分布式投影次梯度算法，IEEE Trans。自动。控制，64，1309-1316（2019）·Zbl 1482.90230号
[13] 杜奇，J.C。；阿加瓦尔，A。；Wainwright，M.J.，《分布式优化的双重平均：收敛分析和网络缩放》，IEEE Trans。自动。控制，57592-606（2012）·Zbl 1369.90156号
[14] Li，J.Y。；朱晓明。；Wu，Z.Y。；黄，T.W.，时变广义有向网络上多智能体盗贼优化的在线分布式双重平均算法，信息科学。，581, 678-693 (2021)
[15] Rabbat，M.G。；诺瓦克，R.D。；Bucklew，J.A.，《带擦除链路的网络系统中的广义一致性计算》，（第六届无线通信信号处理进展会议论文集（2005）），1088-1092
[16] 樱马，K。；Miura，M.，《网络化多智能体系统的分布式约束优化》，应用。数学。计算。，292, 272-281 (2017) ·Zbl 1410.90288号
[17] Jakovetic，D。；Bajovic，D。；泽维尔，J。；Moura，J.M.F.，大规模分布式凸优化和数据分析的原对偶方法，（IEEE 108（2020）会议记录），1923-1938
[18] 博伊德，S。；北卡罗来纳州帕里赫。；朱，E。；佩莱托，B。；Eckstein，J.，通过乘法器的交替方向方法进行分布式优化和统计学习，Found。趋势马赫数。学习。，3, 1-122 (2010) ·Zbl 1229.90122号
[19] Hong，M.Y。；罗志强。；Razaviyayn，M.，一类非凸问题的交替方向乘子法的收敛性分析，SIAM J.Optim。，26, 337-364 (2016) ·Zbl 1356.49061号
[20] Chang，T.H.（张天海）。；Hong，M.Y。；Liao，W.C。；Wang，X.，用于大规模优化的异步分布式ADMM-第一部分：算法和收敛性分析，IEEE Trans。信号处理。，64, 3118-3130 (2016) ·Zbl 1414.94106号
[21] Chang，T.H。；洪，M.Y。；Liao，W.C。；Wang，X.，《用于大规模优化的异步分布式ADMM——第二部分：线性收敛分析和数值性能》，IEEE Trans。信号处理。，64, 3131-3144 (2016) ·Zbl 1414.94107号
[22] 魏，E。；Ozdaglar，A.，乘法器的分布式交替方向方法，（IEEE决策与控制会议论文集（2012）），5445-5450
[23] 严建清。；郭富华。；Wen，C.Y。；李国强，乘法器的平行交替方向法，信息科学。，507, 185-196 (2020) ·Zbl 1456.90127号
[24] Alghunaim，S.A。；Sayed，A.H.，原对偶梯度法的线性收敛及其在分布式优化中的性能，Automatica，117，第109003页，（2020）·兹比尔1444.90110
[25] 邓，W。；赖，M.J。；彭，Z.M。；Yin，W.T.，o（1/k）收敛的并行多块ADMM，科学杂志。计算。，71, 712-736 (2017) ·Zbl 1398.65121号
[26] Wang，F.H。；加拿大，W.F。；Xu，Z.B.，非凸组合问题多块Bregman ADMM的收敛性，科学。中国信息科学。，61, 1-12 (2018)
[27] Wang，Y。；Yin，W.T。；Zeng，J.S.，非凸非光滑优化中ADMM的全局收敛性，科学学报。计算。，78，29-63（2019）·Zbl 1462.65072号
[28] Yashtini，M.，《多块非凸非光滑近端ADMM：Kurdyka-Łojasiewicz性质下的收敛和速率》，J.Optim。理论应用。，190, 966-998 (2021) ·Zbl 1478.90099号
[29] 法泽尔，M。；庞，T.K。；Sun，D.F。；Tseng，P.，Hankel矩阵秩最小化及其在系统识别和实现中的应用，SIAM J.矩阵分析。申请。，34, 946-977 (2013) ·Zbl 1302.90127号
[30] 拉巴特，M。；Nowak，R.，传感器网络中的分布式优化，（第三届传感器网络信息处理国际研讨会论文集（2004）），20-27
[31] Erseghe，T。；Zennaro博士。；Dall'Anese，E。；Vangelista，L.，《交替方向乘数法快速一致性》，IEEE Trans。信号处理。，59, 5523-5537 (2011) ·Zbl 1391.93137号
[32] 王，X。；周杰强。；牟S.S。；Corless，M.J.，《最小二乘解的分布式算法》，IEEE Trans。自动。控制，64，4217-4222（2019）·Zbl 1482.90254号
[33] 谢世勇。；张义清。；郭，L.，分布最小二乘法的收敛性，IEEE Trans。自动。控制，66，4952-4959（2021）·兹比尔07479704
[34] 李·T。；Sahu，A.K。；Talwalkar，A。；Smith，V.，《联合学习：挑战、方法和未来方向》，IEEE信号处理。Mag.，37，50-60（2020年）
[35] Y.SarcheshmehPour，Y.Tian，L.Zhang，A.Jung，网络联合多任务学习，TechRxiv。预印本.doi:10.36227/techrxiv.14685696.v1。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。