×

基于动量的分布式梯度跟踪算法用于非平衡有向图的分布式聚合优化。 (英语) Zbl 07859988号

摘要:本文研究了具有行随机加权矩阵的有向图上的分布式聚合优化问题,每个agent的局部成本函数既取决于其局部决策变量,也取决于所有agent的决策变量所形成的所有函数之和。受分布式动态平均一致性协议、重锤策略和Nesterov梯度下降方法的启发,提出了一种基于动量的固定步长分布式梯度跟踪算法来解决这一问题。此外,当全局代价函数与Lipschitz连续梯度强凸时,该算法具有线性收敛速度。固定步长和动量参数的上限分别受到足够小的正常数的限制。最后,通过一个数值算例验证了研究结果的有效性。

MSC公司:

93甲16 多代理系统
05C20号 有向图(有向图),比赛
68宽15 分布式算法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bass,H。;金曼,J。;史密斯,F。;托德,J。;Wall,C.,代数图论,xvi+2981993,剑桥大学出版社:剑桥大学出版社,英国剑桥
[2] 北巴斯蒂亚内洛。;Carli,R。;Schenato,L。;Todescato,M.,《通过放松的ADMM对有损网络进行异步分布式优化:稳定性和线性收敛》,IEEE自动控制汇刊,66,6,2620-26352021·Zbl 1467.93128号
[3] 曹毅。;于伟(Yu,W.)。;Ren,W。;Chen,G.,分布式多智能体协调研究的最新进展概述,IEEE工业信息学汇刊,9,1,427-4382012
[4] Carnevale,G。;卡米萨。;Notarstefano,G.,动态多机器人协调的分布式在线聚合优化,IEEE自动控制汇刊,68,6,3736-37432023·Zbl 07744862号
[5] 陈,Z。;Liang,S.,带量化通信的分布式聚合优化,Kybernetika,58,1,123-1442022·Zbl 1513.90196号
[6] 陈,J。;Sayed,A.,《网络分布式优化和学习的扩散适应策略》,IEEE信号处理汇刊,60,8,4289-43052012·兹比尔1391.90601
[7] 杜奇,J。;阿加瓦尔,A。;Wainwright,M.,分布式优化的双重平均:收敛分析和网络扩展,IEEE自动控制汇刊,57,3592-6062012·Zbl 1369.90156号
[8] Falsone,A。;诺塔尼科拉,I。;Notarstefano,G。;Prandini,M.,《分布式约束耦合优化的跟踪-ADMM》,Automatica,117,第108962页,2020年·Zbl 1441.93101号
[9] Freeman,R.、Yang,P.和Lynch,K.(2006)。动态平均一致估计的稳定性和收敛性。第45届IEEE决策与控制会议记录(第338-343页)。美国加利福尼亚州圣地亚哥。
[10] 郭,F。;温,C。;毛,J。;李·G。;Song,Y.,用于多集群约束优化的分布式分层算法,Automatica,77,230-2382017·Zbl 1355.93006号
[11] 霍恩,R。;Johnson,C.,矩阵分析,2012年,剑桥大学出版社:剑桥大学出版社,纽约
[12] Jakovetic,D。;泽维尔,J。;Moura,J.,快速分布梯度法,IEEE自动控制汇刊,59,5,1131-1146,2014·Zbl 1360.90292号
[13] 起亚,S。;科尔特斯,J。;Martinez,S.,通过离散时间通信的连续时间协调算法进行分布式凸优化,Automatica,55254-2642015·Zbl 1377.93018号
[14] 李,X。;谢林。;Hong,Y.,多代理网络上的分布式聚合优化,IEEE自动控制汇刊,67,6,3165-31712022·Zbl 07564939号
[15] 李,X。;Yi,X。;Xie,L.,带聚合变量的分布式在线凸优化,IEEE网络系统控制汇刊,9,1,438-4492022
[16] 刘杰。;陈,S。;蔡,S。;Xu,C.,加速分布式聚合优化,2023,arXiv预打印arXiv:2304.08051
[17] 吕,Q。;廖,X。;李,H。;Huang,T.,定向网络上分布式优化的类Nesterov梯度跟踪算法,IEEE系统、人与控制论汇刊:系统,51,10,6258-6270,2021
[18] 梅,V。;Abed,E.,具有行随机性和约束正则性的有向图的分布式优化,Automatica,102,94-1042019·Zbl 1415.93294号
[19] Nedić,A。;Olshevsky,A.,时变有向图的分布式优化,IEEE自动控制汇刊,60,3,601-6152015·Zbl 1360.90262号
[20] Nedic,A。;Ozdaglar,A.,多智能体优化的分布式次梯度方法,IEEE自动控制事务,54,1,48-612009·Zbl 1367.90086号
[21] Nesterov,Y.,关于凸优化的介绍性讲座:基础课程,2004年,Springer科学与商业媒体:Springer科技与商业媒体,美国马萨诸塞州波士顿·Zbl 1086.90045号
[22] 哦,好吧。;帕克,M。;Ahn,H.-S.,多智能体编队控制综述,Automatica,53424-4402015·Zbl 1371.93015号
[23] Polyak,B.,《加速迭代法收敛的一些方法》,苏联计算数学和数学物理,4,5,1-171964年·兹伯利0147.35301
[24] Polyak,B.,《优化导论》,1987年,《优化软件:优化软件》,美国纽约州纽约市
[25] Priolo,A。;Gasparri,A。;蒙蒂亚诺,E。;Sagues,C.,强连接加权有向图上平均一致性的分布式算法,Automatica,50,3946-9512014·Zbl 1298.93032号
[26] Pu,S。;Shi,W。;徐,J。;Nedić,A.,网络中分布式优化的推拉梯度方法,IEEE自动控制汇刊,66,1,1-162021·Zbl 07320128号
[27] Qu,G。;Li,N.,加速分布式Nesterov梯度下降,IEEE自动控制汇刊,65,6,2566-25812020·Zbl 07256369号
[28] Shi,L。;Cheng,Y。;邵,J。;Sheng,H。;Liu,Q.,Cucker-smale群集于合作竞争网络,Automatica,135,Article 109988 pp.,2022·Zbl 1480.93176号
[29] Shi,C。;Yang,G.,带节点误差的非平衡有向图下的分布式优化:基于盈余的双重平均算法的鲁棒性,IEEE网络系统控制汇刊,8,1,331-3412021·Zbl 07588098号
[30] Shi,L。;郑伟。;邵,J。;Cheng,Y.,亚超随机矩阵及其在签名网络二部跟踪控制中的应用,SIAM控制与优化杂志,59,6,4563-45892021·Zbl 1480.93028号
[31] 齐齐克利斯,J。;Bertsekas,D。;Athans,M.,分布式异步确定性和随机梯度优化算法,IEEE自动控制汇刊,31,9,803-8121986·兹比尔0602.90120
[32] 王,D。;王,Z。;Lian,J。;Wang,W.,有向网络上基于剩余的分布式优化加速算法,Automatica,146,文章110569 pp.,2022·Zbl 1504.93018号
[33] Xi,C。;梅,V。;Xin,R。;Abed,E。;Khan,U.,带行随机矩阵的有向图优化中的线性收敛,IEEE自动控制汇刊,63,10,3558-3565,2018·Zbl 1423.90192号
[34] Xin,R。;Khan,U.,有向图几何收敛优化的线性算法,IEEE Control Systems Letters,2,3,315-32018
[35] Xin,R。;Khan,U.,《分布式重锤:梯度跟踪一阶方法的推广和加速》,《IEEE自动控制汇刊》,65,6,2627-26332020·Zbl 07256374号
[36] Xin,R。;Pu,S.等人。;Nedić,A。;Khan,U.,用一阶方法进行分散优化的一般框架,IEEE会议录,108,11,1869-18892020
[37] Yang,T。;Yi,X。;吴杰。;袁,Y。;吴博士。;Meng,Z.,分布式优化的调查,控制中的年度审查,47278-3052019
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。