×

兹马思-数学第一资源

具有行随机性和约束正则性的有向图的分布式优化。(英语) Zbl 1415.93294
摘要:本文讨论了一个agent网络上的优化问题,其中代价函数是个体(可能是非光滑的)目标的和,约束集是局部约束的交集。现有的求解该问题的方法大多采用次梯度和一致性步骤,要求网络的权值矩阵是列随机的,甚至是双重随机的,这些条件在有向网络中很难安排。此外,已知的分布次梯度法的收敛性分析取决于问题是无约束的还是有约束的,以及局部约束集是相同的还是非相同的和紧的。本文的主要目标是:(i)消除公共列随机性要求;(ii)放宽紧性假设;(iii)提供统一的收敛性分析。具体地,假设通信图是固定且强连通的,且权值矩阵(仅)是行随机的,提出了一种分布式投影次梯度算法及其一种变异算法,以解决凸和Lipschitz连续的代价函数问题。算法的关键部分是通过估计每个智能体在权矩阵的归一化左Perron特征向量中的对应项来调整其子梯度。这些估计值是通过使用相同行随机权重矩阵的增广一致性迭代局部获得的,并且需要非常有限的关于网络的全局信息。此外,基于局部约束集的正则性假设,给出了一个统一的分析方法,该方法既适用于无约束问题,也适用于有约束问题,而不必假设约束集的紧性或其交集的内点。此外,我们还建立了一个绝对客观误差的上界估计在每个代理的可用局部估计在一个非递增步长序列。这个界允许我们分析两种算法的收敛速度。
理学硕士:
93E20型 最优随机控制
05C90型 图论的应用
90B18号 运筹学中的通信网络
PDF格式 BibTeX公司 XML 引用
参考文献:
[1] Akbari,M.;Gharesifard,B.;Linder,T.,《时变有向图上的分布式在线凸优化》,IEEE网络系统控制事务,4,3,417-428,(2017)·Zbl 06988964
[2] Bajović,D.;Jakovetić,D.;Krejić,N.K.;Jerinkić,N.K.,分布式优化的对角校正牛顿法,暹罗优化杂志,27,2,1171-1203,(2017)·Zbl 1371.90100
[3] Bauschke,H.H.;Borwein,J.M.,关于求解凸可行性问题的投影算法,暹罗评论,38,367-426,(1996)·Zbl 0865.47039
[四] Bertsekas,D.P.,非线性规划,(1999),雅典娜科学·Zbl 1015.90077
[5] Bertsekas,D.P.;Tsitsiklis,J.N.,并行和分布式计算:数值方法,(1989),普伦蒂斯霍尔公司·Zbl 0743.65107
[6] Boyd,S.;Parikh,N.;Chu,E.;Peleato,B.;Eckstein,J.,《机器学习中通过乘法器、基础和趋势的交替方向法进行分布式优化和统计学习》,3,1,1-122,(2011)·Zbl 1229.90122号
[7] Boyd,S.;Xiao,L.;Mutapic,A.,《次梯度方法》,(EE392o的课堂讲义,(2003),斯坦福大学:斯坦福大学秋季季刊)
[8] Charalambous,T.;Rabbat,M.;Johansson,M.;Hadjicostis,C.,《有向图参数的分布式有限时间计算:左特征向量、出度和频谱》,IEEE网络系统控制事务,3,2,137-148,(2016)·Zbl 1372.65104
[9] Chen,I.A.,快速分布式一阶方法(2012),麻省理工学院,(硕士论文)
[10] 钟,F.,有向图的拉普拉斯与契格不等式,组合数学年鉴,9,1,1-19,(2005)·Zbl 1059.05070
[11] Duchi,J.C.;Agarwal,A.;Wainwright,M.J.,《分布式优化的双重平均:收敛分析和网络扩展》,IEEE自动控制事务,57,3592-606,(2012)·Zbl 1369.90156
[12] Godsil,C.;Royle,G.,《代数图论》,(2001年),Springer Verlag:Springer Verlag纽约·Zbl 0968.05002
[13] Grant,M.和Boyd,S.(2014年)。CVX:Matlab专业凸规划软件,2.1版。
[14] Hoffmann,A.,Armin Hoffmann,the distance to the intersection of two凸集的距离用到每个凸集的距离来表示,Mathematische Nachrichten,157,1,81-98,(1992)·中银0773.52002
[15] 霍恩,R.A.;约翰逊,C.R.,《矩阵分析》(1985),剑桥大学出版社·Zbl 0576.15001
[16] Jakovetić,D.;Moura,J.M.F.;Xavier,J.,一类分布式增广拉格朗日算法的线性收敛速度,IEEE自动控制学报,60,4922-936,(2015)·Zbl 1360.90199
[17] Johansson,B.,Keviczky,T.,Johansson,M.和Johansson,K.H.(2008年)。求解凸优化问题的次梯度方法和一致性算法。在:第47届IEEE决策与控制会议论文集(第4185-4190页)。
[18] Kempe,D.,Dobra,A.和Gehrke,J.(2003年)。基于八卦的聚合信息计算。在:第44届IEEE计算机科学基础年会论文集(第482-491页)。
[十九] Lee,S.;Nedic,A.,《凸优化的分布式随机投影算法》,IEEE信号处理选定主题期刊,7,2,221-229,(2013)
[20] Lee,S.;Nedić,A.,基于网络的异步八卦随机投影算法,IEEE自动控制事务,61,4953-968,(2016)·Zbl 1359.68020
[21] Lin,P.;Ren,W.,具有非均匀无界凸约束集和非均匀步长的分布式优化,(2017),arXiv预印本arXiv:1703.08898
[22] Lin,P.;Ren,W.;Song,Y.,《基于非相同约束和通信延迟的分布式多智能体优化》,Automatica,65120-131,(2016)·Zbl 1328.93024号
[23] Lobel,I.;Ozdaglar,A.,随机网络上凸优化的分布式次梯度方法,IEEE自动控制学报,56,6,1291-1306,(2011)·Zbl 1368.90125号
[24] Lobel,I.;Ozdaglar,A.;Feijer,D.,《具有状态依赖通信的分布式多智能体优化》,数学规划,129,2,255-284,(2011)·Zbl 1229.90201
[25] Mai,V.S.和Abed,E.(2016年)。有向加权分布矩阵图的随机优化。在:2016年美国控制会议记录(第7165-7170页)。
[26] Makhdoumi,A.和Ozdaglar,A.(2015年)。有向图上分布次梯度方法的图平衡。在:第54届IEEE决策与控制会议论文集(第1364-1371页)。
[27] Makhdoumi,A.;Ozdaglar,A.,网络上分布式admm的收敛速度,IEEE自动控制事务,62,10,5082-5095,(2017)·Zbl 1390.90551
[28] Matei,I.;Baras,J.S.,两种基于共识的分布式优化算法性能上界的比较,IFAC会议论文集,45,26,168-173,(2012)
[29] Nedic,A.;Olshevsky,A.,《时变有向图上的分布式优化》,IEEE自动控制学报,60,3,601-615,(2015)·Zbl 1360.90262
[30] Nedic,A.;Olshevsky,A.;Shi,W.,《在时变图上实现分布式优化的几何收敛》,暹罗优化杂志,27,4,2597-2633,(2017)·Zbl 1387.90189
[31] Nedic,A.;Ozdaglar,A.,多智能体优化的分布式次梯度方法,IEEE自动控制学报,54,1,48-61,(2009)·Zbl 1367.90086
[32] Nedic,A.;Ozdaglar,A.;Parrilo,P.A.,《多智能体网络中的约束共识与优化》,IEEE自动控制事务,55,4,922-938,(2010)·Zbl 1368.90143
[33] Nesterov,Y.,凸优化导论,第87卷,(2004),Springer科学与商业媒体
[34] Olshevsky,A.,关于固定图的线性时间平均共识和分散优化和多智能体控制的含义,(2016),arXiv预印本arXiv:1411.4186v6
[35] Priolo,A.,Gasparri,A.,Montijano,E.和Sagues,C.(2013年)。强连通加权有向图平衡的分散算法。在:2013年美国控制会议记录(第6547-6552页)。
[36] Qu,Z.,Li,C.和Lewis,F.(2011年)。基于分布式网络连通性估计的协同控制。在:2011年美国控制会议论文集(第3441-3446页)。
[37] Rabbat,M.和Nowak,R.(2004年)。传感器网络中的分布式优化。在:第三届传感器网络信息处理国际研讨会论文集(第20-27页)。
[38] Ram,S.S.;Nedić,A.;Veeravalli,V.V.,凸优化的分布式随机次梯度投影算法,优化理论与应用杂志,147,3516-545,(2010)·Zbl 1254.90171
[39] Robbins,H.;Siegmund,D.,《非负几乎上鞅的收敛定理及其应用》,(统计学中的优化方法,(1971),Elsevier),233-257·中银0286.60025
[40] Shi,W.;Ling,Q.;Wu,G.;Yin,W.,EXTRA:分散一致优化的精确一阶算法,暹罗优化杂志,25,2944-966,(2015)·Zbl 1328.90107
[41] Tsianos,K.I.,Lawlor,S.和Rabbat,M.G.(2012年)。基于共识的分布式优化:大规模机器学习中的实际问题和应用。在:第50届Allerton通信、控制和计算年会论文集(第1543-1550页)。
[42] Tsianos,K.I.;Rabbat,M.G.,《通信延迟下凸优化的分布式双重平均法》,(2012年美国控制会议论文集,(2012年),IEEE),1067-1072
[43] Tsitsiklis,J.;Bertsekas,D.;Athans,M.,《分布式异步确定性和随机梯度优化算法》,IEEE自动控制汇刊,31,9,803-812,(1986)·中银0602.90120
[44] Wang,J.和Elia,N.(2010年)。分布式优化的控制方法。在:第48届Allerton通信、控制和计算年会论文集(第557-561页)。
[45] Wang,J.和Elia,N.(2011年)。集中与分布式凸优化的控制视角。在:第50届IEEE决策与控制会议论文集(第3800-3805页)。
[46] Xi,C.;Khan,U.A.,DEXTRA:有向图优化的快速算法,IEEE自动控制学报,62,10,4980-4993,(2017)·Zbl 1390.90553
[47] Xi,C.;Mai,V.S.;Abed,E.H.;Khan,U.A.,行随机矩阵定向优化中的线性收敛,IEEE自动控制学报,63,10,3558-3565,(2018)·Zbl 1423.90192号
[48] Zeng,J.;Yin,W.,有向网络上凸光滑分散优化的Extrapush,计算数学杂志,35,4,381-394,(2017)·Zbl 1413.90211
此参考列表基于出版商或数字数学图书馆提供的信息。它的项被试探性地匹配到zbMATH标识符,并且可能包含数据转换错误。它试图尽可能准确地反映原始论文中列出的参考文献,而不要求匹配的完整性或精确性。