Kybernetika 58 4号, 578-592, 2022

使用不精确oracle进行分布式优化

Kui Zhu先生,张一晨和汤玉涛内政部：10.14736/kyb-2022-4-0578

摘要：

本文利用一阶近似信息研究分布式优化问题。我们假设代理可以反复调用每个目标函数的一阶不精确预言，并与其时变邻居交换信息。在这种情况下，我们重新讨论了分布式次梯度方法，并证明了它在平方可和但不可和步长下的次优性。我们还提出了局部预言不精确的几个条件，以确保迭代序列向全局最优解精确收敛。通过数值算例验证了算法的有效性。

关键词：

分布式优化、多智能体网络、不精确oracle、一阶方法、时变拓扑

分类：

65K10、93A16

纸张.pdf

参考文献：

  1. Y.I.Alber、A.N.Iusem和M.V.Solodov:关于Hilbert空间中非光滑凸优化的投影次梯度方法。 数学。程序。81 (1998), 23-35. DOI:10.1007/bf01584842
  2. A.Auslender和M.Teboulle:约束凸最小化的内梯度和ε次梯度下降方法。 数学。操作。第29号决议（2004年），1-26。 DOI:10.1287/门1030.0062
  3. N.Bastianello和E.Dall'Anese:在线凸优化的分布式非精确近似梯度法。 In：程序。欧洲控制会议，2021年，第2432-2437页。 内政部：10.23919/ecc54610.2021.9654953
  4. D.P.贝尔塞卡斯:凸优化算法。 雅典娜科技公司，贝尔蒙特，2015年。 交叉参考
  5. S.Cheng和S.Liang:具有线性收敛速度的非平衡图上多智能体系统的分布式优化。 Kybernetika 56（2020），559-577。 内政部：10.14736/kyb-2020-3-0559
  6. R.Correa和C.Lemaréchal:一些凸极小化算法的收敛性。 数学。程序。62 (1993), 261-275. 内政部：10.1007/BF01585170
  7. O.Devolder、F.Glineur和Y.Nesterov:具有不精确预言的光滑凸优化的一阶方法。 数学。程序。146 (2014), 37-75. 内政部：10.1007/s10107-013-0677-5
  8. J.C.Duchi、A.Agarwal和M.J.Wainwright:分布式优化的双重平均：收敛分析和网络缩放。 IEEE传输。自动。控制57（2011），592-606。 DOI:10.1016/j.disamonth.2011.09.001
  9. D.Jakovetić、J.Xavier和J.M.Moura:快速分布梯度法。 IEEE传输。自动化。控制59（2014），1131-1146。 内政部：10.1109/TAC.2014.2298712
  10. K.C.Kiwiel公司:凸优化近似和增量次梯度方法的收敛性。 SIAM J.Optim公司。14 (2004), 807-840. 内政部：10.1137/S1052623400376366
  11. P.Li和J.Hu:基于情景理论的分布式不确定经济调度问题的求解策略。 控制理论技术。19 (2021), 499-506. 内政部：10.1007/s11768-021-00068-6
  12. P.Li、J.Hu、L.Qiu、Y.Zhao和B.K.Ghosh:一种分布式水电网经济调度策略。 IEEE传输。控制网络。系统。9 (2022), 356-366. 内政部：10.1109/TCNS.2021.3104103
  13. P.Li、Y.Zhao、J.Hu、Y.Zhang和B.K.Ghosh:具有耦合不等式约束的多智能体优化问题的分布式免初始化算法。 神经计算407（2020），155-162。 DOI:10.1016/j.neucom.2020.05.006
  14. S.Liu、Z.Qiu和L.Xie:基于投影次梯度算法的分布式优化收敛速度分析。 Automatica 83（2017），162-169。 DOI:10.1016/j.自动2017.06.011
  15. Y.Lou、G.Shi、K.Johansson和Y.Hong:凸交会计算的近似投影一致性：收敛分析和临界误差角 IEEE传输。自动化。控制59（2014），1722-1736。 内政部：10.1109/TAC.2014.2309261
  16. A.Nedić和D.P.Bertsekas:次梯度方法中确定性噪声的影响。 数学。程序。125 (2010), 75-99. DOI:10.1007/s10107-008-0262-5
  17. A.Nedić和J.Liu:分布式优化控制。 Ann.Rev.控制机器人。汽车。系统。1 (2018), 77-103. DOI:10.1146/年度控制-060117-105131
  18. A.Nedić、A.Olshevsky和W.Shi:时变图上分布式优化的几何收敛。 SIAM J.Optim公司。27 (2017), 2597-2633. 内政部：10.1137/16M1084316
  19. A.Nedic和A.Ozdaglar:多智能体优化的分布式次梯度方法。 IEEE传输。自动化。控制54（2009），48-61。 内政部：10.1109/TAC.2008.2009515
  20. A.Nedić、A.Ozdaglar和P.A.Parrilo:多智能体网络中的约束一致性与优化。 IEEE传输。自动化。控制55（2010），922-938。 DOI:10.10109/日期.2010.2041686
  21. B.波利亚克:优化简介。 Optimization Software Inc.，纽约，1987年。 交叉参考
  22. G.Qu和N.Li:利用平滑度加速分布式优化。 IEEE传输。控制网络。系统。5（2018），1245-1260页。 内政部：10.1109/TCNS.2017.2698261
  23. J.Rasch和C.Antonin:不精确的一阶原对偶算法。 计算。最佳方案。申请。76 (2020), 381-430. 内政部：10.1007/s10589-020-00186-y
  24. R.T.Rockafellar公司:单调运算符和近点算法。 SIAM J.控制优化。14 (1976), 877-898. 内政部：10.1137/0314056
  25. G.Shi、K.H.Johansson和Y.Hong:达成最佳共识：计算凸集交集的动力系统。 IEEE传输。自动化。控制58（2013），610-622。 内政部：10.1109/TAC.2012.2215261
  26. 史伟、秦玲、吴国伟和尹伟民:｛EXTRA｝：一种用于分散一致性优化的精确一阶算法。 SIAM J.Optim公司。25 (2015), 944-966. 数字对象标识码：10.1137/14096668X
  27. Y.Tang、Z.Deng和Y.Hong:基于嵌入式技术的高阶多智能体系统的最优输出一致性。 IEEE传输。网络。49 (2019), 1768-1779. 内政部：10.1109/TCYB.2018.2813431
  28. Y.Tang和X.Wang:具有静态和动态不确定性的非线性多智能体系统的最优输出一致性。 IEEE传输。自动化。控制66（2021），1733-1740。 内政部：10.1109/TAC.2020.2996978
  29. Y.Tang和K.Zhu:基于输出反馈的不确定多智能体系统的最优一致性。 《国际鲁棒非线性控制杂志》32（2022），2084-2999。 内政部：10.1002/rnc.5928
  30. C.Xi和U.A.Khan:有向图上的分布式次梯度投影算法。 IEEE传输。自动化。控制62（2017），3986-3992。 内政部：10.1109/TAC.2016.2615066
  31. T.Yang、X.Yi、J.Wu、Y.Yuan、D.Wu、Z.Meng、Y.Hong、H.Wang、Z.Lin和K.H.Johansson:分布式优化综述。 《年度修订控制》47（2019），278-305。 内政部：10.1016/j.arcontrol.2019.05.006
  32. P.Yi、Y.Hong和F.Liu:约束优化的分布式梯度算法及其在电力系统负荷分配中的应用。 系统。控制信函。83 (2015), 45-52. DOI:10.1016/j.sysconle.2015.06.006
  33. X.Zeng、P.Yi和Y.Hong:基于非光滑分析方法的分布式连续时间约束凸优化算法。 IEEE传输。自动化。控制62（2017），5227-5233。 内政部：10.1109/TAC.2016.2628807
  34. Y.Zhang、Z.Deng和Y.Hong:多异构{欧拉-拉格朗日}系统的分布式最优协调。 Automatica 79（2017），207-213。 DOI:10.1016/j.自动2017.01.004
  35. K.Zhu和Y.Tang:用于分布式优化的本原-对偶$\varepsilon$次梯度方法。 J.系统。科学。复杂。（2022），已接受。 交叉参考