×
蒂普苏达州阿伦拉特；萨克雷佩·纳姆萨克；尼马纳，尼米特

一种求解加性凸优化问题的异步次梯度逼近方法。 （英语） 兹比尔1522.65087

J.应用。数学。计算。 69，第5号，3911-3936（2023）.
摘要：在本文中，我们考虑了目标函数是大量凸不可微代价函数之和的加性凸优化问题。我们假设每个代价函数都是两个凸不可微函数的和，其中一个函数适用于次梯度方法，另一个函数则不适用。为此，我们提出了一种基于次梯度和近似方法的分布式优化算法。该方法还受异步特性控制，在计算次梯度时允许时变延迟。我们证明了迭代函数值的收敛性。为了证明理论结果的有效性，我们通过支持向量机学习研究了二进制分类问题。

MSC公司：

65千5 数值数学规划方法
90摄氏度06 数学规划中的大尺度问题
90C25型 凸面编程

关键词：

凸优化；次梯度极值法；延迟；收敛性分析
PDF格式BibTeX公司 XML格式引用
\textit{T.Arunrat}等人，J.Appl。数学。计算。69，编号5，3911-3936（2023；兹比尔1522.65087）
全文： DOI程序

参考文献：

[1] Aybat，N.，Wang，Z.，Iyengar，G.：用于复合凸优化的异步分布式近端梯度方法。载：《第32届国际机器学习大会论文集》，第2454-2462页。PMLR（2015）
[2] Aytekin，A.：大规模优化的异步一阶算法：分析与实现。KTH皇家理工学院博士论文（2019年）
[3] 巴特利特，PL；Wegkamp，MH，使用铰链损失的拒绝选项分类，J.Mach。学习。第9、8、1823-1840号决议（2008年）·Zbl 1225.62080号
[4] Bauschke，HH；Combettes，PL，Hilbert空间中的凸分析和单调算子理论（2017），纽约：Springer，纽约·Zbl 1359.26003号 ·doi:10.1007/978-3-319-48311-5
[5] Beck，A.，优化中的第一顺序方法（2017），费城：SIAM，费城·Zbl 1384.65033号 ·数字对象标识代码：10.1137/1.9781611974997
[6] Bertsekas，DP，大型凸优化的增量近似方法，数学。程序。，129, 163-195 (2011) ·Zbl 1229.90121号 ·doi:10.1007/s10107-011-0472-0
[7] Bertsekas，DP，凸集优化算法（2015），贝尔蒙特：雅典娜科学公司，贝尔蒙特·Zbl 1347.90001号
[8] 民主党Bertsekas；内迪奇，A。；Ozdaglar，AE，凸集分析与优化（2003），贝尔蒙特：雅典娜科学出版社，贝尔蒙特·Zbl 1140.90001号
[9] 布拉特·D。；英雄，AO；Gauchman，H.，步长恒定的收敛增量梯度法，SIAM J.Optim。，2007年9月18日至51日·Zbl 1154.90015号 ·doi:10.1137/040615961
[10] Cegielski，A.，希尔伯特空间不动点问题的迭代方法（2012），柏林：施普林格出版社，柏林·Zbl 1256.47043号
[11] Ekkarntrong，N.，Arunrat，T.，Nimana，N.：具有不动点约束的凸函数和最小化分布式方法的收敛性。J.不等式应用。197 (2021) ·Zbl 1490.90220号
[12] Gurbuzbalaban，M。；Ozdaglar，A。；帕里洛，PA，关于增量聚合梯度算法的收敛速度，SIAM J.Optim。，27, 1035-1048 (2017) ·Zbl 1366.90195号 ·doi:10.1137/15M1049695
[13] Hishinuma，K。；Iiduka，H.，带自动学习速率调整的增量和并行机器学习算法，Front。机器人。AI，6，77（2019）·兹比尔1382.65176 ·doi:10.3389/frobt.2019.00077
[14] Iiduka，H.，网络系统分布式优化的定点优化算法，SIAM J.Optim。，23, 1, 1-26 (2013) ·Zbl 1266.49067号 ·doi:10.1137/120866877
[15] Iiduka，H.，具有非光滑效用函数的网络资源分配分布式优化，IEEE Trans。控制网络。系统。，6, 4, 1354-1365 (2019) ·Zbl 1516.93082号 ·doi:10.1109/TCNS.2018.2889011
[16] 李，Z。；Shi，W。；Yan，M.，具有网络独立步长和分离收敛速度的分散近似粒度方法，IEEE Trans。信号处理。，67, 4494-4506 (2019) ·Zbl 07123375号 ·doi:10.1109/TSP.2019.2926022
[17] 李，X。；冯·G。；Xie，L.，带耦合不等式约束的多智能体优化的分布式近似算法，IEEE Trans。自动。控制，66，3，1223-1230（2021）·Zbl 07352070号 ·doi:10.1109/TAC.2020.2989282
[18] Martinet，B.，《确定批准的无点固定应用程序假契约》，C.R.Acade。科学。巴黎，274A，163-165（1972）·Zbl 0226.47032号
[19] 南萨克，S。；彼得罗特，N。；Nimana，N.，一种用于求解加性凸优化的具有时变时滞的分布式近似梯度法，结果应用。数学。，18 (2023) ·Zbl 1529.90058号 ·doi:10.1016/j.rinam.2023.100370
[20] Nedic，A.、Olshevsky，A.、O z daglar，A.、Tsitsiklis，J.N.：分布式次梯度方法和量化效果。2008年第47届IEEE决策与控制会议。doi:10.1109/cdc.2008.4738860·Zbl 1367.93405号
[21] Nedic，A。；Ozdaglar，A.，多智能体优化的分布式次梯度方法，IEEE Trans。自动。控制，51，1，48-61（2009）·Zbl 1367.90086号 ·doi:10.1109/TAC.2008.2009515
[22] 内迪克，A。；Ozdaglar，A。；帕里尔，PA，多智能体网络中的约束一致性和优化，IEEE Trans。自动。控制，55，4，922-938（2010）·Zbl 1368.90143号 ·doi:10.10109/TAC.2010.2041686
[23] 牛，Y。；李，H。；王，Z。；卢奇。；夏，D。；Ji，L.，用于组合优化的分布式随机近似粒度算法，IEEE Trans。控制网络。系统。，8, 3, 1383-1393 (2021) ·doi:10.1109/TCNS.2021.3065653
[24] 诺塔尼科拉，I。；Notarstefano，G.，《通过随机双近端梯度的异步分布式优化》，IEEE Trans。自动。控制，622095-2106（2017）·Zbl 1366.90163号 ·doi:10.1109/TAC.2016.2607023
[25] 彼得罗特，N。；Nimana，N.，约束复合凸优化问题的带惩罚的增量近端梯度格式，优化，70，5-6，1307-1336（2021）·Zbl 1481.65090号 ·网址：10.1080/02331934.2020.1846188
[26] 闸板，不锈钢；Nedic，A。；Veeravall，VV，凸优化的分布式随机次梯度投影算法，J.Optim。理论应用。，147, 3, 516-545 (2010) ·Zbl 1254.90171号 ·doi:10.1007/s10957-010-9737-7
[27] Tsianos，K.I.，Rabbat，M.G.：通信延迟下凸优化的分布式对偶平均。In：程序。阿默尔。控制会议，第1067-1072页（2012年）
[28] Tsitsiklis，J。；Bertsekas，D。；Athans，M.，分布式异步确定性和随机梯度优化算法，IEEE Trans。自动。控制，31803-812（1986）·Zbl 0602.90120号 ·doi:10.1109/TAC.1986.1104412
[29] 万利，ND；Gurbuzbalaban，M。；Ozdaglar，A.，近端增量聚合梯度法的全局收敛速度，SIAM J.Optim。，28, 1282-1300 (2018) ·Zbl 1390.90524号 ·doi:10.1137/16M1094415
[30] Wang，H。；廖，X。；黄，T。；Li，C.，具有延迟的多代理网络中的合作分布式优化，IEEE Trans。SMC，45，2，363-369（2015）
[31] Wu，T。；袁，K。；凌，Q。；尹，W。；也就是说，AH，具有异步和延迟的分散共识优化，IEEE Trans。信号输入过程。净值。，4, 2, 293-307 (2018)
[32] Yang，T。；马哈达维，M。；金·R。；Zhu，S.，非光滑优化的一种有效的原对偶逼近方法，J.Mach。学习。第98、3、369-406号决议（2015年）·Zbl 1311.90188号 ·doi:10.1007/s10994-014-5436-1
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。