×
夏子聪;刘，杨;王嘉森;王军

分布式极大极小优化的两时间尺度递归神经网络。 （英语） Zbl 07755794号

神经网络。 165, 527-539 (2023).
摘要：在本文中，我们提出了两个时间尺度的神经动力学优化方法来实现分布式极大极小优化。我们提出了四个多层递归神经网络，用于求解四种不同类型的一般非线性凹凸极小问题，这些问题受线性等式和非线性不等式约束。我们导出了保证神经网络稳定性和最优性的充分条件。我们在零和博弈和分布式约束非线性优化的纳什均衡寻求的两种特定范式中证明了所提出的神经网络的可行性和效率。

引用于三文件

MSC公司：

90立方厘米 数学规划中的极小极大问题
68T05型 人工智能中的学习和自适应系统

关键词：

神经动力学优化;分布式优化;极大极小优化;循环神经网络
PDF格式BibTeX公司 XML格式引用
\textit{Z.Xia}等人，神经网络。165527--539（2023年；Zbl 07755794）
全文： 内政部

参考文献：

[1] Barron，E.N.、Goebel，R.和Jensen，R.R.（2010年）。连续游戏的最佳响应动态。《美国数学学会会刊》（第1069-1083页）·Zbl 1189.91033号
[2] 巴扎拉，M.S。；Sherali，H.D。；Shetty，C.M.，《非线性规划：理论和算法》（2006），Wiley:Wiley Hoboken，NJ，USA·Zbl 1140.90040号
[3] Bertsekas，D.P.，凸优化理论（2009），雅典娜科学：雅典娜科技贝尔蒙特，马萨诸塞州，美国·Zbl 1242.90001号
[4] 博格斯，P.T。；Tolle，J.W.，序列二次规划，《数值学报》，4，1-51（1995）·兹比尔0828.65060
[5] Che，H。；Wang，J.，用于全局和组合优化的协作神经动力学方法，神经网络，114，15-27（2019）·Zbl 1444.90095号
[6] Che，H。；Wang，J.，双凸优化的双时间尺度双重神经动力学方法，IEEE神经网络和学习系统汇刊，30，8，2503-2514（2019）
[7] Che，H。；Wang，J.，混合整数优化的双时间尺度双重神经动力学方法，IEEE神经网络和学习系统汇刊，32，1，36-48（2021）
[8] Cortes，J.，《不连续动力系统》，IEEE控制系统杂志，28，3，36-73（2008）·Zbl 1395.34023号
[9] 高，X。；Liao，L.-Z.，解决线性等式约束下二次极小极大问题的新型连续和离散时间神经网络，IEEE神经网络和学习系统汇刊（2023）
[10] 高，X。；Liao，L。；Xue，W.，一类带约束的凸二次极大极小问题的神经网络，IEEE神经网络汇刊，15，3622-628（2004）
[11] Gharisfard，B。；Cortés，J.，双网络零和博弈中Nash均衡的分布式收敛，Automatica，49，6，1683-1692（2013）·兹比尔1360.91012
[12] Gharisfard，B。；Cortés，J.，加权有向图的分布式连续时间凸优化，IEEE自动控制汇刊，59，3，781-786（2014）·Zbl 1360.90257号
[13] Han，S.P.，非线性规划的全局收敛方法，优化理论与应用杂志，22297-309（1977）·Zbl 0336.90046号
[14] 贾伟。；秦，S。；Xue，X.，带不等式约束的分布式非光滑优化的广义神经网络，神经网络，119，46-56（2019）
[15] 蒋，X。；秦，S。；薛，X。；Liu，X.，分布式凸优化的二阶加速神经动力学方法，神经网络，146，161-173（2022）·Zbl 1522.90096号
[16] Khalil，H.K.，非线性系统（2002），皮尔逊：皮尔逊伦敦，英国·Zbl 1003.34002号
[17] Kim，S.-J。；Boyd，S.，最小极大定理及其在机器学习、信号处理和金融中的应用，SIAM优化杂志，19，3，1344-1367（2008）·Zbl 1175.90412号
[18] 勒，X。；Wang，J.，约束极小极大优化的双时间尺度神经动力学方法，IEEE神经网络和学习系统汇刊，28，3，620-629（2017）
[19] 梁，M.-F。；Wang，J.，基于协作神经动力学优化的Minimax和生物目标投资组合选择，IEEE神经网络和学习系统汇刊，32，7，2825-2836（2021）
[20] 梁，M.-F。；Wang，J。；Li，D.，基于合作竞争多智能体系统的分散稳健投资组合优化，IEEE控制论汇刊，52，12，12785-12794（2022）
[21] 李·G。；严，Z。；Wang，J.，用于约束非凸优化的单层递归神经网络，神经网络，61，10-21（2015）·Zbl 1325.90103号
[22] 刘，Q。；勒，X。；Li，K.，一种基于多智能体网络的区域划分经济调度分布式优化算法，IEEE控制论汇刊，51，5，2466-2475（2021）
[23] 刘，S。；Wang，J.，用于二次规划的简化对偶神经网络及其KWTA应用，IEEE神经网络汇刊，17，6，1500-1510（2006）
[24] 刘，Q。；Wang，J.，二次规划中具有不连续硬限制激活函数的单层递归神经网络，IEEE神经网络汇刊，19，4，558-570（2008）
[25] 刘，Q。；Wang，J.，用于线性等式和有界约束的非光滑优化的单层投影神经网络，IEEE神经网络和学习系统汇刊，24，5，812-824（2013）
[26] 刘，Q。；Wang，J.，用于约束二次极小极大优化的投影神经网络，IEEE神经网络和学习系统汇刊，26，11，2891-2900（2015）
[27] 刘，Y。；夏，Z。；Gui，W.，通过预定义时间多代理方法进行多目标分布式优化，IEEE自动控制汇刊（2023）
[28] 刘，Q。；Yang，S。；Wang，J.，分布式约束优化的集体神经动力学方法，IEEE神经网络和学习系统汇刊，28，8，1747-1758（2017）
[29] Lou，Y。；Y.Hong。；谢，L。；Shi，G。；Johansson，K.H.，具有交换通信的子网零和博弈中的纳什均衡计算，IEEE自动控制汇刊，61，10，2920-2935（2016）·兹比尔1359.91022
[30] Mateos-Nüñez，D。；Cortés，J.，带拉普拉斯平均的分布式鞍点次梯度算法，IEEE自动控制汇刊，62，6，2720-2735（2017）·兹比尔1369.90193
[31] 莫赫塔里，A。；Ozdaglar，A。；Pattathil，S.，鞍点问题超粒度和乐观梯度方法的统一分析：近点方法（2022）
[32] Nedic，A。；Ozdaglar，A.，鞍点问题的次梯度方法，优化理论与应用杂志，142205-228（2009）·Zbl 1175.90415号
[33] Nocedal，J。；Wright，S.J.，数值优化（2006），Springer:Springer New York，NY，USA·Zbl 1104.65059号
[34] 诺塔尼科拉，I。；Franceschelli，M。；Notarstefano，G.，基于双重性的分布式最小最大优化方法，IEEE自动控制事务，64，6，2559-2566（2019）·Zbl 1482.90243号
[35] 拉扎维亚因，M。；黄，T。；卢，S。；努伊赫德，M。；桑贾比，M。；Hong，M.，《非凸min-max优化：应用、挑战和最新理论进展》，IEEE信号处理杂志，37，5，55-66（2020）
[36] Rockafellar，R.T.，凸分析（1970），普林斯顿大学：普林斯顿大学，美国新泽西州普林斯顿·Zbl 0202.14303号
[37] Teo，K.L。；杨晓清，具有极大极小风险函数的投资组合问题，运筹学年鉴，101，1-4，333-349（2001）·Zbl 1016.91058号
[38] 瓦拉尼奥洛，D。；Zanella，F。；Cenedese，A。；Pillonetto，G。；Schenato，L.，Newton-Raphson consensus for distributed凸优化，IEEE Transactions on Automatic Control，61，4，994-1009（2016）·Zbl 1359.90099号
[39] Wan，P.和Lemmon，M.D.（2009年）。传感器网络中的事件触发分布式优化。第八届传感器网络信息处理国际会议论文集（第49-60页）。
[40] Wang，J。；Wang，J.，用于非线性规划的双时间尺度多层递归神经网络，IEEE神经网络和学习系统汇刊，33，1，37-47（2022）
[41] 王，X。；王，G。；Li，S.，带干扰的积分器链多智能体系统的分布式有限时间优化，IEEE自动控制汇刊，65，12，5296-5311（2020）·Zbl 07320100号
[42] 温，X。；卢安，L。；秦，S.，多智能体系统分布式凸优化的连续时间神经动力学方法及其离散化，神经网络，143，52-65（2021）·Zbl 07743520号
[43] Xia，Y.，用于约束优化约束的扩展投影神经网络，神经计算，16，4，863-883（2004）·Zbl 1097.68609号
[44] 夏，Y。；Leung，H。；Wang，J.，投影神经网络及其在约束优化问题中的应用，IEEE电路与系统汇刊-I：基础理论与应用，49，4447-458（2002）·Zbl 1368.92019年
[45] 夏，Z。；刘，Y。；Kou，K.I。；Wang，J.，基于递归神经网络的Clifford值分布式优化，IEEE神经网络和学习系统汇刊，（2022）
[46] 夏，Z。；刘，Y。；卢，J。；曹，J。；Rutkowski，L.，约束分布式四元数变量优化的惩罚方法，IEEE控制论汇刊，51，11，5631-5636（2021）
[47] 夏，Z。；刘，Y。；邱，J。；阮，Q。；Cao，J.，基于RNN的分散部分共识约束优化算法，IEEE神经网络和学习系统汇刊，34，1，534-542（2023）
[48] 夏，Z。；刘，Y。；Wang，J.，分布式全局优化的协作神经动力学方法，IEEE系统、人与控制论汇刊，53，5，3141-3151（2023）
[49] Yang，S。；刘，Q。；Wang，J.，多目标分布式优化的协作神经动力学方法，IEEE神经网络和学习系统汇刊，29，4，981-992（2018）
[50] 杨，F。；Shen，Y.，带惯性约束的两代理调度的极大极小框架，IEEE智能交通系统汇刊，23，12，24401-24413（2022）
[51] Yang，S。；Wang，J。；Liu，Q.，有界约束下分布式minimax优化的合作竞争多智能体系统，IEEE自动控制汇刊，64，5，1358-1372（2019）·Zbl 1482.93058号
[52] Yang，T。；Yi，X。；吴杰。；袁，Y。；吴博士。；孟，Z。；Y.Hong。；Wang，H。；林，Z。；Johansson，K.H.，《分布式优化调查》，《控制中的年度审查》，47，278-305（2019）
[53] 余，W。；刘，H。；郑伟新。；Zhu，Y.，时变非平衡有向图上具有非一致局部约束的分布式离散时间凸优化，Automatica，134，文章109899 pp.（2021）·Zbl 1478.93258号
[54] Zhao，Y。；Liu，Q.，基于集体神经动力学系统的线性和有界约束分布式优化共识算法，神经网络，122144-151（2019）·Zbl 1440.90050
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。