×
王，丹;刘新伟

用于凸优化的变参数定时梯度动态网络。 （英语） Zbl 1528.90062号

神经网络。 167, 798-809 (2023).
摘要：我们主要研究基于梯度的动态网络在求解凸优化问题时的固定时间收敛性和鲁棒性。现有的大多数基于梯度的固定时间收敛动态网络抵抗噪声干扰的能力有限。为了提高基于梯度的动态网络的收敛性，我们设计了一种新的激活函数，并提出了一种定时收敛的基于梯度的网络。与现有的固定时间收敛的动态网络相比，该动态网络的收敛时间上限更小。采用时变尺度参数加快收敛速度。我们的基于梯度的动态网络被证明对有界噪声具有鲁棒性，并且能够抵抗无界噪声的干扰。数值试验表明了该网络的有效性和优越性。

MSC公司：

90B10型 运筹学中的确定性网络模型
90C25型 凸面编程

关键词：

基于梯度的动态网络;激活函数;定时收敛;时变尺度参数;无界噪声
PDF格式BibTeX公司 XML格式引用
\textit{D.Wang}和\textit{X.-W.Liu}，神经网络。167798--809（2023年；Zbl 1528.90062）
全文： DOI程序

参考文献：

[1] Aubin，J.P。；Cellina，A.，《微分包含：集值映射和生存理论》（1984），Springer-Verlag:Springer-Verlag Berlin，Heidelberg·Zbl 0538.34007号
[2] Bertsekas博士。；Nedić，A。；Ozdaglar，A.E.，凸分析与优化（2003），雅典娜科学：雅典娜科技，马萨诸塞州贝尔蒙特·Zbl 1140.90001号
[3] 卞，W。；马，L。；秦，S。；Xue，X.，带一般凸约束的非光滑伪凸优化的神经网络，神经网络，101，1-14（2018）·兹比尔1443.90267
[4] Cheng，L。；Hou，Z.G。；北卡罗来纳州霍马。；Tan，M。；Gupta，M.M.，有限时间内使用递归神经网络解决凸优化问题，（2009年神经网络国际联合会议（2009），IEEE），538-543
[5] 冯，J。；秦，S。；Shi，F。；赵，X.，凸二次双层规划问题的有限时间收敛递归神经网络，神经计算与应用，30，11，3399-3408（2018）
[6] Filippov，A.F.，《右手边不连续的微分方程》（1988年），施普林格·多德雷赫特·Zbl 0664.34001号
[7] 韩，Z。；蔡，X。；黄J.，《微分结论描述的控制系统理论》（2013），上海交通大学出版社：上海交通大学出版
[8] 霍普菲尔德，J.J。；Tank，D.W.，优化问题中决策的神经计算，生物控制论，52，3，141-152（1985）·Zbl 0572.68041号
[9] 胡，Z。；肖，L。；戴J。；Xu，Y。；左，Q。；Liu，C.，用于约束二次规划的统一预定义时间收敛和鲁棒ZNN模型，IEEE工业信息学汇刊，1998-2010（2021）
[10] 黄，X。；Lou，Y。；Cui，B.，用于解决混合约束凸非线性优化问题的神经动力学系统，神经计算，214，23-31（2016）
[11] Jin，L。；Zhang，Y。；Li，S.，在各种噪声存在下用于实时矩阵反演的集成增强Zhang神经网络，IEEE神经网络和学习系统汇刊，27，12，2615-2627（2016）
[12] Jin，J。；朱，J。；赵，L。；陈，L。；陈，L。；龚，J.，用于动态矩阵反演的鲁棒预定义时间收敛归零神经网络，IEEE控制论汇刊，53，6，3887-3900（2023）
[13] Johnson，C.R.，正定矩阵，《美国数学月刊》，77，259-264（1970）·Zbl 0261.15012号
[14] Ju，X。；Hu博士。；李，C。；何，X。；Feng，G.，混合变分不等式的新型固定时间收敛神经动力学方法及其应用，IEEE控制论汇刊，52，12，12942-12953（2022）
[15] Ju，X。；李，C。；Che，H。；何，X。；Feng，G.，平衡问题固定时间收敛的近端神经动力学网络及其应用，IEEE神经网络和学习系统汇刊（2022）
[16] Kiwiel，K.C.，约束凸不可微极小化近端束方法中的精确罚函数，数学规划，52285-302（1991）·Zbl 0754.90045号
[17] Li，W.，求解时变线性矩阵方程的具有明确可定义收敛时间的递归神经网络，IEEE工业信息学汇刊，14，12，5289-5298（2018）
[18] 李，S。；陈，S。；Liu，B.，使用符号幂激活函数加速递归神经网络有限时间收敛以求解时变Sylvester方程，《神经处理快报》，37，2，189-205（2013）
[19] 李，S。；李毅。；Wang，Z.，用于求解二次规划问题的一类有限时间对偶神经网络及其k-winners-take-all应用，神经网络，39，27-39（2013）·Zbl 1338.90291号
[20] 李伟（Li，W.）。；Liao，B。；肖，L。；Lu，R.，用于动态矩阵平方根查找的具有预定义时间收敛性和改进的噪声容限的递归神经网络，神经计算，337，262-273（2019）
[21] 李伟（Li，W.）。；马，X。；罗，J。；Jin，L.，等式和不等式约束时变二次规划的严格预定义时间收敛神经解，IEEE系统、人和控制论汇刊：系统，51，7，4028-4039（2021）
[22] 李伟（Li，W.）。；肖，L。；廖，B.，用于动态非线性方程求解的有限时间收敛和噪声抑制递归神经网络及其离散化，IEEE控制论汇刊，50，73195-3207（2020）
[23] 刘，S。；Wang，J.，用于二次规划的简化对偶神经网络及其KWTA应用，IEEE神经网络汇刊，17，6，1500-1510（2006）
[24] 苗，P。；沈毅。；李毅。；Bao，L.，用于解决非线性优化问题的有限时间递归神经网络及其应用，神经计算，177120-129（2016）
[25] 苗，P。；沈毅。；Xia，X.，用于解决二次规划问题的具有可调激活函数的有限时间对偶神经网络及其应用，神经计算，143，80-89（2014）
[26] Poliquin，R.A。；Rockafellar，R.T.，局部极小值的倾斜稳定性，SIAM优化杂志，8，2，287-299（1998）·Zbl 0918.49016号
[27] Polyakov，A.，线性控制系统定时稳定的非线性反馈设计，IEEE自动控制汇刊，57，8，2106-2110（2012）·Zbl 1369.93128号
[28] 秦，S。；风扇，D。；Wu，G。；赵，L.，使用Tikhonov正则化的约束非光滑优化的神经网络，神经网络，63，272-281（2015）·Zbl 1325.90104号
[29] Ren，J。；Yu，L。；Lyu，C。；郑庚。；Barbot，J.P。；Sun，H.，固定时间收敛的动态稀疏信号恢复，信号处理，162，65-74（2019）
[30] 沈毅。；苗，P。；黄，Y。；Shen，Y.，有限时间稳定性及其在递归神经网络求解时变Sylvester方程中的应用，《神经处理快报》，42，3，763-784（2015）
[31] Stanimirovic，P.S。；Katsikis，V.N。；张，Z。；李，S。；陈，J。；Zhou，M.，用于逼近一些涉及外逆的表达式的变参数Zhang神经网络，优化方法与软件，35，6，1304-1330（2020）·Zbl 07333778号
[32] Tong，W.，广义正定矩阵，中国数学学报（中文系列），27，6808-810（1984）·Zbl 0562.15008号
[33] 维尔罗斯，P.D。；桑切斯·托雷斯，J.D。；迪福，M。；杰马伊，M。；Loukianov，A.，基于分布式优化的多智能体系统预定义时间编队控制，IEEE控制论汇刊（2023）
[34] 王，D。；高，Z。；Sheng，L.，具有输入饱和的非合作博弈的分布式有限时间和固定时间纳什均衡寻求，数学，11，102235（2023）
[35] 王，D。；Liu，X.W.，用于凸优化的梯度型容错有限时间神经网络，神经计算，493647-656（2022）
[36] 吴，C。；方，H。；曾，X。；杨琼。；Wei，Y。；Chen，J.，带仿射形成约束的时变优化的分布式连续时间算法，IEEE自动控制汇刊，68，4，2615-2622（2023）·Zbl 07742285号
[37] 夏，Y。；冯·G。；Wang，J.，用于解决不等式约束非线性优化问题的新型递归神经网络，IEEE神经网络汇刊，19，8，1340-1353（2008）
[38] 肖，L。；He，Y.，动态Sylvester方程的新变参数噪声抑制ZNN模型，IEEE工业信息学报，17，11，7513-7522（2021）
[39] 肖，L。；Zhang，Y。；Hu，Z。；Dai，J.，鲁棒非线性归零神经网络在各种噪声下寻找Lyapunov方程精确解的性能优势，IEEE工业信息学报，15，9，5161-5171（2019）
[40] 肖，L。；张，Z。；Li，S.，用有限时间递归神经网络求解时变非线性方程组，并应用于机器人操作器的运动跟踪，IEEE系统、人与控制论汇刊：系统，49，11，2210-2220（2019）
[41] Yong，L.，广义正定矩阵的判定及相应线性方程组的求解，吉林大学学报（科学版），55，1，74-78（2017）·Zbl 1413.65083号
[42] Zhang，Y。；江，D。；Wang，J.，用于求解时变系数Sylvester方程的递归神经网络，IEEE神经网络汇刊，13，5，1053-1063（2002）
[43] 张，Z。；Kong，L.D。；Zheng，L.，用于解决TVQP问题的功率型变参数RNN：设计、分析和应用，IEEE神经网络和学习系统汇刊，30，8，2419-2433（2019）
[44] 张，Z。；卢，Y。；郑，L。；李，S。；于，Z。；Li，Y.，一种求解线性等式约束的时变凸QP问题的新变参数收敛微分神经网络，IEEE自动控制学报，63，12，4110-4125（2018）·Zbl 1423.90170号
[45] Zhang，Y。；Wang，J.，非线性输出调节的递归神经网络，Automatica，371161-1173（2001）·Zbl 0981.93024号
[46] 张，Z。；郑，L。；翁，J。；Mao，Y。；卢·W。；Xiao，L.，用于在线求解时变Sylvester方程的新型变参数递归神经网络，IEEE控制论汇刊，48，11，3135-3148（2018）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。