×

具有非连续非单调分段线性激活函数和时变时滞的神经网络的多重稳定性。 (英语) Zbl 1394.68305号

摘要:本文研究具有不连续非单调分段线性激活函数和时变时滞的神经网络的多平衡点共存和动力学行为问题。不动点定理和其他分析工具用于发展某些充分条件,以确保具有时变时滞的(n)维不连续神经网络可以至少有(5^n)个平衡点,其中(3^n)是局部稳定的,其他的是不稳定的。推导结果的重要性在于,它揭示了不连续神经网络比连续神经网络具有更大的存储容量。此外,与已有的关于具有不连续激活函数的神经网络多稳定性的结果不同,由于不连续活化函数的非单调结构,本文获得的局部稳定平衡点不仅位于饱和区域,而且位于非饱和区域。进行了数值模拟研究,以说明和支持导出的理论结果。

MSC公司:

68T05型 人工智能中的学习和自适应系统
34A36飞机 间断常微分方程
34D20型 常微分方程解的稳定性
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bao,G。;曾,Z.,基于不连续激活函数递归神经网络的联想记忆分析与设计,神经计算,77,101-107,(2012)
[2] 曹,J。;冯·G。;Wang,Y.,具有一般激活函数类的延迟Cohen-Grossberg神经网络的多稳定性和多周期性,Physica D,237,13,1734-1749,(2008)·Zbl 1161.34044号
[3] Cheng,C。;Lin,K。;Shih,C.,延迟神经网络的多稳定性和收敛性,Physica D,225,1,61-74,(2007)·Zbl 1132.34058号
[4] 科恩,M。;Grossberg,S.,竞争神经网络全局模式形成和并行存储的绝对稳定性,IEEE系统汇刊,人与控制论,28,4,815-825,(1983)·Zbl 0553.92009号
[5] Di Marco,M。;Forti,M。;Grazzini,M。;Pancioni,L.,一类时滞合作神经网络的极限集二分法和多稳定性,IEEE神经网络和学习系统汇刊,23,9,1473-1485,(2012)
[6] Forti,M。;Nistri,P.,具有不连续神经元激活的神经网络的全局收敛,IEEE电路与系统汇刊I:基础理论与应用,50,11,1421-1435,(2003)·Zbl 1368.34024号
[7] Forti,M。;尼斯特里,P。;Papini,D.,无限增益时滞神经网络的全局指数稳定性和基尼时间的全局收敛性,IEEE神经网络汇刊,16,6,1449-1463,(2005)
[8] 黄,L。;蔡,Z。;Zhang,L.,Filippov微分包含框架中不连续和延迟神经网络的动力学行为,神经网络,48,180-194,(2013)·Zbl 1305.34142号
[9] 黄,G。;曹,J.,具有不连续激活函数的神经网络的多稳定性,非线性科学和数值模拟中的通信,13,10,2279-2289,(2008)·Zbl 1221.34131号
[10] 黄,G。;Cao,J.,递归神经网络中的延迟相关多稳态,神经网络,23,2201-209,(2010)·Zbl 1400.34115号
[11] 黄,Z。;冯,C。;Mohamad,S.,一般延迟Cohen-Grossberg神经网络的多稳定性分析,信息科学,187233-244,(2012)·Zbl 1256.93086号
[12] 黄,Z。;Raffuil,Y。;Cheng,C.,时间尺度上阈值网络的尺度有限激活集和多周期性,IEEE控制论汇刊,44,4,488-499,(2014)
[13] 黄,Z。;宋,Q。;Feng,C.,具有自激和高阶突触连接的网络的多重稳定性,IEEE电路与系统汇刊I,57,8,2144-2155,(2010)·Zbl 1468.34099号
[14] 黄,Z。;王,X。;Feng,C.,具有瞬态激励自连接和S形非线性的周期振荡离散时间神经网络的多周期性,IEEE神经网络汇刊,21,10,1643-1655,(2010)
[15] 黄,Y。;张,H。;Wang,Z.,具有不连续激活函数的时变时滞递归神经网络中多平衡点的动态稳定性分析,神经计算,91,21-28,(2012)
[16] 黄,Y。;张,H。;Wang,Z.,具有不连续激活函数的延迟双向联想记忆神经网络的多稳定性和多周期性,应用数学与计算,219,3,899-910,(2012)·Zbl 1291.34115号
[17] Kaslik,E。;Sivasundaram,S.,具有时滞和多稳定性分析的脉冲混合离散时间Hopfield神经网络,神经网络,24,4,370-377,(2011)·Zbl 1225.93073号
[18] Lin,K。;Shih,C.,非自治时滞神经网络中的多个概周期解,神经计算,19,12,3392-3420,(2007)·Zbl 1146.68419号
[19] 刘,X。;Cao,J.,关于通过微分包含的神经网络的周期解,神经网络,22,4329-334,(2009)·Zbl 1335.93058号
[20] 卢·W。;Chen,T.,具有不连续激活函数的Cohen-Grossberg神经网络的动力学行为,神经网络,18,3,231-242,(2005)·Zbl 1078.68127号
[21] 卢·W。;Chen,T.,一类具有不连续激活的时滞神经网络的概周期动力学,神经计算,20,4,1065-1090,(2008)·Zbl 1146.68422号
[22] 马库斯,C.M。;Westervelt,R.M.,《具有延迟的模拟神经网络的稳定性》,《物理评论A》,39,1,347-359,(1989)
[23] 聂,X。;Cao,J.,具有非递减饱和激活函数的二阶竞争神经网络的多稳定性,IEEE神经网络汇刊,22,11,1694-1708,(2011)
[24] 聂,X。;Cao,J.,具有不连续激活函数的时滞竞争神经网络平衡点的存在性和全局稳定性,国际系统科学杂志,43,3,459-474,(2012)·Zbl 1259.93104号
[25] 聂,X。;曹,J。;Fei,S.,具有非递减分段线性激活函数的延迟竞争神经网络的多重稳定性和不稳定性,神经计算,119281-291,(2013)
[26] 聂,X。;曹,J。;Fei,S.,具有墨西哥帽型激活函数的竞争性神经网络的多重稳定性和不稳定性,抽象与应用分析,2014,(2014),文章ID 901519,20页·Zbl 1474.34358号
[27] 潘·W。;王,Z。;高,H。;李毅。;Du,M.,关于具有多变量调节功能的延迟遗传调节网络的多稳定性,数学生物科学,228100-109,(2010)·Zbl 1200.92020年
[28] 蒂兰,P。;塞蒂,G。;Hasler,M.,《一维细胞神经网络中的信息传播方法——第一部分:局部扩散》,IEEE电路与系统汇刊I:基础理论与应用,45,8,777-789,(1998)·兹比尔0951.92001
[29] Wang,L。;Chen,T.,具有墨西哥帽型激活函数的神经网络的多重稳定性,IEEE神经网络和学习系统汇刊,23,11,1816-1826,(2012)
[30] Wang,L。;Chen,T.,无界时变时滞神经网络的多重稳定性,神经网络,53,109-118,(2014)·Zbl 1307.93365号
[31] 王,D。;Huang,L.,具有不连续激活和混合延迟的广义Cohen-Grossberg神经网络的周期性和全局指数稳定性,神经网络,51,80-95,(2014)·Zbl 1309.34124号
[32] Wang,J。;黄,L。;Guo,Z.,具有不连续激活的神经网络的全局渐近稳定性,神经网络,22,7,931-937,(2009)·Zbl 1338.93317号
[33] Wang,L。;卢·W。;Chen,T.,延迟神经网络近周期解的多重稳定性和新吸引域,IEEE神经网络汇刊,20,10,1581-1593,(2009)
[34] Wang,L。;卢·W。;Chen,T.,具有分段线性非递减激活函数的神经网络中多重平衡点的共存性和局部稳定性,神经网络,23,2,189-200,(2010)·Zbl 1409.34025号
[35] 曾,Z。;黄,T。;Zheng,W.X.,时变时滞递归神经网络的多稳定性和分段线性激活函数,IEEE神经网络汇刊,21,8,1371-1377,(2010)
[36] 曾,Z。;Zheng,W.X.,具有时变时滞和凹凸特征的神经网络的多重稳定性,IEEE神经网络和学习系统汇刊,23,2,293-305,(2012)
[37] 曾,Z。;郑维新,两类激活函数对称于相平面原点的递归神经网络的多重稳定性,IEEE神经网络与学习系统学报,24,11,1749-1762,(2013)
[38] 张,L。;Zhang,Y。;Li,J.,具有非饱和分段线性传递函数的延迟递归神经网络的多周期性和吸引性,IEEE神经网络汇刊,19,1,158-167,(2008)
[39] 周,B。;Song,Q.,具有时间延迟的复值神经网络的有界性和完全稳定性,IEEE神经网络和学习系统汇刊,24,8,1227-1238,(2013)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。