×

使用分数阶Hopfield神经网络更快地解决不适定问题。 (英语) Zbl 1452.65130号

摘要:Hopfield神经网络(HNN)是最常用的神经网络体系结构之一,它已被用于解决不适定问题,并取得了巨大的成功。近年来的一些工作已将分数阶时间导数纳入原始Hopfield神经网络模型。此建议的动机是,它将在原始模型中包含非局部特征。然而,这些研究仅限于回答所用神经网络方程系统平衡点的存在性、唯一性和稳定性的问题。这里要解决的问题是,如何使用分数阶Hopfield神经网络(FHNN)来解决物理化学研究领域中的不适定问题,以及它们与传统模型的比较。为此,HNN方程包含了关于时间的分数阶导数,该方程由残差函数的2-范数定义的Lyapunov函数获得。因此,这里使用的FHNN模型不同于以前的工作。提出并讨论了三个用于检查FHMN模型的原型问题。在所有这些模型中,FHNN模型找到的解与HNN模式相比在更短的时间内实现。在这项工作中,证明了修正的FHNN模型的Mittag-Lefler稳定性,并用于讨论分数阶如何影响解。这项工作表明,使用分数阶导数对Hopfield神经网络模型进行的改进如何比整数阶Hopfielt神经网络获得竞争优势。

MSC公司:

65升08 常微分方程不适定问题的数值解法
34A08号 分数阶常微分方程
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Podlubny,I.,分数微分方程(1999),学术出版社:圣地亚哥学术出版社·Zbl 0918.34010号
[2] N.H.T.Lemes,V.A.Simpao,J.P.C.Santos,使用分数微积分对非线性Arrhenius曲线的推测性研究。https://arxiv.org/abs/1603.06768。
[3] 新罕布什尔州Lemes。;桑托斯,J.P.C。;Braga,J.P.,描述非指数化学效应的广义Mittag-Lefler函数,应用。数学。型号。,40, 7971-7976 (2016) ·Zbl 1471.80006号
[4] 桑托斯,T.M.R。;Tavares,C.A。;新罕布什尔州Lemes。;桑托斯,J.P.C。;Braga,J.P.,用分数阶微分算子改进Tikhonov正则化方法,用于反黑体辐射问题,逆Probl。科学。工程,28,1-15(2020)
[5] Sun,H。;Zhang,Y。;Baleanua,D。;Chen,W。;Chen,Y.,《分数阶微积分在科学和工程中的实际应用的新集合》,Commun。非线性科学。数字。模拟。,64, 213-231 (2018) ·Zbl 1509.26005号
[6] 陈,Y。;高奇。;魏毅。;王毅,分数阶梯度法的研究,应用。数学。计算。,314, 310-321 (2017) ·Zbl 1426.65077号
[7] Pires,E.J.S。;马查多,J.A.T。;奥利维拉,P.M。;Mendes,L.,分数阶速度粒子群优化,非线性动力学。,61, 295-301 (2010) ·Zbl 1204.90119号
[8] 鲍,C。;Pu,Y。;张勇,分数阶深度反向传播神经网络,计算。智力。神经科学。,2018, 1-10 (2018)
[9] Pu,Y.,实现任意分数阶多层动态联想神经网络,IEEE,2638-641(2005)
[10] Pu,Y。;Zhang,Y。;周,J.,分数hopfield神经网络:分数动态联想递归神经网络,IEEE Trans。神经网络。学习。系统。,28, 2319-2333 (2016)
[11] 博罗曼,A。;Menhaj,M.,分数阶Hopfield神经网络,(Köppen,M.;Kasabov,N.;Coghill,G.,《神经信息处理进展》(2009),施普林格:施普林格-海德堡),883-890
[12] 黄,X。;王,Z。;Li,Y.,分数阶时滞hopfield神经网络中的非线性动力学和混沌,高级数学。物理。,2013, 1-9 (2013) ·兹比尔1291.37118
[13] Kaslik,E。;Sivasundaram,S.,分数阶神经网络中的非线性动力学和混沌,神经网络。,32, 245-256 (2012) ·Zbl 1254.34103号
[14] 布拉加,J.P。;新罕布什尔州Lemes。;博尔赫斯,E。;Sebastiao,R.C.O.,化学中的逆问题,《测验》。Nova,39,886-891(2016)
[15] Tikhonov,A.N。;Goncharsky,A.V。;斯蒂芬诺夫,V.V。;Yagola,A.G.,《求解不适定问题的数值方法》(1995),施普林格科学+商业媒体:施普林格科技+商业媒体多德雷赫特·Zbl 0831.65059号
[16] Phillips,D.L.,某些第一类积分方程的数值解法,J.ACM,9,84-97(1962)·Zbl 0108.29902号
[17] Tikhonov,A.N.,《不正确公式化问题的解决和正则化方法》,苏联数学。道克。,4, 1035-1038 (1963) ·Zbl 0141.11001号
[18] Hansen,P.C.,秩亏和离散不适定问题:线性反演的数值方面(1998年),工业和应用数学学会:费城工业与应用数学学会
[19] 新罕布什尔州Lemes。;博尔赫斯,E。;Braga,J.P.,求解线性和非线性逆问题的通用算法,J.Braz。化学。《社会学杂志》,第18期,第1342-1347页(2007年)
[20] 新罕布什尔州Lemes。;博尔赫斯,E。;Braga,J.P.,实验数据的速率常数和吸收系数:基于递归神经网络的反演程序,化学计量学。智力。实验室系统。,96, 84-87 (2009)
[21] Costa,E.DM®。;新罕布什尔州Lemes。;桑托斯,M.H。;Braga,J.P.,Uso de redes neurais recorderentes na determintaço das constantes de acidez para a 7-epiclusianona em misturas etanol-água,Quim。Nova,11,91-96(2012)
[22] Forsythe,G.E。;马尔科姆,硕士。;Moler,C.B.,《数学计算的计算机方法》(1977),Prentice Hall:新泽西州Prentice Hall·Zbl 0361.65002号
[23] Marquardt,D.,非线性参数最小二乘估计算法,SIAM J.Appl。数学。,11, 431-441 (1963) ·Zbl 0112.10505号
[24] Levenberg,K.,用最小二乘法求解某些非线性问题的方法,Q.Appl。数学。,2, 164-168 (1944) ·Zbl 0063.03501号
[25] Lundstrom,B.N。;希格斯,M.H。;西班牙,W.J。;费尔霍尔,A.L.,新皮质锥体神经元的部分分化,国家神经科学。,11, 1335-1342 (2008)
[26] Tarasov,V.E.,分数导数的链上规则,Commun。非线性科学。数字。模拟。,2016年1月30日至4日·Zbl 1489.26011号
[27] 阿加瓦尔,R。;赫里斯托娃,S。;OŔegan,D.,Lyapunov函数在caputo分数阶微分方程中的应用,数学,6229-236(2018)·Zbl 1405.34004号
[28] 张,S。;Yu,Y。;Wang,H.,分数阶Hopfield神经网络的Mittag-Lefler稳定性,非线性分析。混合系统。,16, 104-121 (2015) ·Zbl 1325.34016号
[29] 陈,S。;张,Q。;Wang,C.,连续时间Hopfield神经网络平衡点的存在性和稳定性,J.Compute。申请。数学。,169, 117-125 (2004) ·Zbl 1057.34050号
[30] 李毅。;陈,Y。;Podlubny,I.,分数阶非线性动力学系统的稳定性:Lyapunov直接方法和广义Mittag-Lefler稳定性,计算。数学。申请。,59, 1810-1821 (2010) ·Zbl 1189.34015号
[31] Pan,V.Y.,Vandermonde矩阵有多糟糕?,SIAM J.矩阵分析。申请。,37, 676-694 (2016) ·Zbl 1382.15008号
[32] 陈,N.X。;陈,Y。;Li,G.Y.,声子态密度反转的理论研究,物理学。莱特。,149, 357-364 (1990)
[33] Costa,E.DM®。;新罕布什尔州Lemes。;Alves,M.O。;Braga,J.P.,《实验热容的声子态密度:使用逆框架改进的固体铝分布函数》,J.Mol.模型。,20, 2360 (2014)
[34] 爱因斯坦,A.,《Strahlung理论与特殊理论》,Ann.Phys。,22, 180-190 (1906)
[35] Debye,P.、Zur theorie der spezifischen Wärmen、Ann.Phys.、。,39, 789-839 (1912)
[36] 顾,B.Y。;Dong,B.Z。;杨国忠,《从比热恢复声子态密度的研究:数值研究》,《物理学年鉴》。,170, 201-209 (1992)
[37] Naumov,V.N。;Musikhin,A.E.,从实验热容重建声子态密度逆问题的数值解,《物理B》,476,41-49(2015)
[38] 黄,X。;王,Z。;Li,Y.,分数阶时滞hopfield神经网络中的非线性动力学和混沌,高级数学。物理。,1-9(2013),专刊:分数动力学高级专题,http://dx.doi.org/10.1155/2013/657245 ·兹比尔1291.37118
[39] 蒲逸飞;Yi,Z。;Zhou,Ji Liu,分数hopfield神经网络:分数动力学联想递归神经网络,IEEE Trans。神经网络。学习。系统。,28, 2319-2333 (2017)
[40] Kaslik,E。;Sivasundaram,S.,分数阶神经网络中的非线性动力学和混沌,神经网络。,32, 245-256 (2012) ·Zbl 1254.34103号
[41] 霍普菲尔德,J.J.,《具有涌现集体计算能力的神经网络和物理系统》,Proc。国家。阿卡德。科学。美国,79,2554-2558(1982)·Zbl 1369.92007号
[42] 霍普菲尔德(Hopfield),J.J.,具有分级响应的神经元具有与两态神经元类似的集体计算特性,Proc。国家。阿卡德。科学。美国,81,3088-3092(1984)·Zbl 1371.92015年
[43] 霍普菲尔德,J.J。;Tank,D.W.,优化问题中决策的神经计算,生物。网络。,52, 141-152 (1985) ·兹比尔0572.68041
[44] Golub,G.H。;Van Loan,C.F.,《矩阵计算》(1989),约翰·霍普金斯大学出版社:约翰·霍普金大学出版社巴尔的摩·Zbl 0733.65016号
[45] Braga,J.P.,Tikhonov正则化方法和使用L曲线准则的奇异值分解方法之间的数值比较,J.Math。化学。,29, 151-161 (2001) ·Zbl 1005.65145号
[46] 卡马戈,R.F。;Oliveira,E.C.,Cálculo Fracionário(2015),Livraria da Física:圣保罗
[47] Diethelm,K.,《分数阶微分方程的分析:使用卡普托型微分算子的面向应用的说明》(2010),施普林格:施普林格-海德堡·Zbl 1215.34001号
[48] Miller,K.S。;Ross,B.,《分数微积分和分数微分方程导论》(1993),Wiley-Interscience:Wiley-Interscience,纽约·Zbl 0789.26002号
[49] Ross,B.A.,《分数阶微积分基本理论的简史和阐述》(纽黑文大学国际会议论文集(1975)),1-36·Zbl 0303.26004号
[50] Diethelm,K。;Freed,A.D.,分数阶微分方程数值解的FracPECE子程序,Forschung-Wissenschaftliches-Rechnen,1999,57-71(1998)
[51] Matignon,D.,分数阶微分方程的稳定性结果及其在控制处理中的应用,计算。工程系统。申请。,2, 963-968 (1996)
[52] Tuan,H.T。;Trinh,H.,用Lyapunov直接法研究分数阶非线性系统的稳定性,IET控制理论应用。,12, 2417 (2018)
[53] Dieudonne,J.,《现代分析基础》(1969),学术出版社:纽约学术出版社·Zbl 0176.00502号
[54] Liang,S。;Wang,L。;Yin,G.,带收敛速度分析的凸优化的分数阶微分方程方法,Optim。莱特。,14, 145-155 (2019) ·Zbl 1433.90114号
[55] Mainardi,F.,关于Mittag-Lefler函数(E_α(-t^α))的一些性质,对于(t>0)和(0α<1),离散Contin是完全单调的。动态。系统。序列号。B、 192267-2278(2014)·Zbl 1303.26007号
[56] Diethelm,K。;新泽西州福特。;Freed,A.D.,分数Adams方法的详细误差分析,Numer。算法,36,31-52(2004)·Zbl 1055.65098号
[57] Diethelm,K.,《使用P(EC)mE方法有效求解多项分数阶微分方程》,《计算》,71,305-319(2003)·兹比尔1035.65066
[58] 海尔,E。;卢比奇,C。;Schilichte,M.,非线性Volterra卷积方程的快速数值解,SIAM J.Sci。统计计算。,6, 532-541 (1985) ·兹伯利0581.65095
[59] Garrapa,R.,《分数阶微分方程预测-校正算法的线性稳定性》,国际。J.计算。数学。,87, 2281-2290 (2010) ·Zbl 1206.65197号
[60] Hill,T.L.,《统计热力学导论》(1986),多佛出版公司:纽约多佛出版有限公司
[61] Hadamard,J.,《线性偏微分方程中的Cauchys问题讲座》(1923),耶鲁大学出版社:耶鲁大学纽黑文出版社
[62] 南贤,C.,莫比乌斯物理学倒置(2010),《世界科学:世界科学新加坡》·Zbl 1241.81002号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。