×

基于符号不变性的非线性动力学预测。 (英语) Zbl 07680556号

摘要:预测未知动力学在许多物理相关学科中都非常有趣。然而,数据驱动的机器学习方法被泛化能力差的问题所困扰。为此,提出了一种基于符号不变性(即表示内在系统机制的符号表达式/方程)的预测模型。通过训练和剪枝包裹在数值积分器中的符号神经网络,我们开发了一种表示进化函数的不变符号结构,从而可以很好地推广到未知数据。为了对抗噪声效应,还利用非参数贝叶斯推理方法开发了概率预测的算法框架。此外,为了解释从具有多个状态变量的系统中部分观测到的单变量预测,我们进一步利用延迟坐标嵌入来在更完备的嵌入中找到部分观测系统的符号不变性。该框架的性能已在合成和实际非线性动力学中得到验证,并在中短期预测范围内表现出比流行的深度学习模型更好的泛化能力。此外,与基于字典的符号回归方法相比,当函数搜索空间巨大时,建议对所提框架进行性能更好、效率更高的优化。

MSC公司:

68年XX月 计算机科学
92至XX 生物学和其他自然科学
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Whittle,P.,《时间序列分析中的假设检验》,第4卷(1951年),Almqvist&Wiksells boktr·Zbl 0045.41301号
[2] 盒子,通用电气。;Pierce,D.A.,J.Am.Stat.Assoc.,65,332,1509-1526(1970)·Zbl 0224.62041号
[3] Splid,H.,J.Am.Stat.Assoc.,78,384,843-849(1983)·Zbl 0521.65100号
[4] Billings,S.A.,非线性系统识别,NARMAX方法在时间、频率和时空域中的应用(2013),John Wiley&Sons·Zbl 1287.93101号
[5] Boser,B.E。;盖恩,I.M。;Vapnik,V.N.,(第五届计算学习理论年度研讨会论文集(1992)),144-152
[6] 德鲁克,H。;Burges,C.J。;考夫曼,L。;Smola,A。;Vapnik,V.,高级神经信息处理。系统。,9, 155-161 (1997)
[7] Surana,A.,非线性科学杂志。,1-34 (2018)
[8] 辛哈,S。;黄,B。;Vaidya,U.(2018年美国控制年会(ACC)(2018),IEEE),5491-5496
[9] 华J.-C。;Noorian,F。;莫斯,D。;Leong,P.H。;Gunaratne,G.H.,非线性动力学。,90, 3, 1785-1806 (2017) ·兹伯利06839148
[10] Wei,W.W.,(《牛津心理学定量方法手册》,第2卷(2006年))
[11] Hochreiter,S。;Schmidhuber,J.,神经计算。,9, 8, 1735-1780 (1997)
[12] 钟,J。;古尔塞,C。;Cho,K。;Bengio,Y.,门控递归神经网络对序列建模的实证评估(2014),arXiv预印本
[13] Sahoo,B.B。;杰哈·R。;辛格,A。;Kumar,D.,地球物理学报。,67, 5, 1471-1481 (2019)
[14] Goel,H。;Melnyk,I。;Banerjee,A.,R2n2:多元时间序列预测的残差递归神经网络(2017),arXiv预印本
[15] Hewamarage,H。;Bergmeir,C。;Bandara,K.,国际期刊预测。,37, 1, 388-427 (2021)
[16] Xiang,Z。;严,J。;Demir,I.,《水资源》。Res.,56,1,文章e2019WR025326 pp.(2020)
[17] 瓦斯瓦尼,A。;Bengio,S。;Brevdo,E。;胆汁,F。;A.N.戈麦斯。;Gouws,S。;Jones,L。;凯撒,Ł。;Kalchbrenner,N。;Parmar,N.,神经机器翻译用Tensor2传感器(2018),arXiv预印本
[18] Wu,N。;绿色,B。;本,X。;O’Banion,S.,时间序列预测的深度变换模型:流感流行病例(2020),arXiv预印本
[19] 周,H。;张,S。;彭杰。;张,S。;李,J。;熊,H。;Zhang,W.,Informer:超越长序列时间序列预测的有效变压器(2020),arXiv预印本
[20] Bishop,C.M.,神经计算。,7, 1, 108-116 (1995)
[21] 北斯利瓦斯塔瓦。;辛顿,G。;Krizhevsky,A。;Sutskever,I。;萨拉赫季诺夫,R.,J.马赫。学习。1929-1958年第15号决议(2014年)·Zbl 1318.68153号
[22] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,J.计算。物理。,378, 686-707 (2019) ·Zbl 1415.68175号
[23] Yang,Y。;Perdikaris,P.,J.计算。物理。,394, 136-152 (2019) ·Zbl 1452.68171号
[24] Sun,L。;高,H。;潘,S。;Wang,J.-X.,计算。方法应用。机械。Eng.,361,第112732条,第(2020)页·Zbl 1442.76096号
[25] Zhu,Y。;北卡罗来纳州扎巴拉斯。;Koutsourelakis,P.-S。;Perdikaris,P.,J.计算。物理。,394, 56-81 (2019) ·Zbl 1452.68172号
[26] 卢,L。;X孟。;毛,Z。;卡尼亚达基斯,G.E.,SIAM Rev.,63,1,208-228(2021)·Zbl 1459.65002号
[27] 莱斯,M.,J.马赫。学习。第19、1932-955号决议(2018年)
[28] Rudy,S.H。;库茨,J.N。;Brunton,S.L.,J.计算。物理。,396, 483-506 (2019) ·Zbl 1452.68170号
[29] Dormand,J.R。;Prince,P.J.,J.计算。申请。数学。,6, 1, 19-26 (1980) ·Zbl 0448.65045号
[30] 卢,L。;Jin,P。;庞,G。;张,Z。;卡尼亚达基斯,G.E.,Nat.Mach。智力。,3, 3, 218-229 (2021)
[31] Chen,T。;陈,H.,IEEE Trans。神经网络。,6, 4, 911-917 (1995)
[32] 林,C。;李,Z。;卢,L。;蔡,S。;马克西,M。;Karniadakis,G.E.,J.化学。物理。,154,10,第104118条pp.(2021)
[33] Brunton,S.L。;Proctor,J.L。;Kutz,J.N.,Proc。国家。阿卡德。科学。,113, 15, 3932-3937 (2016) ·Zbl 1355.94013号
[34] Rudy,S.H。;Brunton,S.L。;Proctor,J.L。;库茨,J.N.,科学。高级,3,4,文章e1602614 pp.(2017)
[35] Schaeffer,H.,程序。R.Soc.A,数学。物理学。工程科学。,473、2197,第20160446条pp.(2017)·Zbl 1404.35397号
[36] 王,Z。;欢,X。;Garikipati,K.,计算。方法应用。机械。工程,356,44-74(2019)·Zbl 1441.65071号
[37] 张,S。;Lin,G.,会议记录。R.Soc.A,数学。物理学。工程科学。,474、2217,第20180305条pp.(2018)·Zbl 1407.62267号
[38] Tran,G。;Ward,R.,多尺度模型。模拟。,15, 3, 1108-1129 (2017)
[39] Kaheman,K。;Brunton,S.L。;Kutz,J.N.,《同时识别非线性动力学并从数据中提取噪声概率分布的自动微分》(2020年),arXiv预印本
[40] Z.Chen,Y.Liu,H.Sun,从稀缺数据中深入学习物理定律,2020年,arXiv:电子印刷品,arXiv-2005年。
[41] 两者,G.-J。;乔杜里,S。;Sens,P。;Kusters,R.,J.计算。物理。,428,第109985条pp.(2021)·Zbl 07511423号
[42] 施密特,M。;Lipson,H.,《科学》,324,5923,81-85(2009)
[43] Xu,H。;Chang,H。;Zhang,D.,J.计算。物理。,418,第109584条pp.(2020)·Zbl 07506161号
[44] 瓦迪雷迪,H。;拉希德,A。;斯台普斯,A.E。;卫生、卫生、物理。流体,32,1,第015113条pp.(2020)
[45] 萨胡,S。;Lampert,C.等人。;Martius,G.(机器学习国际会议,PMLR(2018)),4442-4450
[46] 长,Z。;卢,Y。;Dong,B.,J.计算。物理。,399,第108925条pp.(2019)·Zbl 1454.65131号
[47] Kim,S。;Lu,P.Y.先生。;穆克吉,S。;吉尔伯特,M。;Jing,L。;乔佩里奇,V。;Soljać,M.,IEEE Trans。神经网络。学习。系统。(2020)
[48] 刘,Q。;Wang,D.,Stein变分梯度下降:通用贝叶斯推理算法(2016),arXiv预印本
[49] Brunton,S.L。;布伦顿,B.W。;Proctor,J.L。;Kaiser,E。;Kutz,J.N.,国家公社。,8, 1, 1-9 (2017)
[50] He,K。;张,X。;任,S。;Sun,J.(IEEE计算机视觉与模式识别会议论文集(2016)),770-778
[51] Brualdi,R.A.,《组合数学导论》(1977),培生教育:印度培生教育·Zbl 0385.05001号
[52] Wang,Y。;Liu,Q.,Fish。研究,77,2,220-225(2006)
[53] Kullback,S。;Leibler,R.A.,Ann.数学。《统计》,22,1,79-86(1951)·Zbl 0042.38403号
[54] 垂直,J.-P。;Tsuda,K。;Schölkopf,B.,《内核方法》。计算。《生物学》,47,35-70(2004)
[55] Zhu,Y。;Zabaras,N.,J.计算。物理。,366, 415-447 (2018) ·Zbl 1407.62091号
[56] Tipping,M.E.,J.Mach。学习。决议,1211-244(2001年6月)·Zbl 0997.68109号
[57] Kim,H。;埃克霍尔特,R。;Salas,J.,《物理学》。D: 非线性现象。,127, 1-2, 48-60 (1999) ·Zbl 0941.37054号
[58] Takes,F.,(动力系统与湍流,动力系统与紊流,沃里克1980(1981),施普林格),366-381·Zbl 0513.58032号
[59] 德·拉绍尔。;De Moor,B。;Vandewalle,J.,SIAM J.矩阵分析。申请。,21, 4, 1253-1278 (2000) ·Zbl 0962.15005号
[60] 加维什,M。;Donoho,D.L.,IEEE Trans。《信息理论》,60,8,5040-5053(2014)·Zbl 1360.94071号
[61] 阿巴比,H。;Mezic,I.,SIAM J.应用。动态。系统。,2096-2126年4月16日(2017年)·Zbl 1381.37096号
[62] 冠军,K.P。;Brunton,S.L。;Kutz,J.N.,SIAM J.应用。动态。系统。,18, 1, 312-333 (2019) ·Zbl 1474.65476号
[63] Lorenz,E.N.和J.Atmos。科学。,20, 2, 130-141 (1963) ·Zbl 1417.37129号
[64] 罗斯勒,O.E.,Phys。莱特。A、 57、5、397-398(1976)·Zbl 1371.37062号
[65] Kingma,D.P。;Ba,J.,Adam:随机优化方法(2014),arXiv预印本
[66] 甘德,W.,Res.Rep.,80,02,1251-1268(1980)
[67] Butcher,J.C.,《常微分方程的数值方法》(2016),John Wiley&Sons·Zbl 1354.65004号
[68] Hirsh,S.M。;Ichinaga,S.M。;Brunton,S.L。;内森·库茨,J。;布鲁顿,B.W.,Proc。R.Soc.A,4772254,第20210097条,第(2021)页
[69] 加西亚,S.P。;Almeida,J.S.,《物理学》。E版,72,2,第027205条,pp.(2005)
[70] 潘,S。;Duraisamy,K.、Chaos、Interdiscip。非线性科学杂志。,第30、7条,第073135页(2020年)·Zbl 1453.37089号
[71] 巴卡吉,J。;冠军K。;库茨,J.N。;Brunton,S.L.,用深度延迟自动编码器从部分测量中发现控制方程(2022),arXiv预印本
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。