×

SINDy-PI:非线性动力学并行隐式稀疏辨识的鲁棒算法。 (英语) Zbl 1473.93007号

摘要:从测量数据中准确建模系统的非线性动力学是一个具有挑战性但又至关重要的课题。非线性动力学稀疏辨识(SINDy)算法是从数据中发现动力学系统模型的一种方法。虽然扩展被开发用于识别隐式动力学或有理函数描述的动力学,但这些扩展对噪声极其敏感。在这项工作中,我们开发了SINDy-PI(并行,隐式),这是SINDy算法的一个稳健变体,用于识别隐式动力学和有理非线性。SINDy-PI框架包括多种优化算法和模型选择的原则方法。我们证明了该算法能够从有限且有噪声的数据中学习隐式常微分方程、偏微分方程和守恒定律。特别地,我们表明,所提出的方法比以前的方法具有几个数量级的噪声鲁棒性,并且可以用于识别一类以前SINDy无法实现的ODE和PDE动力学,包括双摆动力学和Belousov-Zhabotinsky(BZ)反应的简化模型。

MSC公司:

93B30型 系统标识
93-10 系统和控制理论相关问题的数学建模或仿真
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Brunton SL、Kutz JN。2019年数据驱动科学与工程:机器学习、动力系统和控制。英国剑桥:剑桥大学出版社·Zbl 1407.68002号
[2] Nelles O.2013非线性系统识别:从经典方法到神经网络和模糊模型。德国柏林:施普林格·Zbl 0963.93001号
[3] Ljung L.2010关于系统识别的观点。每年。版本控制34,1-12。(doi:10.1016/j.arcontrol.2009.12.001)·doi:10.1016/j.arcontrol.2009.12.001
[4] 施密德PJ。2010年数值和实验数据的动态模式分解。J.流体力学。656, 5-28. (doi:10.1017/S0022112010001217)·兹比尔1197.76091 ·doi:10.1017/S0022112010001217
[5] Kutz JN、Brunton SL、Brunto BW、Proctor JL。2016动态模式分解:复杂系统的数据驱动建模。宾夕法尼亚州费城:SIAM·Zbl 1365.65009号
[6] BudišićM,Mohr R,Mezići.2012应用科普曼主义。混沌22047510。(doi:10.1063/1.4772195)·兹伯利1319.37013 ·doi:10.1063/1.4772195
[7] Mezic I.2013通过Koopman算子的光谱特性分析流体流动。每年。流体力学版次。第45357-378页。(doi:10.1146/annurev-fluid-011212-140652)·Zbl 1359.76271号 ·doi:10.1146/annurev-fluid-011212-140652
[8] Williams MO、Kevrekidis IG、Rowley CW。2015年Koopman算子的数据驱动近似:扩展动态模式分解。非线性科学杂志。6, 1307-1346. (doi:10.1007/s00332-015-9258-5)·Zbl 1329.65310号 ·doi:10.1007/s00332-015-9258-5
[9] Klus S,Nüske F,Koltai P,Wu H,Kevrekidis I,Schütte C,NoéF.2018数据驱动模型简化和传递算子近似。非线性科学杂志。28, 985-1010. (文件编号:/10.1007/s00332-017-9437-7)·Zbl 1396.37083号 ·doi:10.1007/s00332-017-9437-7
[10] Akaike H.1969拟合自回归模型进行预测。Ann.Inst.Stat.数学。21, 243-247. (doi:10.1007/BF02532251)·Zbl 0202.17301号 ·doi:10.1007/BF02532251
[11] Billings SA.2013非线性系统识别:时间、频率和时空域中的NARMAX方法。新泽西州霍博肯:John Wiley&Sons·Zbl 1287.93101号
[12] Yang L,Zhang D,Karniadakis GE。2018随机微分方程的物理信息生成对抗网络。(http://arxiv.org/abs/1811.02033) ·Zbl 1440.60065号
[13] Wehmeyer C,NoéF.2018时间标签自动编码器:分子动力学缓慢集体变量的深度学习。化学杂志。物理学。148, 1-9. (doi:10.1063/1.5011399)·doi:10.1063/1.5011399
[14] Mardt A,Pasqual L,Wu H,NoéF.2018 VAMPnets:分子动力学的深度学习。国家通讯社。9,5页(doi:10.1038/s41467-017-02388-1)·doi:10.1038/s41467-017-02388-1
[15] Vlachas PR、Byeon W、Wan ZY、Sapsis TP、Koumoutsakos P.2018高维混沌系统与长短期记忆网络的数据驱动预测。程序。R.Soc.A 47420170844。(doi:10.1098/rspa.2017.0844)·Zbl 1402.92030 ·doi:10.1098/rspa.2017.0844
[16] Pathak J,Hunt B,Girvan M,Lu Z,Ott E.2018基于数据的大型时空混沌系统的无模型预测:储层计算方法。物理学。修订稿。120, 024102. (doi:10.1103/PhysRevLett.120.024102)·doi:10.10103/物理通讯.120.024102
[17] Lu L,Meng X,Mao Z,Karniadakis GE。2019 DeepXDE:解微分方程的深度学习库。(http://arxiv.org/abs/1907.04502) ·Zbl 1459.65002号
[18] Raissi M,Perdikaris P,Karniadakis G.2019物理信息神经网络:用于解决涉及非线性偏微分方程的正向和反向问题的深度学习框架。J.计算。物理学。378, 686-707. (doi:10.1016/j.jcp.2018.10.045)·Zbl 1415.68175号 ·doi:10.1016/j.jcp.2018.10.045
[19] Champion K、Lusch B、Kutz JN、Brunton SL.2019坐标和控制方程的数据驱动发现。程序。美国国家科学院。科学。美国116、22445-22451.(doi:10.1073/pnas.1906995116)·Zbl 1433.68396号 ·doi:10.1073/pnas.1906995116
[20] Raissi M,Yazdani A,Karniadakis GE。2020隐藏流体力学:从流动可视化中学习速度和压力场。科学3671026-1030。(doi:10.1126/science.aaw4741)·Zbl 1478.76057号 ·doi:10.1126/science.aaw4741
[21] Raissi M,Karniadakis GE,2017年,使用高斯过程的线性微分方程机器学习。(http://arxiv.org/abs/1701.02440) ·Zbl 1380.68339号
[22] Raissi M,Karniadakis GE,2018隐藏物理模型:非线性偏微分方程的机器学习。J.计算。物理学。357, 125-141. (doi:10.1016/j.jcp.2017.11.039)·兹比尔1381.68248 ·doi:10.1016/j.jcp.2017.11.039
[23] Giannakis D,Majda AJ。2012年间歇性和低频可变性时间序列的非线性拉普拉斯谱分析。程序。美国国家科学院。科学。美国109,2222-2227。(doi:10.1073/pnas.1118984109)·兹比尔1256.62053 ·doi:10.1073/pnas.1118984109
[24] Yair O、Talmon R、Coifman RR、Kevrekidis IG。2017年通过从数据中学习知情的观测几何学重建正常形态。程序。美国国家科学院。科学。美国114,E7865-E7874。(doi:10.1073/pnas.1620045114)·Zbl 1407.62306号 ·doi:10.1073/pnas.1620045114
[25] Bongard J,Lipson H.2007非线性动力系统的自动逆向工程。程序。美国国家科学院。科学。美国1049943-9948。(doi:10.1073/pnas.0609476104)·Zbl 1155.37044号 ·doi:10.1073/pnas.0609476104
[26] Schmidt M,Lipson H.2009从实验数据中提取自由形式的自然定律。《科学》32481-85。(doi:10.1126/science.1165893)·doi:10.1126/科学.1165893
[27] Daniels BC,Nemenman I.2015现象学动力学模型的自动自适应推理。国家通讯社。6, 1-8. (doi:10.1038/ncomms9133)·doi:10.1038/ncomms9133
[28] Brunton SL、Proctor JL、Kutz JN。2016年通过非线性动力系统的稀疏识别从数据中发现控制方程。程序。美国国家科学院。科学。美国113,3932-3937。(doi:10.1073/pnas.1517384113)·Zbl 1355.94013号 ·doi:10.1073/pnas.1517384113
[29] Rudy SH、Brunton SL、Proctor JL、Kutz JN。2017年偏微分方程的数据驱动发现。科学。高级3,e1602614。(doi:10.1126/sciadv.1602614)·doi:10.1126/sciadv.1602614
[30] Schaeffer H.2017通过数据发现和稀疏优化学习偏微分方程。程序。R.Soc.A 47320160446。(doi:10.1098/rspa.2016.0446)·Zbl 1404.35397号 ·doi:10.1098/rspa.2016.0446
[31] Sorokina M,Sygletos S,Turitsyn S.2016非线性光通信系统的稀疏识别:SINO方法。选择。24、30号快车433-30443.(doi:10.1364/OE.24.030433)·doi:10.364/OE.24.030433
[32] Dam M、Bröns M、Juul Rasmussen J、Naulin V、Hesthaven JS。2017年对流模型模拟数据中捕食者-食饵系统的稀疏识别。物理学。等离子体24,022310。(doi:10.1063/1.4977057)·数字对象标识代码:10.1063/1.4977057
[33] Narasingam A,Kwon JS-I.2018使用稀疏回归对可解释的降阶模型进行数据驱动识别。计算。化学。工程119101-111。(doi:10.1016/j.compchemeng.2018.08.010)·doi:10.1016/j.com.pchemeng.2018.08.010
[34] Loiseau J-C,Brunton SL.2018约束稀疏Galerkin回归。J.流体力学。838, 42-67. (doi:10.1017/jfm.2017.823)·Zbl 1419.76205号 ·doi:10.1017/jfm.2017.823
[35] Quade M,Abel M,Kutz JN,Brunton SL.2018用于快速模型恢复的非线性动力学稀疏识别。混沌28063116。(doi:10.1063/1.5027470)·doi:10.1063/1.5027470
[36] Boninsegna L,Nüske F,Clementi C.2018随机动力学方程的稀疏学习。化学杂志。物理学。148, 241723. (doi:10.1063/1.5018409)·数字对象标识代码:10.1063/1.5018409
[37] Loiseau J-C、Noack BR、Brunton SL.2018稀疏降阶建模:基于传感器的动力学到全状态估计。J.流体力学。844, 459-490. (doi:10.1017/jfm.2018.147)·Zbl 1461.76369号 ·doi:10.1017/jfm.2018.147
[38] Zhang L,Schaeffer H.2018关于SINDy算法的收敛性。(http://arxiv.org/abs/1805.06445) ·Zbl 1437.37108号
[39] Hoffmann M,Fröhner C,NoéF.2019反应性SINDy:从浓度数据中发现控制反应。化学杂志。物理学。150, 025101. (doi:10.1063/1.5066099)·数字对象标识代码:10.1063/1.5066099
[40] Mangan NM、Askham T、Brunton SL、Kutz JN、Proctor JL。2019年通过稀疏回归选择混合动力系统模型。程序。R.Soc.A 47520180534号。(doi:10.1098/rspa.2018.0534)·Zbl 1427.93253号 ·doi:10.1098/rspa.2018.0534
[41] Thaler S、Paehler L、Adams NA。2019截断误差的稀疏识别。J.计算。物理学。397, 108851. (doi:10.1016/j.jcp.2019.07.049)·Zbl 1453.65281号 ·doi:10.1016/j.jcp.2019.07.049
[42] Lai Z,Nagarajaiah S.2019具有滞后/非弹性行为的非线性动力系统的稀疏结构系统识别方法。机械。系统。信号处理。117, 813-842. (doi:10.1016/j.ymssp.2018.08.033)·doi:10.1016/j.ymssp.2018.08.033
[43] Wu K,Xiu D.2019使用数据近似控制方程的数值方面。J.计算。物理学。384, 200-221. (doi:10.1016/j.jcp.2019.01.030)·兹比尔1451.65008 ·doi:10.1016/j.jcp.2019.01.030
[44] de Silva B、Higdon DM、Brunton SL、Kutz JN。2019年从数据中发现物理学:普遍规律和差异。(http://arxiv.org/abs/1906.07906)
[45] GelßP,Klus S,Eisert J,Schütte C.2019非线性动力系统的多维近似。J.计算。非线性动力学。14, 061006. (doi:10.1115/1.4043148)·数字对象标识代码:10.1115/1.4043148
[46] Zhang S,Lin G.2018利用数据驱动的稳健发现,利用误差棒管理物理定律。程序。R.Soc.A 47420180305号。(doi:10.1098/rspa.2018.0305)·Zbl 1407.62267号 ·doi:10.1098/rspa.2018.0305
[47] Mangan NM、Brunton SL、Proctor JL、Kutz JN。2016年通过非线性动力学的稀疏识别推断生物网络。IEEE传输。分子生物学。多尺度通信。2, 52-63. (doi:10.1109/TMBMC.2016.2633265)·doi:10.1109/TMBMC.2016.2633265
[48] Kaiser E,Kutz JN,Brunton SL.2018低数据限下模型预测控制的非线性动力学稀疏辨识。程序。R.Soc.A 47420180335。(doi:10.1098/rspa.2018.335)·Zbl 1425.93175号 ·doi:10.1098/rspa.2018.0335
[49] Schaeffer H,McCalla SG.2017通过积分选择稀疏模型。物理学。修订版E 96,023302。(doi:10.1103/PhysRevE.96.023302)·doi:10.1103/PhysRevE.96.023302
[50] Reinbold PA,Gurevich DR,Grigoriev RO.2020使用有噪声或不完整数据发现时空动力学模型。物理学。版次E 101010203。(doi:10.1103/PhysRevE.101.010203)·doi:10.1103/PhysRevE.101.010203
[51] Wright J,Yang A,Ganesh A,Sastry S,Ma Y.2009通过稀疏表示实现鲁棒人脸识别。IEEE传输。模式分析。机器。智力。(PAMI)第31页,第210-227页。(doi:10.109/TPAMI.2008.79)·doi:10.1109/TPAMI.2008.79
[52] Qu Q,Sun J,Wright J.2014在子空间中寻找稀疏向量:使用交替方向的线性稀疏性。程序中。第27届国际神经信息处理系统会议,第2卷,ser。NIPS’14,第3401-3409页。马萨诸塞州剑桥:麻省理工学院出版社。
[53] Zhu Q,Wang Y,Zhao D,Li S,Billings SA。2015理性(总体)非线性动态系统建模、识别和控制综述。国际期刊系统。科学。46, 2122-2133. (doi:10.1080/00207721.2013.849774)·Zbl 1332.93047号 ·doi:10.1080/00207721.2013.849774
[54] 朱Q,刘磊,张伟,李S.2018复杂非线性动态有理系统的控制。复杂性2018,8953035。(doi:10.1155/2018/8953035)·Zbl 1398.93142号 ·doi:10.1155/2018/8953035
[55] Koryakovskiy I、Kudruss M、Vallery H、Babuška R、Caarls W.2018使用强化学习的模型-塑性失配补偿。IEEE机器人。自动。莱特。3, 2471-2477. (doi:10.1109/LRA.2018.2800106)·doi:10.1109/LRA.2018.2800106
[56] Chartrand R.2011噪声、非光滑数据的数值微分。ISRN申请。数学。2011, 164564. (doi:10.5402/2011/164564)·Zbl 1242.65045号 ·doi:10.5402/2011/164564
[57] Zhang L,Schaeffer H.2019关于SINDy算法的收敛性。多尺度模型。模拟。17, 948-972. (doi:10.1137/18M1189828)·Zbl 1437.37108号 ·doi:10.1137/18M1189828
[58] Tibshirani R.1996通过套索回归收缩和选择。J.R.统计社会服务。B(方法论)58267-288。(doi:10.1111/j.2517-6161.1996.tb02080.x)·Zbl 0850.62538号 ·doi:10.1111/j.2517-6161.1996.tb02080.x
[59] Zheng P、Askham T、Brunton SL、Kutz JN、Aravkin AY。2018稀疏松弛正则回归的统一框架:SR3。IEEE接入71404-1423。(doi:10.1109/ACCESS.2018.2886528)·doi:10.1109/ACCESS.2018.2886528
[60] Champion K、Zheng A、Aravkin Peng、Brunton S、Nathan Kutz J.2019一个统一的稀疏优化框架,用于从数据中学习节省的物理信息模型。(网址:http://arxiv.org/abs/11906.10612). 第1906.10612v1页。
[61] Pan W,Yuan Y,Gonçalves J,Stan G.2016非线性状态空间系统辨识的稀疏贝叶斯方法。IEEE传输。自动。对照组61/182-187。(doi:10.1109/TAC.2015.2426291)·Zbl 1359.93504号 ·doi:10.1109/TAC.2015.2426291
[62] Gavish M,Donoho DL。2014年奇异值的最佳硬阈值为4/3。IEEE传输。《信息论》60,5040-5053。(doi:10.1109/TIT.2014.2323359)·Zbl 1360.94071号 ·doi:10.1109/TIT.2014.2323359
[63] Akaike H.1998信息理论和最大似然原理的扩展。在Hirotugu Akaike的精选论文中(编辑E Purzen,K Tanabe,G Kitagawa),第199-213页。斯普林格统计学系列(统计学视角)。纽约州纽约市:斯普林格·Zbl 0902.62100号
[64] Akaike H.1974统计模型识别的新视角。IEEE传输。自动。控制19,716-723。(doi:10.1109/TAC.1974.1100705)·Zbl 0314.62039号 ·doi:10.1109/TAC.1974.1100705
[65] Schwarz G.1978估算模型的维数。Ann.Stat.6,461-464。(doi:10.1214/aos/1176344136)·Zbl 0379.62005年 ·doi:10.1214/aos/1176344136
[66] Mangan NM、Kutz JN、Brunton SL、Proctor JL。2017年通过稀疏回归和信息标准选择动力系统模型。R.Soc.A 47320170009。(doi:10.1098/rspa.2017.009)·Zbl 1404.65308号 ·doi:10.1098/rspa.2017.0009文件
[67] Grant M、Boyd S、Ye Y.2009 CVX:用于严格凸规划的Matlab软件,2.1版,http://evxr.com/evx。2014年3月。
[68] Grant MC,Boyd SP.2008非光滑凸程序的图形实现。《学习和控制的最新进展》(VD Blondel,SP Boyd,H Kimura主编),第95-110页。控制与信息科学讲座笔记,第371卷。英国伦敦:斯普林格·兹比尔1205.90223
[69] Johnson KA,Goody RS.2011原始Michaelis常数:1913年Michaelis-Menten论文的翻译。生物化学508264-8269。(doi:10.1021/bi201284u)·doi:10.1021/bi201284u
[70] Cornish Bowden A.2015 Michaelis Menten动力学一百年。透视。科学。4, 3-9. (doi:10.1016/j.pisc.2014.12.002)·doi:10.1016/j.pisc.2014.12.002
[71] Schmidt MD、Vallabhajosyula RR、Jenkins JW、Hood JE、Soni AS、Wikswo JP、Lipson H.2011代谢网络分析模型的自动细化和推断。物理学。生物学8,055011。(doi:10.1088/1478-3975/8/5/055011)·doi:10.1088/1478-3975/8/5/055011
[72] Graichen K,Treuer M,Zeitz M.2007通过前馈和反馈控制实现小车上的双摆摆动,并进行了实验验证。Automatica自动化43、63-71。(doi:10.1016/j.automatia.2006.07.023)·Zbl 1140.93368号 ·doi:10.1016/j.automatica.2006.07.023
[73] 瓦纳格VK。2004反应扩散系统中的波和模式。油包水微乳液中的Belousov-Zhabotinsky反应。物理学-乌斯普。47, 923. (doi:10.1070/PU2004v047n09ABEH001742)·doi:10.1070/PU2004v047n09ABEH001742
[74] MATLAB中的谱方法。SIAM,2000年,第10卷,第8章。切比雪夫系列和FFT,第75-86页。[在线]。可用:https://epubs.siam.org/doi/abs/10.1137/1.9780898719598.ch8。
[75] 库茨JN。2013年数据驱动建模和科学计算:复杂系统和大数据的方法。纽约州纽约市:牛津大学出版社·兹比尔1280.65002
[76] Kaheman K、Kaiser E、Strom B、Kutz JN、Brunton SL.2019从实验数据中学习差异模型。第58届IEEE决策与控制会议。法国尼斯,12月11-13日,第7389-7396页。新泽西州皮斯卡塔韦:IEEE。
[77] Kennedy MC,O'Hagan A.2001计算机模型的贝叶斯校准。J.R.Stat.Soc.系列B Stat.Methodol.)63, 425-464. (doi:10.1111/1467-9868.00294)·Zbl 1007.62021号 ·数字标识代码:10.1111/1467-9868.00294
[78] Arendt PD、Apley DW、Chen W.2012模型不确定性的量化:校准、模型差异和可识别性。J.机械。设计。134100908中。(doi:/10.1115/1.4007390)·数字对象标识代码:10.1115/1.4007390
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。