×

差异建模框架:学习缺失的物理,建模系统残差,消除确定性和随机性效应之间的歧义。 (英语) Zbl 1532.68095号

概要:基于物理和第一原理的模型广泛应用于工程和物理科学,能够以规定的精度对复杂系统的动力学进行建模。推导控制方程时使用的近似值通常会导致系统的模型和基于传感器的测量值之间的差异,从而揭示方程的近似性质和/或传感器本身的信噪比。在现代动力系统中,模型和测量之间的这种差异可能导致量化较差,通常会破坏产生准确和精确控制算法的能力。我们引入了一个差异建模框架来识别缺失物理,并通过两种不同的方法解决模型测量不匹配:(i)通过学习系统状态空间残差的演化模型,以及(ii)通过发现确定性动态误差的模型。无论采用何种方法,都可以使用一套通用的数据驱动模型发现方法。具体来说,我们使用四种根本不同的方法来演示差异建模的数学实现:(i)非线性动力学的稀疏辨识,(ii)动态模式分解,(iii)高斯过程回归和(iv)神经网络方法的选择取决于个人的意图(例如。,机械可解释性),用于差异建模、传感器测量特性(例如。,数量、质量、分辨率)和实际应用施加的限制(例如。,状态或动态空间可操作性)。我们证明了在不同信噪比下使用一套数据驱动建模方法对四个动态系统进行差异建模的实用性和适用性。最后,根据误差类型,我们强调了每种差异建模方法的结构缺陷。总之,如果真实的动力学未知(即。,一个不完善的模型),我们应该学习一个动态空间中缺失物理的差异模型。然而,如果真实的动力学已知,但模型度量不匹配仍然存在,那么应该学习状态空间中的差异模型。

MSC公司:

68T07型 人工神经网络与深度学习
37M10个 动力系统的时间序列分析
37号35 控制中的动态系统
60克15 高斯过程
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Lin,C.-C.和Segel,L.A.,《自然科学中应用于确定性问题的数学》,SIAM,费城,1988年·Zbl 0664.00026号
[2] Bender,C.M.和Orszag,S.A.,《科学家和工程师的高级数学方法I:渐近方法和微扰理论》,施普林格,纽约,1999年·Zbl 0938.34001号
[3] Kutz,J.N.,《高级微分方程:渐近与摄动》,预印本,arXiv:2012.145912020年。
[4] Callaham,J.L.,Koch,J.V.,Brunton,B.W.,Kutz,J.N.,and Brunton。,12(2021年),第1-10页。
[5] Bakarji,J.、Callaham,J、Brunton,S.L.和Kutz,J.N.,《白金汉派的维度一致性学习》,《自然计算》。科学。,(2022年),第1-11页。
[6] Saveriano,M.、Yin,Y.、Falco,P.和Lee,D.,使用剩余动力学学习的数据效率控制策略搜索,2017年IEEE/RSJ智能机器人和系统(IROS)国际会议,IEEE,新泽西州皮斯卡塔韦,2017年,第4709-4715页。
[7] Harlim,J.、Jiang,S.W.、Liang,S和Yang,H,《缺失动力学预测的机器学习》,J.Compute。物理。,428 (2021), 109922. ·Zbl 07511409号
[8] Farchi,A.、Laloyaux,P.、Bonavita,M.和Bocquet,M.,《使用机器学习纠正数据同化和预测应用中的模型误差》,夸特。J.罗伊。美托洛尔。《社会学杂志》,第147页(2021年),第3067-3084页。
[9] Shi,G.,Shi,X.,O'Connell,M.,Yu,R.,Azizzadenesheli,K.,Anandkumar,A.,Yue,Y.和Chung,S.-J.,《神经着陆器:使用学习动力学的稳定无人机着陆控制》,2019年机器人与自动化国际会议,IEEE,新泽西州皮斯卡塔韦,2019,第9784-9790页。
[10] Levine,M.E.和Stuart,A.M.,《动力系统模型误差的机器学习框架》,Amer通信。数学。Soc.,2(2022),第283-344页·Zbl 07750994号
[11] 奥斯特罗姆,K.J.和穆雷,R.m.,《反馈系统:科学家和工程师导论》,普林斯顿大学出版社,新泽西州普林斯顿,2021年·Zbl 1474.93001号
[12] Nise,N.S.,《控制系统工程》,新泽西州霍博肯市威利,2020年。
[13] Golnaraghi,F.和Kuo,B.C.,《自动控制系统》,McGraw-Hill教育,纽约,2017年。
[14] Ogata,K.,《系统动力学》,Prentice-Hall,Englewood Cliffs,1978年。
[15] Katsuhiko,O.等人,《现代控制工程》,第5版,新泽西州鞍河Prentice-Hall Upper,2010年。
[16] Kaheman,K.、Kaiser,E.、Benjamin Strom,J.N.K.和Brunton,S.L.,《从实验数据学习差异模型》,预印本,arXiv:1909.085742019年。
[17] 《流体动力学导论》,剑桥大学出版社,剑桥,2000年·Zbl 0958.76001号
[18] Kennedy,M.C.和O'Hagan,A.,《计算机模型的贝叶斯校准》,J.R.Stat.Soc.Ser。B.统计方法。,63(2001年),第425-464页·Zbl 1007.62021号
[19] Wald,R.M.,《广义相对论》,芝加哥大学出版社,芝加哥,2010年。
[20] de Silva,B.M.、Higdon,D.M.、Brunton,S.L.和Kutz,J.N.,《从数据中发现物理:宇宙定律和差异》,Front。Artif公司。智力。,3 (2020), 25.
[21] Manzi,M.和Vasile,M.,通过符号回归发现天体动力学中的未建模组件,2020年IEEE进化计算大会(CEC),IEEE,新泽西州皮斯卡塔韦,2020年,第1-7页。
[22] Bevington,P.R.和Robinson,D.K.,《数据简化和误差分析》,McGraw-Hill,纽约,2003年。
[23] Taylor,J.,《误差分析导论:物理测量中的不确定性研究》,加州索萨利托大学科学图书,1997年。
[24] Cook,R.D.和Weisberg,S.,《回归中的残差和影响》,查普曼和霍尔出版社,纽约,1982年·Zbl 0564.62054号
[25] Cox,D.R.和Snell,E.J.,残差的一般定义,J.R.Stat.Soc.Ser。B.统计方法。,30(1968),第248-265页·Zbl 0164.48903号
[26] Box,G.E.P.和Pierce,D.A.,自回归积分滑动平均时间序列模型中的剩余自相关分布,J.Amer。统计师。协会,65(1970),第1509-1526页·Zbl 0224.62041号
[27] Welch,G.和Gary,B.,《卡尔曼滤波器简介》,技术报告TR 95-041,北卡罗来纳大学教堂山分校计算机科学系,NCC,1995年。
[28] Law,K.、Stuart,A.和Zygalakis,K.,《数据同化》,瑞士查姆施普林格,2015年·Zbl 1353.60002号
[29] Miller,A.C.、Foti,N.J.和Fox,E.B.,《布雷曼的两种文化:你不必选择哪一方》,《观察研究》,第7卷(2021年),第161-169页。
[30] Smith,R.C.,《不确定性量化:理论、实施和应用》,SIAM,费城,2013年。
[31] Champion,K.、Bethany Lusch,J.N.K.和Brunton,S.L.,数据驱动的坐标和控制方程发现,Proc。国家。阿卡德。科学。美国,116(2019),第22445-22451页·Zbl 1433.68396号
[32] Champion,K.,Zheng,P.,Aravkin,A.Y.,Brunton,S.L.,and Kutz,J.N.,《从数据中学习简约物理模型的统一稀疏优化框架》,IEEE Access,8(2020),第169259-169271页。
[33] Rudy,S.H.、Brunton,S.L.、Proctor,J.L.和Kutz,J.N.,偏微分方程的数据驱动发现,科学。Adv.3(2017),第1602614页。
[34] Tu,J.H.、Rowley,C.W.、Luchtenburg,D.M.、Brunton,S.L.和Kutz,J.N.,《动态模式分解:理论与应用》,J.Compute。动态。,1(2014),第391-421页·Zbl 1346.37064号
[35] Rasmussen,C.E.,机器学习中的高斯过程,《机器学习暑期学校》,柏林斯普林格,2003年,第63-71页·Zbl 1120.68436号
[36] Narendra,K.S.和Parthasarathy,K.,《神经网络和动力系统》,国际。J.近似原因。,6(1992年),第109-131页·Zbl 0767.93035号
[37] Brunton,S.L.、Proctor,J.L.和Kutz,J.N.,通过非线性动力系统的稀疏识别从数据中发现控制方程,Proc。国家。阿卡德。科学。美国,113(2016),第3932-3937页·Zbl 1355.94013号
[38] Kutz,J.N.、Brunton,S.L.、Brunton,B.W.和Proctor,J.L.,《动态模式分解:复杂系统的数据驱动建模》,SIAM,费城,2016年·Zbl 1365.65009号
[39] Bagheri,S.,《弱噪声对振荡流的影响:链接质量因子、Floquet模式和Koopman谱》,Phys。《流体》,26(2014),094104。
[40] Askham,T.和Kutz,J.N.,优化动态模式分解的变量投影方法,SIAM J.Appl。动态。系统。,17(2018),第380-416页·Zbl 1384.37122号
[41] Brunton,S.L.、Brunton、B.W.、Proctor,J.L.,Kaiser,E.和Kutz,J.N.,《混沌作为一个间歇性受迫线性系统》,《自然通讯》。,8(2017),第1-9页。
[42] de Silva,B.,Champion,K.,Quade,M.,Jean-Christophe Loiseau,J.K.,and Brunton,S.,Pysindy:用于从数据稀疏识别非线性动力系统的python包,J.开源软件。,5(2004), 02104.
[43] Swiler,L.P.、Gulian,M.、Frankel,A.L.、Safta,C.和Jakeman,J.D.,《约束高斯过程回归的调查:方法和实施挑战》,J.Mach。学习。模型。计算。,1(2020年),第119-156页。
[44] Kaheman,K.、Brunton,S.和Kutz,J.N.,《同时识别非线性动力学并从数据中提取噪声概率分布的自动微分》,马赫。学习。科学。技术,3(2022),015031。
[45] Sashidhar,D.和Kutz,J.N.,Bagging,利用空间和时间不确定性量化进行稳健、稳定预测的优化动态模式分解,Philos。事务处理。罗伊。Soc.A,380(2022),20210199。
[46] Van Breugel,F.、Nathan Kutz,J.和Brunton,B.W.,噪声数据的数值微分:统一的多目标优化框架,IEEE Access,8(2020),第196865-196877页。
[47] Gottwald,G.A.和Reich,S.,《从噪声观测中监督学习:将机器学习技术与数据同化相结合》,《物理学》。D、 423(2021),132911·Zbl 1508.68288号
[48] Chen,Y.、Sanz-Alonso,D.和Willett,R.,自微分集合卡尔曼滤波器,SIAM J.Math。数据科学。,4(2022年),第801-833页·Zbl 1493.62499号
[49] Chartrand,R.,《含噪非光滑数据的数值微分》,《国际学术研究》。,2011 (2011), 164564. ·Zbl 1242.65045号
[50] Cullum,J.,《数值微分与正则化》,SIAM J.Numer。分析。,8(1971年),第254-265页·Zbl 0224.65005号
[51] Ramm,A.和Smirnova,A.,关于稳定数值微分,数学。公司。,70(2001),第1131-1153页·Zbl 0973.65015号
[52] Fasel,U.、Kutz,J.N.、Brunton,B.W.和Brunton(S.L.),《集成-正弦:低数据、高噪声极限下的稳健稀疏模型发现,以及主动学习和控制》,Proc。A、 478(2022),20210904。
[53] González-García,R.、Rico-Martínez,R.和Kevrekidis,I.G.,《分布参数系统的识别:基于神经网络的方法》,计算。化学。工程,22(1998),第S965-S968页。
[54] Krischer,K.、Rico-Martínez,R.、Kevrekidis,I.G.、Rotermund,H.H.、Ertl,G.和Hudson,J.L.,时空变化催化反应的模型识别,AICHE J.,39(1993),第89-98页。
[55] Rico-Martinez,R.、Anderson,J.S.和Kevrekidis,I.G.,《连续时间非线性信号处理:基于神经网络的灰盒识别方法》,摘自《IEEE信号处理神经网络研讨会论文集》,IEEE,新泽西州皮斯卡塔韦,1994年,第596-605页。
[56] Lagaris,I.E.、Likas,A.和Fotiadis,D.I.,求解常微分方程和偏微分方程的人工神经网络,IEEE Trans。神经网络。,9(1998年),第987-1000页。
[57] Daw,A.、Karpatne,A.、Watkins,W.、Read,J.和Kumar,V.,《物理引导神经网络(PGNN):在湖泊温度建模中的应用》,载于《知识引导机器学习:使用科学知识和数据加速发现》,CRC,博卡拉顿,2022年,第353-372页。
[58] Lu,L.,Jin,P.和Karniadakis,G.E.,Deeponet:学习非线性算子以基于算子的通用逼近定理识别微分方程,预印本,arXiv:1910.031932019。
[59] Raissi,M.、Perdikaris,P.和Karniadakis,G.E.,《基于物理的神经网络:用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》,J.Compute。物理。,378(2019),第686-707页·Zbl 1415.68175号
[60] Brunton,S.L.和Kutz,J.N.,《数据驱动科学与工程:机器学习、动态系统和控制》,剑桥大学出版社,剑桥,2019年·Zbl 1407.68002号
[61] Evensen,G.,《强非线性动力学的高级数据同化》,Mon。《天气评论》,125(1997),第1342-1354页。
[62] Gauthier,P.,《混沌与四维数据同化:基于洛伦兹模型的研究》,Tellus A Dynam。美托洛尔。海洋。,44(1992),第2-17页。
[63] Miller,R.N.、Ghil,M.和Gauthiez,F.,《强非线性动力系统中的高级数据同化》,J.Atmos。科学。,51(1994),第1037-1056页。
[64] Law,K.、Stuart,A.和Zygalakis,K.,《数据同化:数学导论》,第1版,瑞士查姆施普林格出版社,2015年·Zbl 1353.60002号
[65] Kalman,R.E.,《线性滤波和预测问题的新方法》,《流体工程杂志》,82(1960),第35-45页。
[66] Kalnay,E.,《大气建模、数据同化和可预测性》,剑桥大学出版社,剑桥,2003年。
[67] Majda,A.J.和Harlim,J.,《过滤复杂湍流系统》,剑桥大学出版社,剑桥,2012年·Zbl 1250.93002号
[68] Tao,F.、Zhang,H.、Liu,A.和Nee,A.Y.C.,《工业中的数字孪生兄弟:最新技术》,IEEE Trans。Ind.通知。,15(2018年),第2405-2415页。
[69] Jones,D.、Snider,C.、Nassehi,A.、Yon,J.和Hicks,B.,《数字双胞胎的特征描述:系统文献综述》,CIRP J.Manuf.Sci。技术。,29(2020年),第36-52页。
[70] Erichson,N.B.、Mathelin,L.、Yao,Z.、Brunton,S.L.、Mahoney,M.W.和Kutz,J.N.,《利用有限传感器重建流体流动的浅层神经网络》,Proc。A、 476(2020),20200097·Zbl 1472.68172号
[71] Carter,D.W.、De Voogt,F.、Soares,R.和Ganapathisubramani,B.,《利用实验数据对失速机翼上方的流动进行数据驱动稀疏重建》,《数据中心工程》,2(2021),e5。
[72] Sahba,S.、Wilcox,C.C.、McDaniel,A.、Shaffer,B.D.、Brunton,S.L.和Kutz,J.N.,《气动光学预测控制中通过浅层解码器神经网络进行波前传感器融合》,载于《干涉测量学XXI》,第12223卷,SPIE,华盛顿州贝灵汉,2022年,第11-17页。
[73] Hirsh,S.M.、Ichinaga,S.M、Brunton,S.L.、Kutz,J.N.和Brunton、B.W.,《与Frenet-Serret框架相连的动力系统的结构化时滞模型》,Proc。A、 477(2021),20210097。
[74] Bakarji,J.、Kathleen Champion,J.N.K.和Brunton,S.L.,用深度延迟自动编码器从部分测量中发现控制方程,Proc。A、 479(2023)预印本,arXiv:2201.051362022。
[75] Rahimi,A.和Recht,B.,《大型内核机器的随机特征》,高级神经信息。过程。系统。,20 (2007).
[76] Brajard,J.、Carrassi,A.、Bocquet,M.和Bertino,L.,结合数据同化和机器学习推断未解决的尺度参数化,Philos。事务处理。罗伊。Soc.A,379(2021),20200086。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。