×

PDE-Net 2.0:使用数字符号混合深度网络从数据中学习PDE。 (英语) Zbl 1454.65131号

摘要:偏微分方程(PDE)通常是基于经验观察得出的。然而,最近的技术进步使我们能够收集和存储大量数据,这为数据驱动的偏微分方程发现提供了新的机会。在本文中,我们提出了一种新的深度神经网络,称为PDE-Net 2.0,用于从观测到的动态数据中发现(与时间相关的)PDE,而对驱动动力学的潜在机制只有少量的先验知识。PDE-Net 2.0的设计基于我们早期的工作[“PDE-Net:从数据中学习PDE”,载于:第35届机器学习国际会议论文集,2018年7月10日至15日,瑞典斯德哥尔摩,ICML 2018。纽约州Red Hook:Curran Associates,Inc.(2018年);PMLR 80、3208–3216(2018)],其中提出了PDE-Net的原始版本。PDE-Net 2.0是通过卷积对微分算子进行数值近似和用于模型恢复的符号多层神经网络的组合。与现有方法相比,PDE-Net 2.0通过学习微分算子和潜在PDE模型的非线性响应函数,具有最大的灵活性和表达能力。数值实验表明,PDE-Net 2.0有潜力揭示观测动力学中隐藏的PDE,并预测相对较长时间的动力学行为,即使在噪声环境中也是如此。

MSC公司:

65M99型 偏微分方程、初值和含时初边值问题的数值方法
6500万06 含偏微分方程初值和初边值问题的有限差分方法
68T07型 人工神经网络与深度学习
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 长,Z。;卢,Y。;马,X。;Dong,B.,Pde-net:从数据中学习pdes,(机器学习国际会议(2018)),3214-3222
[2] 布伦南,C.E。;Brennen,C.E.,《多相流基础》(2005),剑桥大学出版社·Zbl 1127.76001号
[3] M.Efendiev,线粒体肿胀的数学模型。;M.Efendiev,线粒体肿胀的数学模型·Zbl 1406.92003号
[4] 邦加德,J。;Lipson,H.,《非线性动力系统的自动逆向工程》,Proc。国家。阿卡德。科学。美国,104,24,9943-9948(2007)·Zbl 1155.37044号
[5] 施密特,M。;Lipson,H.,《从实验数据中提取自由形式自然法则》,《科学》,324592381-85(2009)
[6] 莱斯,M。;Karniadakis,G.E.,《隐藏物理模型:非线性偏微分方程的机器学习》,J.Compute。物理。,357, 125-141 (2018) ·Zbl 1381.68248号
[7] 莱斯,M。;佩尔迪卡里斯,P。;Karniadakis,G.E.,《物理学为基础的深度学习》(第二部分):非线性偏微分方程的数据驱动发现,arXiv预印本·Zbl 1415.68175号
[8] Brunton,S.L。;Proctor,J.L。;Kutz,J.N.,通过非线性动力系统的稀疏识别从数据中发现控制方程,Proc。国家。阿卡德。科学。美国,第201517384页(2016年)·Zbl 1355.94013号
[9] Schaeffer,H.,通过数据发现和稀疏优化学习偏微分方程,Proc。R.Soc.A,473,2197,第20160446页(2017)·Zbl 1404.35397号
[10] 鲁迪,S.H。;Brunton,S.L。;普罗克特,J.L。;Kutz,J.N.,偏微分方程的数据驱动发现,科学。高级,3,4,文章e1602614 pp.(2017)
[11] Chang,H。;张,D.,通过数据驱动和数据相似相结合的方法识别物理过程,arXiv预印本·Zbl 1453.62797号
[12] 谢弗,H。;Tran,G。;Ward,R。;Zhang,L.,使用极少量样本的稀疏优化提取结构化动力系统,arXiv预印本·Zbl 1528.65035号
[13] 吴,Z。;Zhang,R.,通过非牛顿流体中球体的运动数据学习物理,Commun。非线性科学。数字。模拟。,67, 577-593 (2019) ·Zbl 1508.76008号
[14] de Bezenac,E。;Pajot,A。;Galinari,P.,《物理过程的深度学习:结合先前的科学知识》,arXiv预印本·Zbl 1459.68183号
[15] He,K。;张,X。;Ren,S。;Sun,J.,图像识别的深度剩余学习,(IEEE计算机视觉和模式识别会议论文集(2016)),770-778
[16] He,K。;张,X。;Ren,S。;Sun,J.,深度剩余网络中的身份映射,(欧洲计算机视觉会议(2016),施普林格),630-645
[17] 陈,Y。;余,W。;Pock,T.,《关于学习优化反应扩散过程以实现有效图像恢复》,(IEEE计算机视觉和模式识别会议论文集(2015)),5261-5269
[18] Weinan,E.,《通过动态系统进行机器学习的建议》,Commun。数学。统计,5,1,1-11(2017)·Zbl 1380.37154号
[19] 哈伯,E。;Ruthotto,L.,深度神经网络的稳定架构,逆问题。,34,1,第014004条pp.(2017)·Zbl 1426.68236号
[20] 索诺达,S。;Murata,N.,深度神经网络的双连续极限,(ICML研讨会深度学习的原则方法(2017))
[21] 卢,Y。;钟,A。;李强。;Dong,B.,《超越有限层神经网络:桥接深层结构和数值微分方程》(2018年国际机器学习会议),3282-3291
[22] Chang,B。;孟,L。;哈伯,E。;董,F。;Begert,D.,动态系统视角下的多级剩余网络(ICLR(2018))
[23] Chen,T.Q。;Rubanova,Y。;Bettencourt,J。;Duvenaud,D.,神经常微分方程,arXiv预印本
[24] 秦,T。;Wu,K。;Xiu,D.,使用深度神经网络的数据驱动控制方程近似,arXiv预印本·Zbl 1455.65125号
[25] Wiewel,S。;贝彻,M。;Thuerey,N.,《潜在空间物理学:学习流体流动的时间演变》,arXiv预印本
[26] Kim,B。;阿泽夫多,V.C。;北卡罗来纳州瑟雷。;Kim,T。;毛重,M。;Solenthaler,B.,《深层流体:参数化流体模拟的生成网络》,arXiv预印本
[27] Duraisamy,K。;张志杰。;Singh,A.P.,《使用数据驱动技术进行湍流和转捩建模的新方法》,(第53届美国航空航天局航空科学会议(2015)),1284
[28] Duraisamy,K。;艾卡里诺,G。;Xiao,H.,《数据时代的湍流建模》,年。流体力学版次。,51, 357-377 (2019) ·Zbl 1412.76040号
[29] 马,C。;Wang,J.,动态系统的记忆模型简化和机器学习,arXiv预印本·Zbl 1473.35450号
[30] 诺伊德·W。;朱,J.-W。;艾顿,G.S。;克里希纳,V。;Izvekov,S。;Voth,G.A。;Das,A。;Andersen,H.C.,《多尺度粗粒度方法》。I.原子模型和粗粒度模型之间的严格桥梁,J.Chem。物理。,第128、24条,第244114页(2008年)
[31] 张,L。;Han,J。;Wang,H。;R车。;Weinan,E.,《深势分子动力学:具有量子力学准确性的可扩展模型》,Phys。修订稿。,第120、14条,第143001页(2018年)
[32] 蔡J.-F。;Dong,B。;Osher,S。;沈,Z.,《图像恢复:总变差、小波框架及其以外》,美国数学杂志。Soc.,25,4,1033-1089(2012)·Zbl 1277.35019号
[33] Dong,B。;姜强。;Shen,Z.,《图像恢复:小波框架收缩、非线性演化过程及其以外》,多尺度模型。模拟。,15, 1, 606-660 (2017) ·Zbl 1378.35159号
[34] Daubechies,I.,《小波十讲》,第61卷(1992年),SIAM·Zbl 0776.42018号
[35] Mallat,S.,《信号处理的小波之旅》(1999),爱思唯尔出版社·兹比尔0998.94510
[36] 波乔,T。;姆哈斯卡,H。;Rosasco,L。;米兰达,B。;Liao,Q.,《为什么以及何时深层而非浅层网络可以避免维度诅咒:国际汽车杂志》。计算。,14, 5, 503-519 (2017)
[37] 沙哈姆,美国。;Cloninger,A。;Coifman,R.R.,深度神经网络的可证明近似性质,应用。计算。哈蒙。分析。,44, 3, 537-557 (2018) ·Zbl 1390.68553号
[38] Montanelli,H。;Du,Q.,Deep relu网络减轻了维度诅咒,arXiv预印本
[39] Wang,Q.,解析函数深度神经网络逼近的指数收敛性,arXiv预印本·Zbl 1475.65007号
[40] He,J。;李,L。;徐,J。;Zheng,C.,Relu深度神经网络和线性有限元,arXiv预印本·Zbl 1463.68072号
[41] 马蒂乌斯,G。;Lampert,C.H.,外推和学习方程,arXiv预印本
[42] Sahoo,S。;兰伯特,C。;Martius,G.,外推和控制的学习方程,(机器学习国际会议(2018)),4439-4447
[43] 刘晓东。;Osher,S。;Chan,T.,加权基本非振荡格式,J.Compute。物理。,115, 1, 200-212 (1994) ·Zbl 0811.65076号
[44] Shu,C.-W.,双曲守恒律的本质非振荡和加权本质非振荡格式,(非线性双曲方程的高级数值逼近(1998),Springer),325-432·Zbl 0927.65111号
[45] LeVeque,R.J.,《双曲问题的有限体积方法》,第31卷(2002),剑桥大学出版社·Zbl 1010.65040号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。