×
曲、家港;蔡伟华;赵一军

用线性和非线性分离卷积神经网络学习时间相关的偏微分方程。 （英语） Zbl 07517708号

J.计算。物理学。 453，文章ID 110928，20 p.（2022）.
概述：描述许多物理现象的偏微分方程（PDE）是基于专业知识或经验观察发现或推导出来的。然而，机器学习技术的快速发展使我们有兴趣使用基于神经网络的数据驱动方法来发现偏微分方程。我们引入卷积神经网络（CNN）来学习与时间相关的偏微分方程。我们没有在损失函数中定制复杂的正则化项，而是对神经网络模型的结构引入了一系列约束，以避免过拟合问题。首先，由于线性偏微分方程可以用线性CNN精确逼近，我们构造了一个由线性CNN和非线性CNN组成的网络。线性CNN有助于缓解学习非线性偏微分方程的过拟合问题。其次，边界条件通过自定义填充操作硬编码到神经网络中。最后，通过与Euler方案相对应的自回归框架学习时间序列数据。我们用一系列偏微分方程（包括热方程、Burgers方程、反应扩散方程和Kuramoto-Sivashinsky方程）对该框架进行了测试。此外，我们还测试了二维方程，其精度与一维情况类似。这些数值结果表明，该框架能够更准确、更稳定地从少量数据中学习偏微分方程。

引用于1文件

MSC公司：

6500万 偏微分方程、初值和含时初边值问题的数值方法
68泰克 人工智能
65新元 偏微分方程边值问题的数值方法

关键词：

偏微分方程;离散动力系统;卷积神经网络;数据驱动方法;PDE发现

软件：

PhyCNN（美国有线电视新闻网）;PhyGeoNet（物理地理网）;转换PDE-UQ;深XDE;XPIN编号;亚当;PDE-网络;PyTorch公司;DGM公司
PDF格式BibTeX公司 XML格式引用
\textit{J.Qu}等人，J.Compute。物理。453，文章ID 110928，20 p.（2022；Zbl 07517708）
全文： 内政部

参考文献：

[1] Rudy，S.H。；Brunton，S.L。；Proctor，J.L。；Kutz，J.N.，偏微分方程的数据驱动发现，科学。Adv.，3，文章e1602614 pp.（2017）
[2] Long，Z。；卢，Y。；马，X。；Dong，B.，Pde-net：从数据中学习pdes，（机器学习国际会议，PMLR（2018）），3208-3216
[3] 长，Z。；卢，Y。；Dong，B.，Pde-net 2.0：使用数字符号混合深度网络从数据中学习pdes，J.Compute。物理。，399，第108925条pp.（2019）·Zbl 1454.65131号
[4] 姚，H。；任，Y。；Liu，Y.，Fea-net：一种具有物理精神的深度卷积神经网络，用于有效的数据驱动pde学习，（AIAA科学技术2019论坛（2019）），0680
[5] Rudy，S。；Alla，A。；Brunton，S.L。；Kutz，J.N.，参数偏微分方程的数据驱动识别，SIAM J.Appl。动态。系统。，18, 643-660 (2019) ·Zbl 1456.65096号
[6] 伯格，J。；Nyström，K.，复杂数据集中pde的数据驱动发现，J.Compute。物理。，384, 239-252 (2019) ·Zbl 1451.68239号
[7] Dal Santo，N。；德帕里斯，S。；Pegolotti，L.，用约化基和神经网络对参数化偏微分方程进行数据驱动近似，J.Compute。物理。，416，第109550条pp.（2020）·Zbl 1437.65224号
[8] Wu，K。；Xiu，D.，模态空间中偏微分方程的数据驱动深度学习，J.Compute。物理。，408，第109307条pp.（2020）·Zbl 07505629号
[9] 圣马力诺。；Maulik，R。；Ahmed，M.，瞬变流降阶建模的人工神经网络框架，Commun。非线性科学。数字。模拟。，77, 271-287 (2019) ·兹比尔1479.76082
[10] 李，S。；张，Z。；Zhao，H.，基于内在降维的随机系数多尺度椭圆偏微分方程的数据驱动方法，多尺度模型。模拟。，18, 1242-1271 (2020) ·Zbl 1459.35194号
[11] 巴塔查里亚，K。；侯赛尼，B。；科瓦奇奇，N.B。；Stuart，A.M.，参数pde的模型简化和神经网络（2020），arXiv预印本
[12] 帕瓦尔，S。；艾哈迈德，S.E。；圣马力诺。；Rasheed，A.，流体流动降阶建模中隐藏物理的数据驱动恢复，Phys。流体，32，第036602条pp.（2020）
[13] 韦诺维奇，N。；拉马尼，K。；Lin，G.，Convpde uq：不同域上异构椭圆偏微分方程的量化不确定性卷积神经网络，J.Comput。物理。，394263-279（2019）·Zbl 1457.65245号
[14] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号
[15] 雅格塔普，A.D。；Karniadakis，G.E.，《扩展物理信息神经网络（xpins）：基于广义时空域分解的非线性偏微分方程深度学习框架》，Commun。计算。物理。，28, 2002-2041 (2020) ·Zbl 07419158号
[16] Zhu，Y。；北卡罗来纳州扎巴拉斯。；Koutsourelakis，P.-S。；Perdikaris，P.，《无标记数据的高维代理建模和不确定性量化的物理约束深度学习》，J.Compute。物理。，394, 56-81 (2019) ·Zbl 1452.68172号
[17] Sun，L。；高，H。；潘，S。；Wang，J.-X.，基于物理约束的无模拟数据深度学习的流体流动替代建模，计算。方法应用。机械。工程，361，第112732条pp.（2020）·Zbl 1442.76096号
[18] 日内瓦，N。；Zabaras，N.，用物理约束的深度自回归网络建模pde系统的动力学，J.Compute。物理。，403，第109056条pp.（2020）·Zbl 1454.65130号
[19] 雅格塔普，A.D。；川口，K。；Karniadakis，G.E.，《自适应激活函数加速深度和物理信息神经网络的收敛》，J.Compute。物理。，404，第109136条pp.（2020）·Zbl 1453.68165号
[20] Lee，H。；Kang，I.S.，解微分方程的神经算法，J.Compute。物理。，9110-131（1990年）·Zbl 0717.65062号
[21] 拉加里斯，I.E。；利卡斯，A。；Fotiadis，D.I.，求解常微分方程和偏微分方程的人工神经网络，IEEE Trans。神经网络。，9, 987-1000 (1998)
[22] 拉加里斯，I.E。；利卡斯，A.C。；Papageorgiou，D.G.，不规则边界边值问题的神经网络方法，IEEE Trans。神经网络。，11, 1041-1049 (2000)
[23] 西里尼亚诺，J。；Spiliopoulos，K.，Dgm:解偏微分方程的深度学习算法，J.Compute。物理。，375, 1339-1364 (2018) ·Zbl 1416.65394号
[24] 伯格，J。；Nyström，K.，复杂几何偏微分方程的统一深度人工神经网络方法，神经计算，317，28-41（2018）
[25] 卢，L。；X孟。；毛，Z。；Karniadakis，G.E.，Deepxde:解微分方程的深度学习库，SIAM Rev.，63，208-228（2021）·兹比尔1459.65002
[26] Han，J。；尼卡，M。；Stinchcombe，A.R.，用深度神经网络求解椭圆偏微分方程的无导数方法，J.Compute。物理。，419，第109672条pp.（2020）·Zbl 07507233号
[27] Han，J。；詹岑，A。；Weinan，E.，使用深度学习求解高维偏微分方程，Proc。国家。阿卡德。科学。，115, 8505-8510 (2018) ·Zbl 1416.35137号
[28] Wang，Z。；Zhang，《使用深度学习方法解决界面问题的无网格方法》，J.Compute。物理。，400，第108963条pp.（2020）·Zbl 1454.65173号
[29] 张，R。；刘，Y。；Sun，H.，用于数据驱动地震响应建模的物理引导卷积神经网络（phycnn），工程结构。，215，第110704条pp.（2020）
[30] Sun，L。；Wang，J.-X.，《利用稀疏和噪声数据重建流体流动的物理约束贝叶斯神经网络》，Theor。申请。机械。莱特。，10, 161-169 (2020)
[31] 霍尼克，K。；Stinchcombe先生。；White，H.，多层前馈网络是通用逼近器，神经网络。，2, 359-366 (1989) ·Zbl 1383.92015年
[32] 周德兴，深度卷积神经网络的普遍性，应用。计算。哈蒙。分析。，48, 787-794 (2020) ·Zbl 1434.68531号
[33] 高，H。；Sun，L。；Wang，J.-X.，Phygeonet:基于物理的几何自适应卷积神经网络，用于求解不规则域上的参数化稳态方程，J.Compute。物理。，428，第110079条pp.（2021）·Zbl 07511433号
[34] Rackauckas，C。；马云（Ma，Y.）。；Martensen，J。；华纳，C。；Zubov，K。；苏佩卡，R。；斯金纳，D。；拉马丹，A。；Edelman，A.，《科学机器学习的通用微分方程》（2020），arXiv预印本
[35] Anitescu，C。；阿托什琴科，E。；阿拉伊兰，N。；Rabczuk，T.，解二阶边值问题的人工神经网络方法，计算。马特。Continua，59，345-359（2019）
[36] McFall，K.S。；Mahan，J.R.，求解精确满足任意边界条件的边值问题的人工神经网络方法，IEEE Trans。神经网络。，20, 1221-1233 (2009)
[37] X.洪。；Chen，S.，一种新的带边界值约束的rbf神经网络，IEEE Trans。系统。人类网络。，B部分，网络。，39298-303（2008年）
[38] 帕拉德五世。；彼得罗夫，M。；Todorov，T.，解决非局部边值问题的神经网络方法，神经计算。申请。，1-19 (2020)
[39] Mohan，A.T。；吕贝尔斯，N。；利维斯库，D。；Chertkov，M.，《在三维湍流的神经网络粗粒度中嵌入硬物理约束》（2020），arXiv预印本
[40] Hochbruck，M。；Ostermann，A.，指数积分器，《数值学报》。，19, 209-286 (2010) ·Zbl 1242.65109号
[41] Paszke，A。；毛重，S。；马萨，F。；Lerer，A。；布拉德伯里，J。；Chanan，G。；基林，T。；林，Z。；Gimelshein，N。；Antiga，L.，Pytorch：一个命令式、高性能的深度学习库，Adv.Neural Inf.Process。系统。，32, 8026-8037 (2019)
[42] Kingma，D.P。；Ba Adam，J.，《随机优化方法》（2014），arXiv预印本
[43] 查尼·J·G。；Fjörtoft，R。；Von Neumann，J.，正压涡度方程的数值积分，（the Atmosphere-A Challenge（1990），施普林格出版社），267-284
[44] 考克斯，S.M。；Matthews，P.C.，刚性系统的指数时间差分，J.Compute。物理。，176, 430-455 (2002) ·Zbl 1005.65069号
[45] 北卡罗来纳州博莱。；弗吉尼亚州达拉斯。；Y.Nakatsukasa。；Samaddar，D.，《利用深度学习对混沌时间序列进行分类》，《物理学》。D、 非线性现象。，403，第132261条pp.（2020）
[46] Pathak，J。；亨特，B。；Girvan，M。；卢，Z。；Ott，E.，《从数据对大型时空混沌系统进行无模型预测：水库计算方法》，Phys。修订稿。，120，第024102条pp.（2018）
[47] Rafayelyan，M。；Dong，J。；Tan，Y。；克扎卡拉，F。；Gigan，S.，《时空混沌系统预测的大尺度光学水库计算》，Phys。第十版，第10条，第041037页（2020年）
[48] 史密斯，G.D。；史密斯，G.D。；Smith，G.D.S.，《偏微分方程的数值解：有限差分方法》（1985），牛津大学出版社·Zbl 0576.65089号
[49] Kalogirou，A。；Keaveny，E.E。；Papageorgiou，D.T.，《二维Kuramoto-Sivashinsky方程的深入数值研究》，Proc。R.Soc.A，数学。物理。工程科学。，第471条，第20140932页（2015）·Zbl 1372.65282号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。