×
塞巴斯蒂安·米图什。;西蒙·冯克（Simon W.Funke）。;米罗斯拉夫·库赫塔

混合FEM-NN模型：将人工神经网络和有限元方法相结合。 （英语） Zbl 07516461号

J.计算。物理学。 446，文章ID 110651，21 p.（2021）.
摘要：我们提出了一种以偏微分方程（PDE）形式将神经网络与物理原理约束相结合的方法。该方法允许训练神经网络，同时将PDE视为优化中的一个强大约束，而不是使其成为损失函数的一部分。所得模型通过有限元法（FEM）在空间中离散。该方法适用于静态和瞬态以及线性/非线性偏微分方程。我们将该方法的实现描述为现有FEM框架FEniCS及其算法微分工具dolfin-adjoint的扩展。通过一系列示例，我们展示了该方法从观测值中恢复系数和缺失PDE算子的能力。此外，将该方法与其他方法进行了比较，即物理信息神经网络和标准PDE约束优化。最后，我们使用深度神经网络演示了一个复杂心脏细胞模型问题的方法。

引用于10文件

MSC公司：

6500万 偏微分方程、初值和含时初边值问题的数值方法
68泰克 人工智能
90立方厘米 数学编程

关键词：

数据驱动的科学计算;偏微分方程;学习未知物理;机器学习;有限元法

软件：

L-BFGS公司;科学Py;L-BFGS-B型;LBFGS-B型;DOLFIN公司;吨;dcc公司;XPIN编号;ADCME公司;PIN码NTK码;DeepONet（深度网络）;PyTorch公司;杜芬伴随物;PDE-网络;蟒蛇;hp-车辆识别号;不明飞行物
PDF格式BibTeX公司 XML格式引用
\textit{S.K.Mitusch}等人，J.Compute。物理学。446，文章ID 110651，21 p.（2021；Zbl 07516461）
全文： 内政部 arXiv公司
OA许可证

参考文献：

[1] 马库斯，G.，《深度学习：批判性评价》，预印本
[2] Long，Z。；Lu，Y。；Dong，B.，PDE-Net 2.0：使用数字符号混合深度网络从数据中学习PDE，J.Compute。物理。，399，第108925条，第（2019）页·Zbl 1454.65131号
[3] 长，Z。；Lu，Y。；马，X。；Dong，B.，PDE Net：从数据中学习PDE，（国际机器学习会议。国际机器学习会议，PMLR（2018）），3208-3216
[4] 鲁索托，L。；Haber，E.，偏微分方程驱动的深层神经网络，J.Math。成像视觉。，1-13 (2019)
[5] 卢，L。；Jin，P。；Karniadakis，G.E.，Deeponet：基于算子的普遍逼近定理学习用于识别微分方程的非线性算子，预印本
[6] 李，Z。；科瓦奇奇，N。；Azizzadenesheli，K。；刘，B。；巴塔查亚，K。；Stuart，A。；Anandkumar，A.，参数偏微分方程的傅立叶神经算子，预印本
[7] 莱斯，M。；佩尔迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号
[8] 塔塔科夫斯基，A.M。；马里罗，哥伦比亚特区。；佩尔迪卡里斯，P。；塔塔科夫斯基，G.D。；巴拉哈斯·索拉诺（Barajas-Solano），D.，学习参数和与物理相关的深层神经网络的本构关系，预印本
[9] Raissi，M.，《深层隐藏物理模型：非线性偏微分方程的深层学习》，J.Mach。学习。第19、25、1-24号决议（2018年）·Zbl 1439.68021号
[10] Shin，Y。；Darbon，J。；Karniadakis，G.E.，关于物理信息神经网络的收敛和推广，预印本
[11] 王，S。；Yu，X。；Perdikaris，P.，《钉无法训练的时间和原因：神经切线内核视角，预印本》·Zbl 07524768号
[12] 米什拉，S。；Molinaro，R.，用于近似pde的物理信息神经网络（pins）的泛化误差估计，预印本
[13] 伯格，J。；Nyström，K.，偏微分方程的神经网络增广逆问题
[14] 黄，D.Z。；Xu，K。；Farhat，C。；Darve，E.，使用深层神经网络从间接观测中学习本构关系，J.Compute。物理。，416，第109491条pp.（2020）·Zbl 1437.65192号
[15] Xu，K。；Darve，E.，Adcme：使用深度神经网络学习空间可变物理场，预印本
[16] 风扇，T。；Xu，K。；Pathak，J。；Darve，E.，使用深层神经网络解决稳态Navier-Stokes方程中的反问题
[17] Xu，K。；塔塔科夫斯基，A.M。；Burghardt，J。；Darve，E.，使用物理约束学习的粘弹性材料逆建模，预印本
[18] Rackauckas，C。；马云（Ma，Y.）。；Martensen，J。；华纳，C。；Zubov，K。；苏佩卡，R。；斯金纳，D。；Ramadhan，A.，科学机器学习的普遍微分方程
[19] Logg，A。；Wells，G.N.，DOLFIN：自动化有限元计算，ACM Trans。数学。软质。，37, 2, 20:1-20:28 (2010) ·Zbl 1364.65254号
[20] Paszke，A。；毛重，S。；马萨，F。；Lerer，A。；布拉德伯里，J。；Chanan，G。；基林，T。；林，Z。；Gimelshein，N。；安提瓜，L。；Desmaison，A。；Kopf，A。；杨，E。；德维托，Z。；Raison，M。；特贾尼，A。；Chilamkurthy，S。；斯坦纳，B。；方，L。；Bai，J。；Chintala，S.，Pytorch:一个命令式、高性能的深度学习库，（《神经信息处理系统进展》，第32卷（2019），Curran Associates，Inc.），8024-8035
[21] Duraisamy，K。；艾卡里诺，G。；Xiao，H.，《数据时代的湍流建模》，年。流体力学版次。，51, 1, 357-377 (2019) ·Zbl 1412.76040号
[22] Brunton，S.L。；Proctor，J.L。；Kutz，J.N.，通过非线性动力系统的稀疏识别从数据中发现控制方程，Proc。国家。阿卡德。科学。，113, 15, 3932-3937 (2016) ·Zbl 1355.94013号
[23] Glowinski，R.，《不可压缩粘性流的有限元方法》，（流体的数值方法（第3部分）。流体的数值方法（第3部分），《数值分析手册》，第9卷（2003年），爱思唯尔出版社，3-1176·Zbl 1040.76001号
[24] 哈拉兹米，E。；张，Z。；Karniadakis，G.E.，解偏微分方程的变分物理信息神经网络
[25] Naumann，U.，《区分计算机程序的艺术：算法区分导论》（The Art of Differentialing Computer Programs:A Introduction to Algorithm Differentiation）（2012年），工业与应用数学学会：工业与应用数学学会，美国宾夕法尼亚州费城·Zbl 1275.65015号
[26] Ulbrich，S.，《分析背景与最优理论》，1-95（2009），施普林格荷兰：施普林格荷属多德雷赫特
[27] Alns，医学硕士。；Logg，A。；Ølgard，K.B。；罗杰斯，M.E。；Wells，G.N.，《统一形式语言：偏微分方程弱公式的领域特定语言》，ACM Trans。数学。软质。，40, 2, 9:1-9:37 (2014) ·Zbl 1308.65175号
[28] Mitusch，S.K。；Funke，S.W。；Dokken，J.S.，Dolfin-adjoint 2018.1：FEniCS和Firedrake的自动伴随词，J.Open Sour。软质。，第4、38条，第1292页（2019年）
[29] Homolya，M。；柯比，R.C。；Ham，D.A.，揭示和利用结构：高阶有限元方法的最优代码生成，预印本
[30] 刘博士。；Nocedal，J.，《关于大规模优化的有限内存bfgs方法》，数学。程序。，45, 1, 503-528 (1989) ·Zbl 0696.90048号
[31] Virtanen，P。；Gommers，R。；Oliphant，T.E。；哈伯兰，M。；Reddy，T。；库纳波，D。；Burovski，E。；彼得森，P。；Weckesser，W。；Bright，J。；范德华特，S.J。；布雷特，M。；Wilson，J。；Millman，K.J。；北马约罗夫。；纳尔逊，A.R.J。；琼斯，E。；科恩，R。；Larson，E。；Carey，C.J。；伊利诺伊州波拉特。；Feng，Y。；摩尔，E.W。；范德普拉斯，J。；拉萨尔德，D。；佩克托尔德，J。；Cimrman，R。；亨利克森，I。；昆特罗，E.A。；哈里斯·C·R。；阿奇博尔德，A.M。；里贝罗，A.H。；佩德雷戈萨，F。；van Mulbregt，P.，《SciPy 1.0贡献者》，《SciPy 1.0：Python中科学计算的基本算法》，《自然方法》，第17期，第261-272页（2020年）
[32] Nash，S.G.，通过Lanczos方法实现牛顿型最小化，SIAM J.Numer。分析。，21, 4, 770-788 (1984) ·Zbl 0558.65041号
[33] Löhner，R。；安提尔·H·重新审视卡尔德龙的问题
[34] Valnes，L.M。；Mitusch，S.K。；Ringstad，G。；艾德，P.K。；Funke，S.W。；Mardal，K.-A，基于24小时示踪剂运动的表观扩散系数估计，支持人类大脑皮层中的glymphatic转运，Sci。代表，10，1，1-12（2020年）
[35] Kvrnö，A.，具有显式第一阶段的单对角隐式Runge-Kutta方法，BIT-Numer。数学。，44, 3, 489-502 (2004) ·Zbl 1066.65077号
[36] Skare，K.E.，Gryphon-a fenics中偏微分方程时间积分的模块（2012），Matematiske Fag研究所，硕士论文
[37] Shen，S.-Y.，逆热传导问题的数值研究，计算。数学。申请。，38, 7-8, 173-188 (1999) ·Zbl 0951.65090号
[38] Jagtap，医学博士。；哈拉兹米，E。；Karniadakis，G.E.，守恒定律离散域上的守恒物理信息神经网络：正问题和逆问题的应用，计算。方法应用。机械。工程，365，第113028条pp.（2020）·Zbl 1442.92002号
[39] Jagtap，医学博士。；Karniadakis，G.E.，《扩展物理信息神经网络（XPINNs）：基于广义时空域分解的非线性偏微分方程深度学习框架》，Commun。计算。物理。，2002-2041 (2020) ·Zbl 07419158号
[40] 王，S。；滕，Y。；Perdikaris，P.，理解和缓解物理信息神经网络中的梯度病理，预印本·Zbl 1530.68232号
[41] Jagtap，医学博士。；川口，K。；Karniadakis，G.E.，《自适应激活函数加速深度和物理信息神经网络的收敛》，J.Compute。物理。，404，第109136条pp.（2020）·Zbl 1453.68165号
[42] 朱，C。；伯德·R·H。；卢，P。；Nocedal，J.，算法778:L-BFGS-B:大规模有界约束优化的Fortran子程序，ACM Trans。数学。软质。，23, 4, 550-560 (1997) ·Zbl 0912.65057号
[43] Sundnes，J.公司。；线，G。；蔡，X。；尼尔森，B。；马尔达尔，K。；Tveito，A.，《计算心脏中的电活动》，《计算科学与工程专著》（2007年），施普林格：施普林格柏林，海德堡
[44] 法雷尔，体育。；Hake，J.E。；Funke，S.W。；Rognes，M.E.，耦合PDE-ODE系统的自动伴随，SIAM J.Sci。计算。，41,3，C219-C244（2019）·Zbl 1420.65077号
[45] 霍奇金，A.L。；赫胥黎，A.F.，《膜电流的定量描述及其在神经传导和兴奋中的应用》，《生理学杂志》。，117, 4, 500-544 (1952)
[46] Noble，D.，适用于Purkinje纤维动作和起搏器电位的Hodgkin-Huxley方程的修正，《生理学杂志》。，160, 2, 317-352 (1962)
[47] 是的，我。；de Bézenac，E。；Pajot，A。；布拉贾德，J。；Gallinari，P.，从部分观测中学习动力系统
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。