×

一种新的序列方法,用于训练Allen-Cahn和Cahn-Hilliard方程的物理信息神经网络。 (英语) Zbl 1507.92009年9月

摘要:基于物理的神经网络(PINN)通过神经网络的损失函数来满足系统的边值问题,从而将系统的物理特性融入其中。PINN方法在逼近偏微分方程(PDE)解与其时空坐标之间的映射方面取得了巨大成功。然而,对于强非线性和高阶时变偏微分方程(如Allen-Cahn和Cahn-Hilliard方程),PINN的精度会受到严重影响。为了解决这一问题,提出了一种新的PINN方案,该方案使用单个神经网络在连续时间段上连续求解PDE。其关键思想是重新训练相同的神经网络来求解连续时间段的PDE,同时满足所有先前时间段的已获得解。因此,它被命名为向后兼容PINN(bc-PINN)。为了说明bc-PINN的优点,求解了Cahn-Hilliard方程和Allen-Cahn方程。这些方程被广泛用于描述相分离和反应扩散系统。此外,引入了两种新技术来改进所提出的bc-PINN方案。第一种技术使用时间段的初始条件来引导神经网络映射更接近该段上的真实映射。第二种技术是转移学习方法,其中保留了从先前训练中学习到的特征。我们已经证明,这两种技术显著提高了bc-PINN方案的准确性和效率。还证明了通过使用高阶偏微分方程的相空间表示来提高收敛性。结果表明,所提出的bc-PINN技术比PINN技术更准确、更高效。

MSC公司:

92秒20 生物研究、人工生命和相关主题中的神经网络
65M99型 偏微分方程、初值和含时初边值问题的数值方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 毛,Z。;雅格塔普,A.D。;Karniadakis,G.E.,《高速流动的物理信息神经网络》,计算。方法应用。机械。工程,360,第112789条pp.(2020)·兹比尔1442.76092
[2] 阿巴比,H。;邦德,J.E。;Samaey,G。;罗伯茨,A.J。;Kevrekidis,I.G.,《将机器学习与多尺度数值联系起来:数据驱动的均质方程发现》,JOM,72,12,4444-4457(2020)
[3] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《利用噪声多保真数据推断微分方程解》,J.Compute。物理。,335, 736-746 (2017) ·Zbl 1382.65229号
[4] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,使用高斯过程的线性微分方程机器学习,J.Compute。物理。,348, 683-693 (2017) ·Zbl 1380.68339号
[5] 莱斯,M。;Karniadakis,G.E.,《隐藏物理模型:非线性偏微分方程的机器学习》,J.Compute。物理。,357125-141(2018),arXiv:1708.00588·Zbl 1381.68248号
[6] 阿特金森,S。;Zabaras,N.,结构化贝叶斯-高斯过程潜在变量模型:数据驱动降维和高维反演的应用,J.Compute。物理。,383, 166-195 (2019) ·兹比尔1451.62095
[7] Bilinis,I。;北卡罗来纳州扎巴拉斯。;科诺米,学士。;Lin,G.,《多输出可分离高斯过程:走向不确定性量化的有效、完全贝叶斯范式》,J.Compute。物理。,241, 212-239 (2013) ·Zbl 1349.76760号
[8] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《基于物理的神经网络:解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》,J.Compute。物理。,378, 686-707 (2019) ·Zbl 1415.68175号
[9] Baydin,A.G。;Pearlmutter,B.A。;Radul,A.A。;Siskind,J.M.,《机器学习中的自动差异化:一项调查》,J.Mach。学习。第18号决议(2018年)·Zbl 06982909号
[10] 张,D。;卢,L。;郭,L。;Karniadakis,G.E.,《量化物理信息神经网络中用于解决正向和反向随机问题的总不确定性》,J.Compute。物理。,397,第108850条pp.(2019)·Zbl 1454.65008号
[11] Yang,L。;张,D。;Karniadakis,G.E.,《随机微分方程的物理信息生成对抗网络》,SIAM J.Sci。计算。,42、1、A292-A317(2020)·Zbl 1440.60065号
[12] X孟。;Karniadakis,G.E.,《从多保真数据中学习的复合神经网络:函数逼近和PDE逆问题的应用》,J.Compute。物理。,401,第109020条pp.(2020)·Zbl 1454.76006号
[13] 雅格塔普,A。;Kharazmi,E。;Karniadakis,G.,守恒定律离散域上的保守物理学信息神经网络:在正问题和反问题中的应用,Comput。方法应用。机械。工程,365,第113028条pp.(2020)·Zbl 1442.92002号
[14] D.Jagtap,A。;Em Karniadakis,G.,《扩展物理信息神经网络(XPINNs):基于广义时空域分解的非线性偏微分方程深度学习框架》,Commun。计算。物理。,28, 5, 2002-2041 (2020) ·Zbl 07419158号
[15] 卡鲁穆里,S。;Tripathy,R。;Bilinis,I。;Panchal,J.,使用深层神经网络的高维随机椭圆偏微分方程的无模拟解,J.Compute。物理。,404,第109120条pp.(2020),arXiv:1902.05200·兹比尔1453.65021
[16] Tripathy,R.K。;Bilionis,I.,Deep UQ:学习深度神经网络替代模型,用于高维不确定性量化,J.Compute。物理。,375, 565-588 (2018) ·兹伯利1419.68084
[17] 杨,Y。;Perdikaris,P.,《物理信息神经网络中的对抗不确定性量化》,J.Compute。物理。,394, 136-152 (2019) ·Zbl 1452.68171号
[18] Yang,L。;X孟。;Karniadakis,G.E.,B-PINNs:带噪声数据的正向和反向PDE问题的贝叶斯物理信息神经网络(2020),arXiv:2003.06097
[19] 何,Q。;巴拉哈斯·索拉诺,D。;塔塔科夫斯基,G。;Tartakovsky,A.M.,《应用于地下运输的多物理数据同化的物理信息神经网络》,水资源高级研究所。,141,第103610条pp.(2020)
[20] 刘,M。;Liang,L。;Sun,W.,基于物理信息的软生物组织通用神经网络本构模型,计算。方法应用。机械。工程,372,第113402条pp.(2020)·Zbl 1506.74207号
[21] 基萨斯,G。;杨,Y。;Hwuang,E。;Witschey,W.R。;Detre,J.A。;Perdikaris,P.,《心血管血流建模中的机器学习:使用物理信息神经网络从无创4D流MRI数据预测动脉血压》,计算机。方法应用。机械。工程,358,第112623条pp.(2020)·Zbl 1441.76149号
[22] Sahli Costabal,F。;杨,Y。;佩迪卡里斯,P。;Hurtado,D.E。;Kuhl,E.,心脏激活映射的物理信息神经网络,Front。物理。,8, 42 (2020)
[23] 胡,Y。;Zhao,T。;徐,Z。;Lin,L.,神经时间相关偏微分方程(2020),arXiv:2009.03892
[24] Khoo,Y。;卢,J。;Ying,L.,用人工神经网络解决参数PDE问题,欧洲应用杂志。数学。,32, 3, 421-435 (2020) ·Zbl 1501.65154号
[25] 李,Z。;科瓦奇奇,N。;Azizzadenesheli,K。;刘,B。;巴塔查亚,K。;Stuart,A。;Anandkumar,A.,《神经运算符:偏微分方程的图形核网络》(2020),arXiv:2003.03485
[26] 李,Z。;科瓦奇奇,N。;Azizzadenesheli,K。;刘,B。;巴塔查亚,K。;Stuart,A。;Anandkumar,A.,参数偏微分方程的Fourier神经算子(2021),arXiv:2010.08895
[27] 卢,L。;Jin,P。;庞,G。;张,Z。;Karniadakis,G.E.,基于算子的普遍逼近定理,通过DeepONet学习非线性算子,Nat.Mach。智力。,218-229年3月3日(2021年)
[28] Abels,H。;Garcke,H。;Grün,G.,不同密度不可压缩两相流的热力学一致、无框架扩散界面模型,数学。模型方法应用。科学。,22,03,第1150013条pp.(2012)·Zbl 1242.76342号
[29] Deckelnick,K。;Dziuk,G。;Elliott,C.M.,《几何偏微分方程和平均曲率流的计算》,《数值学报》。,14, 139-232 (2005) ·Zbl 1113.65097号
[30] Lowengrub,J。;Truskinovsky,L.,拟不可压缩Cahn-Hilliard流体与拓扑跃迁,Proc。R.Soc.伦敦。序列号。数学。物理学。工程科学。,454, 1978, 2617-2654 (1998) ·兹比尔0927.76007
[31] 李,B。;Lowengrub,J。;Ratz,A。;Voigt,A.,《晶体薄膜的几何演化规律:建模和数值》,Commun。计算。物理。,6433年6月(2009年)·Zbl 1364.74062号
[32] Trefethen,L.N。;黑尔,N。;Driscoll,T.A.,《Chebfun指南》(2014),牛津Pafnuty出版社
[33] 潘,S.J。;Yang,Q.,迁移学习调查,IEEE Trans。知识。数据工程,22,10,1345-1359(2010)
[34] Y.本吉奥。;Simard,P。;Frasconi,P.,学习梯度下降的长期依赖性是困难的,IEEE Trans。神经网络。,5, 2, 157-166 (1994)
[35] Lecun,Y。;博图,L。;奥尔·G。;Müller,K.-R.,《高效BackProp》(2000)
[36] X.Glrot,Y.Bengio,《理解深度前馈神经网络训练的困难》,载于《第十三届国际人工智能与统计会议论文集》,JMLR研讨会和会议论文集,第249-256页。
[37] 金玛,D.P。;Ba,J.,Adam:随机优化方法(2017),arXiv:1412.6980
[38] 考克斯,S。;Matthews,P.,刚性系统的指数时间差分,J.Compute。物理。,176, 2, 430-455 (2002) ·Zbl 1005.65069号
[39] Bazant,M.Z.,驱动开放系统的热力学稳定性和电自催化相分离控制,法拉第讨论。,199, 423-463 (2017)
[40] 艾伦,S.M。;Cahn,J.W.,《反相边界运动微观理论及其在反相畴粗化中的应用》,《金属学报》。,27, 6, 1085-1095 (1979)
[41] Bartels,S.,非线性偏微分方程的数值方法,第47卷(2015),Springer·Zbl 1314.65003号
[42] 沈杰。;Yang,X.,allen-cahn和cahn-hilliard方程的数值近似,离散Contin。动态。系统。A、 28,41669(2010)·Zbl 1201.65184号
[43] 卡恩,J.W。;Hilliard,J.E.,非均匀系统的自由能。I.界面自由能,J.Chem。物理。,28, 2, 258-267 (1958) ·Zbl 1431.35066号
[44] Miranville,A.,《Cahn-Hilliard方程及其变体》,AIMS数学。,2, 479-544 (2017) ·Zbl 1425.35086号
[45] Kim,J。;Lee,S。;Choi,Y。;李,S.-M。;Jeong,D.,Cahn-Hilliard方程的基本原理和实际应用,数学。问题。工程,2016(2016)·Zbl 1400.35157号
[46] 南卡罗来纳州Takatori。;Brady,J.F.,《朝向活性物质的热力学》,《物理学》。E版,91,第032117条pp.(2015)
[47] Speck,T。;比亚尔凯,J。;Menzel,A.M。;Löwen,H.,活性布朗粒子相分离的有效Cahn-Hilliard方程,Phys。修订稿。,112,第218304条pp.(2014)
[48] 南卡罗来纳州Takatori。;Yan,W。;Brady,J.F.,游泳压力:活性物质中的压力生成,Phys。修订稿。,113,第028103条pp.(2014)
[49] Hyman,A.A。;韦伯,C.A。;Jülicher,F.,生物学中的液-液相分离,阿努。细胞发育生物学评论。,30, 1, 39-58 (2014)
[50] 茨威克,D。;Hyman,A.A。;Jülicher,F.,活性乳剂中奥斯特瓦尔德成熟的抑制,物理学。E版,92,1,第012317条,pp.(2015)
[51] Brangwyne,C.P。;埃克曼,C.R。;库森,D.S。;Rybarska,A。;Hoege,C。;加拉哈尼,J。;Jülicher,F。;Hyman,A.A.,Germline p颗粒是通过受控溶解/冷凝定位的液滴,《科学》,324,5935,1729-1732(2009)
[52] Brangwyne,C.P。;汤帕,P。;Pappu,R.V.,《细胞内相变的聚合物物理》,《自然物理学》。,11, 11, 899-904 (2015)
[53] 霍斯特曼,B。;Danner,T。;Bessler,W.G.,《水锂氧电池中的沉淀:基于模型的分析》,《能源环境》。科学。,6, 4, 1299-1314 (2013)
[54] Erlebacher,J。;阿齐兹,M.J。;Karma,A。;Dimitrov,N。;Sieradzki,K.,脱合金过程中纳米孔隙度的演变,《自然》,410,6827,450-453(2001)
[55] 田伟。;毛,X。;布朗,P。;拉特利奇,G.C。;Hatton,T.A.,《电化学纳米结构聚乙烯二茂铁/聚吡咯杂化物与储能协同作用》,《高级功能》。材料。,25, 30, 4803-4813 (2015)
[56] Lee,D。;哈,J.-Y。;Jeong,D。;Shin,J。;Yun,A。;Kim,J.,《Cahn-Hilliard方程的物理、数学和数值推导》,计算。马特。科学。,81, 216-225 (2014)
[57] Rudy,S。;Alla,A。;Brunton,S.L。;Kutz,J.N.,参数偏微分方程的数据驱动识别(2018),arXiv:1806.00732
[58] 德维维迪,V。;帕拉沙尔,N。;Srinivasan,B.,解决偏微分方程正问题和逆问题的分布式学习机,神经计算,420,299-316(2021)
[59] Cheng,M。;Hou,T.Y。;Yan,M。;Zhang,Z.,具有随机系数的椭圆偏微分方程的数据驱动随机方法,SIAM/ASA J.不确定性。数量。,1452-493(2013年)·Zbl 1290.60068号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。