×
白金帅;刘桂荣;阿什什·古普塔;Laith Alzubaidi;冯喜巧;顾远彤

物理信息径向基网络（PIRBN）：用于求解非线性偏微分方程的局部逼近神经网络。 （英语） Zbl 1532.74139号

计算。方法应用。机械。工程师。 415，文章ID 116290，41 p.（2023）.
摘要：我们最近的研究发现，物理信息神经网络（PINN）在训练后趋向于局部逼近。这一发现导致了一种新的基于物理信息的径向基网络（PIRBN）的开发，该网络能够在整个训练过程中保持局部逼近特性。与深层神经网络不同，PIRBN只包含一个隐藏层和一个径向基“激活”函数。在适当的条件下，我们证明了使用梯度下降方法训练PIRBN可以收敛到高斯过程。此外，我们利用神经切线核（NTK）理论研究了PIRBN的训练动力学。此外，还对PIRBN的初始化策略进行了全面调查。数值算例表明，PIRBN在求解具有高频特征和不适定计算域的非线性偏微分方程时比PINN更有效。此外，现有的PINN数值技术，如自适应学习、分解和不同类型的损失函数，都适用于PIRBNhttps://github.com/JinshuaiBai/PIRBN网址.

MSC公司：

74秒99 固体力学中的数值方法和其他方法
68T07型 人工神经网络与深度学习

关键词：

物理信息神经网络;基于物理的径向基网络;偏微分方程;神经切线核

软件：

DeePMD套件;Mfree二维;EINN公司;hp-车辆识别号;SPHinXsys公司;PIRBN公司;PIN码NTK码;LSWR_丢失功能_PINN
PDF格式BibTeX公司 XML格式引用
\textit{J.Bai}等人，计算。方法应用。机械。工程415，文章ID 116290，41 p.（2023；Zbl 1532.74139）
全文： 内政部 arXiv公司
OA许可证

参考文献：

[1] 贝克，C。；Hutzenthaler，M。；Jentzen，A。；Kuckuck，B.，基于深度学习的偏微分方程近似方法概述（2020），arXiv预印本arXiv：.12348
[2] 卡尼亚达基斯，G.E。；Kevrekidis，I.G。；卢，L。；佩迪卡里斯，P。；王，S。；Yang，L.，《基于物理的机器学习》，《国家物理评论》。，3, 422-440 (2021)
[3] Bai，J。；Alzubaidi，L。；王，Q。；科尔，E。；Bennamoun，M。；Gu，Y.，利用物理引导的深度学习来克服数据短缺（2022），arXiv预印本arXiv:2211.55664
[4] Samaniego，E。；Anitescu，C。；Goswami，S。；Nguyen-Thanh，V.M。；郭，H。；Hamdia，K。；庄，X。；Rabczuk，T.，通过机器学习解决计算力学中偏微分方程的能量方法：概念、实现和应用，计算。方法应用。机械。工程，362（2020）·Zbl 1439.74466号
[5] Nguyen-Thanh，V.M。；庄，X。；Rabczuk，T.，《有限变形超弹性的深能方法》，《欧洲力学杂志》。A Solids，80，第103874条pp.（2020）·Zbl 1472.74213号
[6] 李伟（Li，W.）。；Bazant，M.Z。；朱，J.，《弹性板的物理引导神经网络框架：基于控制方程和基于能量的方法的比较》，计算。方法应用。机械。工程，383，第113933条pp.（2021）·Zbl 1506.74183号
[7] Haghighat，E。；莱斯，M。；A.穆尔。；戈麦斯，H。；Juanes，R.，《固体力学反演和替代建模的基于物理的深度学习框架》，计算。方法应用。机械。工程师，379，第113741条，第（2021）页·Zbl 1506.74476号
[8] 庄，X。；郭，H。；阿拉伊兰，N。；朱，H。；Rabczuk，T.，《基尔霍夫板弯曲、振动和屈曲分析的基于深度自动编码器的能量法及传递学习》，Eur.J.Mech。A Solids，87，第104225条pp.（2021）·Zbl 1484.74033号
[9] Henkes，A。；Wessels，H。；Mahnken，R.，《连续体微观力学的物理学通知神经网络》，计算。方法应用。机械。工程，393，第114790条pp.（2022）·Zbl 1507.74478号
[10] Rezaei，S。；哈兰迪，A。；Moeineddin，A。；徐，B.-X。；Reese，S.，《物理信息神经网络作为异质领域工程问题的潜在解决方案的混合公式：与有限元方法的比较》，Comput。方法应用。机械。工程，401（2022）·Zbl 1507.74068号
[11] Bai，J。；周，Y。；马云（Ma，Y.）。；Jeong，H。；詹，H。；Rathnayaka，C。；Sauret，E。；Gu，Y.，水动力学建模的通用神经粒子方法，计算。方法应用。机械。工程，393，第114740条pp.（2022）·Zbl 1507.76153号
[12] Wessels，H。；魏恩费尔斯，C。；Wriggers，P.，《神经粒子方法》，一种更新的拉格朗日物理学，用于计算流体动力学的神经网络，Compute。方法应用。机械。工程师，368，第113127条，第（2020）页·Zbl 1506.76136号
[13] 莱斯，M。；亚兹达尼，A。；Karniadakis，G.E.，《隐藏流体力学：从流动可视化中学习速度和压力场》，《科学》，3671026-1030（2020）·Zbl 1478.76057号
[14] 蔡，S。；王，Z。；福斯特，F。；Jeon，Y.J。；格雷，C。；Karniadakis，G.E.，《浓缩咖啡杯上的流动：通过物理信息神经网络从断层背景纹影推断三维速度和压力场》，J.流体力学。，915，第A102条pp.（2021）·Zbl 1461.76417号
[15] 李，Z。；Bai，J。；欧阳，H。；Martelli，S。；唐，M。；魏，H。；刘，P。；Han，W.-R。；Gu，Y.，摩擦相关非光滑动力学问题的Physics-informated neutral network（2023），arXiv预印本arXiv:.02542
[16] Ghaderi，A。；莫罗瓦蒂，V。；陈，Y。；Dargazany，R.，《预测弹性体热氧化/水解老化的基于物理的多代理模型》，《国际力学杂志》。科学。，223 (2022)
[17] 吴杰。；Bai，L。；黄，J。；马，L。；刘杰。；Liu，S.，深度学习中二维铁电体的精确力场，物理学。版本B，104（2021）
[18] 李伟（Li，W.）。；张杰。；林贝克，F。；Jöst，D。；张，L。；魏，Z。；Sauer，D.U.，《锂离子电池电极级状态估计的物理信息神经网络》，《电源杂志》，第506期（2021年）
[19] 陈，Y。；卢，L。；Karniadakis，G.E。；Dal Negro，L.，《纳米光学和超材料反问题的物理信息神经网络》，Opt。Express，28111618-11633（2020）
[20] 张，L。；Han，J。；Wang，H。；R车。；W.E.，《深势分子动力学：具有量子力学准确性的可伸缩模型》，Phys。修订稿。，120，第143001条pp.（2018）
[21] Wang，H。；张，L。；Han，J。；W.E.，DeePMD-kit：多体势能表示和分子动力学的深度学习包，计算。物理学。通信，228178-184（2018）
[22] 田，J。；熊，R。；卢，J。；陈，C。；Shen，W.，动态使用中基于物理知识的深度学习的电池状态估计，储能材料。，50, 718-729 (2022)
[23] 尹，M。；郑，X。；汉弗莱，J.D。；Em Karniadakis，G.，利用物理信息神经网络对血栓材料特性进行无创推断，计算机。方法应用。机械。工程，375（2021）·Zbl 1506.74215号
[24] 基萨斯，G。；Yang，Y。；Hwuang，E。；威奇，W.R。；Detre，J.A。；Perdikaris，P.，《心血管血流建模中的机器学习：使用物理信息神经网络从无创4D流MRI数据预测动脉血压》，计算机。方法应用。机械。工程，358（2020）·Zbl 1441.76149号
[25] Linka，K。；Schäfer，A。；孟，X。；邹，Z。；Karniadakis，G.E。；Kuhl，E.，贝叶斯物理学为现实世界非线性动力系统的神经网络提供信息，计算。方法应用。机械。工程（2022）·Zbl 1507.68246号
[26] Rutkowski，D.R。；Roldan Alzate，A。；Johnson，K.M.，使用机器学习和计算流体动力学模拟数据增强脑血管4D流MRI速度场，科学。众议员，11，第10240条pp.（2021）
[27] Kharazmi，E。；蔡，M。；郑，X。；张，Z。；林·G。；Karniadakis，G.E.，使用物理信息神经网络的整数阶和分数阶流行病学模型的可识别性和可预测性，自然计算。科学。，1, 744-753 (2021)
[28] Kaandorp，M.P.T。；Barbieri，S。；克拉森，R。；范拉霍温，H.W.M。；克雷泽，H。；而P.T。；Nederveen，A.J。；Gurney-Champion，O.J.，《改进胰腺癌患者血管内非相干运动建模和评估的无监督物理知情深度学习》，Magn。Reson公司。医学，862250-2265（2021）
[29] 蔡，S。；李，H。；郑，F。；孔，F。；道，M。；Karniadakis，G.E。；Suresh，S.，《生理学和疾病中三维血流分析的人工智能测速和芯片上微动脉》，Proc。国家。阿卡德。科学。美国，118（2021）
[30] Buoso，S。；乔伊斯·T。；Kozerke，S.，《利用参数物理信息神经网络对心脏左心室生物物理模型进行个性化》，医学图像。分析。，71，第102066条pp.（2021）
[31] Lagergren，J.H。；Nardini，J.T。；贝克，R.E。；辛普森，M.J。；Flores，K.B.，《生物信息神经网络从稀疏的实验数据指导机械建模》，《公共科学图书馆·计算》。生物学，16，文章e1008462 pp.（2020）
[32] Sahli Costabal，F。；Yang，Y。；佩迪卡里斯，P。；Hurtado，D.E。；Kuhl，E.，心脏激活映射的物理信息神经网络，Front。物理。，8 (2020)
[33] 罗德里格斯，A。；崔，J。；北卡罗来纳州罗摩克里希南。；阿迪卡里，B。；Prakash，B.A.，EINNs:流行病学信息神经网络（2022），arXiv预印本arXiv：.10446
[34] Bhouri，医学硕士。；科斯塔巴尔，F.S。；Wang，H。；Linka，K。；佩林克，M。；科尔，E。；Perdikaris，P.，《美国的新型冠状病毒动力学：人类流动性和社会行为的深度学习研究》，计算机。方法应用。机械。工程，382（2021）·Zbl 1506.92084号
[35] 王，S。；滕，Y。；Perdikaris，P.，《理解和缓解物理信息神经网络中的梯度病理学》（2020年），arXiv预印本arXiv：.04536
[36] Jeong，H。；Bai，J。；Batuwatta-Gamage，C.P。；Rathnayaka，C。；周，Y。；Gu，Y.，一种基于物理信息的神经网络拓扑优化（PINNTO）框架，用于结构优化，工程结构。，278 (2023)
[37] Kharazmi，E。；张，Z。；Karniadakis，G.E.M.，hp-VPINNs:具有区域分解的变分物理信息神经网络，计算。方法应用。机械。工程师，374，第113547条，第（2021）页·Zbl 1506.68105号
[38] Haghighat，E。；贝克尔，A.C。；Madenci，E。；Juanes，R.，使用周动力学微分算子的非局部物理信息深度学习框架，计算。方法应用。机械。工程，385，第114012条pp.（2021）·Zbl 1502.65172号
[39] Yu，J。；卢，L。；孟，X。；Karniadakis，G.E.，用于正向和反向PDE问题的梯度增强物理信息神经网络，计算。方法应用。机械。工程，393（2022）·Zbl 1507.65217号
[40] Fuhg，J.N。；Bouklas，N.，《求解有限应变超弹性集中特征的混合深层能量法》，J.Compute。物理。，451，第110839条pp.（2021）·Zbl 07517152号
[41] Bai，J。；Rabczuk，T。；古普塔，A。；阿尔祖拜迪。；Gu，Y.，基于修正损失函数的物理信息神经网络技术，用于计算2D和3D固体力学，计算。机械。，71, 543-562 (2022) ·Zbl 1521.74404号
[42] 雅格塔普，A.D。；哈拉兹米，E。；Karniadakis，G.E.，守恒定律离散域上的守恒物理信息神经网络：正问题和逆问题的应用，计算。方法应用。机械。工程，365，第113028条pp.（2020）·Zbl 1442.92002号
[43] Dong，S。；Li，Z.，解线性和非线性偏微分方程的局部极值学习机和区域分解，计算。方法应用。机械。工程，387，第114129条pp.（2021）·Zbl 1507.65174号
[44] Shukla，K。；雅格塔普，A.D。；Karniadakis，G.E.，通过区域分解的并行物理信息神经网络，J.Compute。物理。，447，第110683条pp.（2021）·Zbl 07516435号
[45] Nguyen-Thanh，V.M。；Anitescu，C。；阿拉伊兰，N。；Rabczuk，T。；庄，X.，考虑应变梯度效应的弹性力学参数深层能量方法，计算。方法应用。机械。工程，386，第114096条pp.（2021）·Zbl 1507.74571号
[46] Ramabathiran，A.A。；Ramachandran，P.，SPINN:PDE的稀疏、基于物理和部分可解释的神经网络，J.Compute。物理。，445，第110600条pp.（2021）·Zbl 07515856号
[47] Jacot，A。；加布里埃尔，F。；Hongler，C.，《神经切线核：神经网络中的收敛和泛化》，Proc。高级神经信息处理。系统。(2018)
[48] 陈，Y。；侯赛尼，B。；奥哈迪，H。；Stuart，A.M.，用高斯过程求解和学习非线性偏微分方程，J.Compute。物理。，447，第110668条pp.（2021）·Zbl 07516428号
[49] 杜，S.S。；翟，X。；波佐斯，B。；Singh，A.，梯度下降可证明优化了过参数化神经网络（2018），arXiv预印本arXiv:.02054
[50] 杜，S.S。；Lee，J。；李，H。；Wang，L。；翟，X.，梯度下降发现深度神经网络的全局极小值，（第36届机器学习国际会议论文集（2019），机器学习研究论文集，1675-1685）
[51] 王，S。；Yu，X。；Perdikaris，P.，《PINN何时以及为何无法训练：神经切线内核视角》，J.Compute。物理。，449，第110768条pp.（2021）·Zbl 07524768号
[52] 王，S。；Wang，H。；Perdikaris，P.，《关于傅里叶特征网络的特征向量偏差：从回归到用物理信息神经网络求解多尺度偏微分方程》，计算。方法应用。机械。工程，384，第113938条pp.（2021）·兹比尔1506.35130
[53] 王，S。；Perdikaris，P.，参数演化方程与基于物理的DeepONets的长期积分，J.Compute。物理学。(2022)
[54] 李毅。；郭，S。；Gan，Z.，用于政策学习的基于经验先验的概率推理神经网络，Inform。科学。，615, 678-699 (2022)
[55] 徐，C。；曹，B.T。；袁，Y。；Meschke，G.，基于迁移学习的物理知情神经网络，用于解决不同荷载情况下工程结构中的逆问题，Comput。方法应用。机械。工程，405（2023）·Zbl 07653053号
[56] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号
[57] 林，Z。；塞卡尔，V。；Fanti，G.，《为什么光谱归一化可以稳定组织：分析和改进》，《高级神经信息处理》。系统。，34, 9625-9638 (2021)
[58] Y.本吉奥。；古德费罗，I。；Courville，A.，《深度学习》（2017），麻省理工学院出版社：麻省理学学院出版社，美国马萨诸塞州
[59] D.S.Broomhead，D.Lowe，《径向基函数、多变量函数插值和自适应网络》，收录于：英国马尔文皇家信号和雷达研究所，1988年·Zbl 0657.68085号
[60] 刘，G.-R。；Gu，Y.，《无网格方法及其编程导论》（2005），施普林格科学与商业媒体
[61] Bordelon，B。；加那塔，A。；Pehlevan，C.，核回归和宽神经网络中的谱依赖学习曲线，（机器学习国际会议（2020），PMLR），1024-1034
[62] Anitescu，C。；阿托什琴科，E。；阿拉伊兰，N。；Rabczuk，T.，解二阶边值问题的人工神经网络方法，计算。马特。容器。，59 (2019)
[63] 吴，C。；朱，M。；Tan，Q。；Kartha，Y。；Lu，L.，《物理信息神经网络的非自适应和基于残差的自适应采样的综合研究》，计算。方法应用。机械。工程，403，第115671条pp.（2023）·Zbl 07644158号
[64] 张，C。；Rezavand，M。；Zhu，Y。；Yu，Y。；Wu，D。；张伟。；Wang，J。；Hu，X.J.C.P.C.，SPHinXsys：基于平滑粒子流体动力学的开放源多物理和多分辨率库，第267卷，108066（2021）·Zbl 07695811号
[65] Batuwatta-Gamage，C.P。；Rathnayaka，C.M。；H.C.P.卡鲁塞纳。；华盛顿特区威杰拉恩。；Jeong，H。；威尔士，Z.G。；卡里姆，医学硕士。；Gu，Y.T.，一个基于物理学的神经网络替代框架，用于预测干燥过程中植物细胞的水分浓度和收缩，食品工程杂志，332（2022）
[66] Alves，医学硕士。；Oliveira，P.J。；Pinho，F.T.，粘弹性流体流动的数值方法，年。流体力学版次。，53, 509-541 (2021) ·Zbl 1459.76084号
[67] Goswami，S。；Anitescu，C。；Chakraborty，S。；Rabczuk，T.，传输学习增强的物理信息神经网络，用于断裂的相场建模，Theor。申请。分形。机械。，第106条，第102447页（2020年）
[68] 刘，X。；刘，G。；Tai，K.，使用迎风偏置局部支持方案求解对流主导方程的径向点插值配置法（RPICM），（计算方法（2006），Springer），1541-1546
[69] 刘，X。；刘，G。；Tai，K。；Lam，K.，偏微分方程的径向点插值配置法（RPICM），计算。数学。申请。，50, 1425-1442 (2005) ·Zbl 1083.65108号
[70] 刘，X。；刘，G。；Tai，K。；Lam，K.，解非线性泊松问题的径向点插值配点法（RPICM），计算。机械。，36, 298-306 (2005) ·Zbl 1099.65119号
[71] Liu，G.-R.，《无网格方法：超越有限元方法》（2003），CRC出版社·Zbl 1031.74001号
[72] Liu，G.-R.，《用Python进行机器学习：理论与应用》（2022年），《世界科学》
[73] Wang，J。；Liu，G.，关于用于二维无网格方法的径向基函数的最佳形状参数，计算。方法应用。机械。工程师，1912611-2630（2002）·Zbl 1065.74074号
[74] 薛S.C。；Tanner，R.I。；Phan Thien，N.，瞬态粘弹性流动的数值模拟，J.Non-Newton。流体力学。，123, 33-58 (2004) ·Zbl 1125.76316号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。