黄，姚;郝文瑞;林广 HomPINNs：基于同伦物理的神经网络，用于学习非线性椭圆微分方程的多个解。 （英语） Zbl 1524.65937号 计算。数学。申请。 121, 62-73 (2022). 摘要：基于物理信息神经网络（PINNs）的机器学习是一种新兴的非线性微分方程求解框架。然而，由于神经网络结构的隐含规律性，PINN在大多数情况下只能通过最小化损失函数来找到最平坦的解。本文将PINNs与计算多项式系统孤立根的经典数值方法同伦延拓法相结合，提出了一种新的深度学习框架，称为同伦物理信息神经网络（HomPINNs），用于求解非线性椭圆微分方程的多个解。HomPINN的实现是一个同伦过程，由一个称为起始神经网络的全连接神经网络的训练和几个具有不同跟踪参数的PINN训练过程组成。起始神经网络是近似由平凡解构造的起始函数，而其他PINN是最小化由边界条件和同伦函数定义的损失函数，随跟踪参数的不同而变化。这些训练过程被重新划分为同伦过程的不同步骤，PINN由前一步训练有素的神经网络初始化，而第一个启动神经网络则使用默认的初始化方法初始化。给出了几个数值例子来证明我们提出的HomPINNs的有效性，包括具有心形区域的反应扩散方程。 引用于2文件 MSC公司： 65N99型 偏微分方程边值问题的数值方法 68T07型 人工神经网络与深度学习 35K57型 反应扩散方程 关键词：机器学习;基于物理的神经网络;非线性椭圆微分方程;多种解决方案;同伦方法;数据驱动计算 软件：XPIN编号;数字代数几何;亚当;DGM公司;TensorFlow公司;PyTorch公司;贝尔蒂尼;DeepONet（深度网络）;DiffSharp（差异锐化）;FPIN编号 PDF格式BibTeX公司 XML格式引用 \textit{Y.Huang}等人，计算。数学。申请。121、62-73（2022年；Zbl 1524.65937） 全文： 内政部 参考文献： [1] 克里斯蒂尼，V。；李，X。；Lowengrub，J.S。；Wise，S.M.，《使用混合模型对实体肿瘤生长的非线性模拟：侵袭和分支》，J.Math。《生物学》，58723-763（2009）·Zbl 1311.92039号 [2] 郝，W。；Hauenstein，J.D。；胡，B。；Sommese，A.J.，三维稳态肿瘤系统，应用。数学。计算。，218, 2661-2669 (2011) ·Zbl 1238.92019年9月 [3] Puu，T.，非线性经济动力学，（非线性经济动力学（1991），Springer），1-7 [4] Petrov，L.F.，经济动态模型中的非线性效应，非线性分析。，理论方法应用。，71，e2366-e2371（2009）·Zbl 1239.91093号 [5] 郝伟（Hao，W.）。；内波梅奇，R.I。；Sommese，A.J.，Bethe方程解的完备性，Phys。E版，88，第052113条pp.（2013） [6] Parand，K。；沙希尼，M。；Dehghan，M.，求解Lane-Emden型非线性微分方程的有理Legendre伪谱方法，J.Compute。物理。，228, 8830-8840 (2009) ·Zbl 1177.65100号 [7] 格雷，P。；Scott，S.，《等温连续搅拌槽式反应器中的自催化反应：isolas和其他形式的多稳态》，《化学》。工程科学。，38, 29-43 (1983) [8] 格雷，P。；Scott，S.，等温连续搅拌槽式反应器中的自催化反应：系统a+2b→3b中的振荡和不稳定性；b→c，化学。工程科学。，39, 1087-1097 (1984) [9] 格雷，P。；Scott，S.，《等温反应中的持续振荡和其他奇异行为模式》，J.Phys。化学。，89, 22-32 (1985) [10] Hou，T.Y。；Lowengrub，J.S。；Shelley，M.J.，《多元流体和多相材料的边界积分方法》，J.Compute。物理。，169, 302-362 (2001) ·Zbl 1046.76029号 [11] Pearson，J.E.，《简单系统中的复杂模式》，《科学》，261199-192（1993） [12] 美国弗里希。；马塔雷斯，S。；Mohayaee，R。；Sobolevski，A.，通过最佳质量运输重建宇宙初始条件，《自然》，417260-262（2002） [13] 洛杉矶卡法雷利。；Milman，M.，Monge-Ampere方程：几何和优化的应用：几何和最优化的应用：关于Monge-Ampère方程的NSF-CBMS会议，几何和优化应用，1997年7月9日至13日，佛罗里达大西洋大学，（第226卷（1999），美国数学学会。）·Zbl 0903.00039号 [14] Tadmor，E.，非线性偏微分方程数值方法综述，Bull。美国数学。Soc.，49007-554（2012年）·Zbl 1258.65073号 [15] X·冯。；格洛温斯基，R。；Neilan，M.，完全非线性二阶偏微分方程数值方法的最新发展，SIAM Rev.，55，205-267（2013）·Zbl 1270.65062号 [16] Lo，W。；陈，L。；王，M。；Nie，Q.，《反应扩散系统稳态模式的稳健有效方法》，J.Compute。物理。，231, 5062-5077 (2012) ·Zbl 1250.35017号 [17] Chang，K.C.，不可微泛函的变分方法及其在偏微分方程中的应用，J.Math。分析。申请。，80, 102-129 (1981) ·Zbl 0487.49027号 [18] Rabinowitz，P.，《临界点理论中的极小极大方法及其在微分方程中的应用》，第65卷（1986年），美国数学学会·Zbl 0609.58002号 [19] 周，J.，《解决多解问题：重温计算方法和理论》，Commun。申请。数学。计算。，31, 1-31 (2017) ·Zbl 1389.35014号 [20] 李，Z。；王，Z。；周，J.，一种新的增广奇异变换及其求更多解的部分牛顿校正方法，J.Sci。计算。，71, 634-659 (2017) ·Zbl 1384.65075号 [21] 林，L。；Cheng，X。；E.渭南。；Shi，A。；Zhang，P.，研究有序相成核的数值方法，J.Compute。物理。，229, 1797-1809 (2010) ·Zbl 1329.82041号 [22] Allgower，E。；Georg，K.，《数值延拓方法导论》，第45卷（2003），SIAM·Zbl 1036.65047号 [23] 蔡，X。；格罗普，W。；凯斯，D。；梅尔文，R。；Young，D.，跨音速全势方程的并行Newton-Krylov-Schwarz算法，SIAM J.Sci。计算。，19, 246-265 (1998) ·Zbl 0917.76035号 [24] 蔡，X。；Keyes，D.，非线性预条件不精确牛顿算法，SIAM J.Sci。计算。，24, 183-200 (2002) ·Zbl 1015.65058号 [25] Wilkinson，J.，《代数过程中的舍入误差》（1994），Courier Corporation·Zbl 0868.65027号 [26] 罗宾逊，M。；罗，C。；法雷尔，P。；Erban，R。；Majumdar，A.，《从分子到双稳态液晶器件的连续建模》，Liq.Cryst。，44, 2267-2284 (2017) [27] 法雷尔，P。；Birkisson，A。；Funke，S.，《寻找非线性偏微分方程不同解的通缩技术》，SIAM J.Sci。计算。，37，A2026-A2045（2015）·Zbl 1327.65237号 [28] Sommese，A.J。；Wampler，C.W.，《工程与科学中多项式系统的数值解》（2005），《世界科学》·Zbl 1091.65049号 [29] Wampler，C.W。；Sommese，A.J.，《数值代数几何和代数运动学》，《数值学报》。，20, 469-567 (2011) ·Zbl 1254.13031号 [30] 郝伟（Hao，W.）。；胡，B。；Sommese，A.J.，数值代数几何和微分方程，（形状、几何和代数的未来愿景和趋势（2014），施普林格出版社），39-53 [31] Wang，Y。；郝伟（Hao，W.）。；Lin，G.，具有多个解的非线性椭圆方程的两级谱方法，SIAM J.Sci。计算。，40，B1180-B1205（2018）·Zbl 1398.65107号 [32] 郝伟（Hao，W.）。；赫塞文，J。；林·G。；Zheng，B.，计算微分方程多解的自适应基选择同伦方法，J.Sci。计算。，82, 1-17 (2020) ·Zbl 07161476号 [33] 郝伟（Hao，W.）。；Hauenstein，J.D。；胡，B。；Sommese，A.J.，《计算微分方程多解的自举方法》，J.Compute。申请。数学。，258, 181-190 (2014) ·Zbl 1294.65085号 [34] A.欧文斯。；Filkin，D.，通过求解刚性常微分方程组对反向传播网络进行有效训练，（IEEE/INNS国际神经网络联合会议论文集（1989）），381-386 [35] Dissanayake，M。；Phan-Thien，N.，解偏微分方程的基于神经网络的近似，Commun。数字。方法工程，10195-201（1994）·兹比尔0802.65102 [36] 拉加里斯，I.E。；利卡斯，A。；Fotiadis，D.I.，求解常微分方程和偏微分方程的人工神经网络，IEEE Trans。神经网络。，9, 987-1000 (1998) [37] 霍尼克，K。；Stinchcombe，M。；White，H.，多层前馈网络是通用逼近器，神经网络。，2, 359-366 (1989) ·Zbl 1383.92015年 [38] Chen，T。；Chen，H.，具有任意激活函数的神经网络对非线性算子的通用逼近及其在动力系统中的应用，IEEE Trans。神经网络。，6, 911-917 (1995) [39] 西格尔，J.W。；Xu，J.，具有一般激活函数的神经网络的逼近率，神经网络。，128, 313-321 (2020) ·Zbl 1480.41007号 [40] 卢，L。；Jin，P。；庞，G。；张，Z。；Karniadakis，G.E.，基于算子的普遍逼近定理，通过deeponet学习非线性算子，Nat.Mach。智力。，3, 218-229 (2021) [41] 莱斯，M。；佩尔迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号 [42] 庞，G。；卢，L。；Karniadakis，G.E.，《fPINNs:分数物理信息神经网络》，SIAM J.Sci。计算。，41，A2603-A2626（2019）·Zbl 1420.35459号 [43] 张，D。；郭，L。；Karniadakis，G.E.，《模态空间中的学习：使用物理信息神经网络求解依赖时间的随机偏微分方程》，SIAM J.Sci。计算。，42，A639-A665（2020）·Zbl 1440.60067号 [44] 毛，Z。；Jagtap，医学博士。；Karniadakis，G.E.，《高速流动的物理信息神经网络》，计算。方法应用。机械。工程，360，第112789条pp.（2020）·Zbl 1442.76092号 [45] 卢，Q。；X孟。；Karniadakis，G.E.，通过Boltzmann-BGK公式解决正向和反向流动问题的基于物理的神经网络，J.Compute。物理。，第110676条pp.（2021）·Zbl 07516434号 [46] Shukla，K。；Jagtap，医学博士。；Blackshire，J.L。；斯帕克曼，D。；Karniadakis，G.E.，《利用超声波数据量化多晶镍微观结构特性的基于物理信息的神经网络：解决逆问题的有希望的方法》，IEEE信号处理。Mag.，39，68-77（2021年） [47] Jagtap，医学博士。；Shin，Y。；川口，K。；Karniadakis，G.E.，Deep Kronecker神经网络：具有自适应激活函数的神经网络的一般框架，神经计算，468165-180（2022） [48] Shukla，K。；Jagtap，医学博士。；Karniadakis，G.E.，通过区域分解的并行物理信息神经网络，J.Compute。物理。，447，第110683条pp.（2021）·Zbl 07516435号 [49] Jagtap，医学博士。；Karniadakis，G.E.，《扩展物理信息神经网络（XPINNs）：基于广义时空域分解的非线性偏微分方程深度学习框架》，Commun。计算。物理。，28, 2002-2041 (2020) ·Zbl 07419158号 [50] Jagtap，医学博士。；哈拉兹米，E。；Karniadakis，G.E.，守恒定律离散域上的守恒物理信息神经网络：正问题和逆问题的应用，计算。方法应用。机械。工程，365，第113028条pp.（2020）·Zbl 1442.92002号 [51] Jagtap，医学博士。；毛，Z。；N.亚当斯。；Karniadakis，G.E.，超音速流动反问题的物理信息神经网络（2022），arXiv预印本·Zbl 07561079号 [52] 德莱克，T。；Jagtap，医学博士。；Mishra，S.，近似Navier-Stokes方程的物理信息神经网络的误差估计（2022），arXiv预印本 [53] 西里尼亚诺，J。；Spiliopoulos，K.，DGM：求解偏微分方程的深度学习算法，J.Comput。物理。，375, 1339-1364 (2018) ·Zbl 1416.65394号 [54] E.渭南。；Yu，B.，The deep Ritz method：一种基于深度学习的数值算法，用于求解变分问题，Commun。数学。统计，1,1-12（2018）·Zbl 1392.35306号 [55] Baydin，A.G。；Pearlmutter，B.A。；Radul，A.A。；Siskind，J.M.，《机器学习中的自动差异化：一项调查》，J.Mach。学习。第18号决议（2018年）·Zbl 06982909号 [56] Paszke，A。；毛重，S。；钦塔拉，S。；Chanan，G。；杨，E。；德维托，Z。；林，Z。；Desmaison，A。；安提瓜，L。；Lerer，A.，《Pytorch中的自动区分》（2017） [57] M.阿巴迪。；巴勒姆，P。；陈，J。；陈，Z。；A.戴维斯。；迪安·J。；德文，M。；Ghemawat，S。；欧文，G。；Isard，M.，Tensorflow:大规模机器学习系统，（第十二届{USENIX}操作系统设计与实现研讨会（{OSDI}16）（2016）），265-283 [58] 福赛思，G。；Wasow，W.，《偏微分方程的有限差分方法》（1960），John Wiley and Sons·Zbl 0099.11103号 [59] Ciarlet，P.，椭圆问题的有限元方法（2002），SIAM·Zbl 0999.65129号 [60] 沈杰。；Tang，T。；Wang，L.，《谱方法：算法、分析和应用》，第41卷（2011年），Springer Science&Business Media·Zbl 1227.65117号 [61] Sommese，A。；Wampler，C.，《工程与科学中多项式系统的数值解》，第99卷（2005），《世界科学》·Zbl 1091.65049号 [62] 郝伟（Hao，W.）。；胡，B。；Sommese，A.，《数值代数几何和微分方程》，（形状、几何和代数的未来愿景和趋势（2014），Springer），39-53 [63] 贝茨，D。；豪恩斯坦，J。；索姆斯，A。；Wampler，C.，用Bertini数值求解多项式系统，第25卷（2013），SIAM·Zbl 1295.65057号 [64] Leykin，A.，《数值代数几何》，J.Softw。代数几何。，3, 5-10 (2011) ·Zbl 1311.14057号 [65] 摩根。；Sommese，A。；Wampler，C.，Bezout数的乘积分解，SIAM J.Numer。分析。，32, 1308-1325 (1995) ·Zbl 0854.65038号 [66] Babolian，E。；马萨诸里州。；Hatamzadeh-Varmazyar，S.，用三角函数直接法数值求解非线性Volterra-Fredholm积分-微分方程，计算。数学。申请。，58, 239-247 (2009) ·Zbl 1189.65306号 [67] He，K。；张，X。；任，S。；Sun，J.，深入研究整流器：在ImageNet分类方面超越人类水平的性能，（2015 IEEE国际计算机视觉会议（ICCV）（2015）），1026-1034 [68] Kingma，D.P。；Ba Adam，J.，《随机优化方法》（2014），arXiv预印本 [69] 顾毅。；王，C。；Yang，H.，结构探测神经网络通货紧缩，计算机J。物理。，434，第110231条pp.（2021）·Zbl 07508532号 [70] 陈，C。；Xie，Z.，非线性微分方程多解的结构，科学。中国Ser。A、 数学。，47, 172-180 (2004) ·邮编1090.35075 [71] 郝伟（Hao，W.）。；Zheng，C.，计算非线性参数系统分岔的自适应同伦方法，J.Sci。计算。，82, 1-19 (2020) ·Zbl 1437.37111号 [72] 李，Z.-X。；杨振华。；朱，H.-L.，单位圆盘上Henon方程边值问题多重正解的分岔方法，计算。数学。申请。，62, 3775-3784 (2011) ·Zbl 1236.65137号 [73] 郝伟（Hao，W.）。；薛，C.，《反应扩散模型中的空间模式形成：计算方法》，J.Math。生物，80，521-543（2020）·Zbl 1432.92009年 [74] Jagtap，医学博士。；川口，K。；Karniadakis，G.E.，《自适应激活函数加速深度和物理信息神经网络的收敛》，J.Compute。物理。，404，第109136条pp.（2020）·Zbl 1453.68165号 [75] Jagtap，医学博士。；川口，K。；Em Karniadakis，G.，深度和物理信息神经网络的斜率恢复局部自适应激活函数，Proc。R.Soc.A，476，第20200334条pp.（2020）·Zbl 1472.68175号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。