×

无网格深层神经网络方法与有限元方法求解非线性双曲/波动方程的比较研究。 (英文) Zbl 1513.65394号

摘要:本文研究了在高维空间(mathbb{R}^d)(d>1)中求解两类耦合非线性双曲/波偏微分方程(PDEs)的有限元方法(FEM)和无网格深层神经网络(DNN)方法,其中,要研究的第一个PDE系统是模拟浅水表面孤立波和波浪的耦合非线性Korteweg-De-Vries(KdV)方程,第二个PDE系是模拟孤立波和孤立波的耦合非线性Klein-Gordon(KG)方程。通过基于DNN近似解将每个PDE模型重新定义为最小二乘(LS)问题,然后使用(d+1)维时空采样点(训练)集优化LS问题,为两个耦合非线性PDE开发了一种全连接、前馈、多层、无网格的DNN方法。数学上,两个耦合非线性双曲问题在各自的偏微分方程理论上有显著差异;在数值上,它们通过完全连接的前馈DNN结构以统一的方式进行近似。作为对比,针对每个耦合非线性双曲方程组,分别采用空间上的Galerkin近似和时间上的有限差分格式,针对每个双曲偏微分方程组的不同特性,建立了一个独特而复杂的有限元模型。总的来说,与精细开发的、依赖于问题的有限元方法相比,所提出的无网格DNN方法可以对两个耦合非线性双曲型方程组进行统一开发,且不需要网格生成,但有限元方法可以生成与网格大小和时间步长有关的具体收敛顺序,甚至可以保留KG方程的总能量,而DNN方法就所采用的DNN结构的参数而言不能显示出明确的收敛模式,而只能显示出一种普遍的近似性质,即相对较小的误差,其大小几乎不会改变,更不用说KG方程的DNN近似能量耗散了。这两种方法都有各自的优缺点,通过比较所开发的有限元方法的收敛精度和基于不同类型的离散化参数在倍增过程中变化的双曲/波动方程的无网格DNN方法的逼近性能,在数值实验中也得到了验证,具体来说,比较从两种方法获得的KG方程的离散能量。

MSC公司:

65M60毫米 涉及偏微分方程初值和初边值问题的有限元、Rayleigh-Ritz和Galerkin方法
6500万06 含偏微分方程初值和初边值问题的有限差分方法
65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法
65K10码 数值优化和变分技术
65个M12 含偏微分方程初值和初边值问题数值方法的稳定性和收敛性
35L57型 高阶双曲方程组的初边值问题
35升75 高阶非线性双曲方程
35升70 二阶非线性双曲型方程
68问题32 计算学习理论
68T07型 人工神经网络与深度学习
76B25型 不可压缩无粘流体的孤立波
35C08型 孤子解决方案
第35季度53 KdV方程(Korteweg-de-Vries方程)
PDF格式BibTeX公司 XML格式引用
全文: 链接

参考文献:

[1] T Alagesan、Y Chung和K Nakkeeran。耦合非线性Klein-Gordon方程的孤子解。混沌,孤子与分形,21(4):879-8822004·Zbl 1046.35092号
[2] A.Aly、G.Guadagni和J.B.Dugan。使用局部搜索的神经网络的无导数优化。2019年,IEEE第十届普及计算年度电子移动通信会议(UEMCON),第0293-0299页,2019年。
[3] D.N.Arnold和R.Winther。Korteweg-de-Vries方程的超收敛有限元方法。计算数学,38(157):23-361982·Zbl 0487.76028号
[4] J.Bellazzini、V.Benci、C.Bonanno和A.M.Micheletti。非线性Klein-Gordon方程的孤子。高级非线性研究,10(2):481-4992010·Zbl 1200.35248号
[5] M.Boiti、JJ-P Leon、M.Manna和F.Pempinelli。关于二维Korteweg-de-Vries方程的谱变换。反问题,2(3):271-2791986·Zbl 0617.35119号
[6] P.Caudrey、J.Eilbeck和J.Gibbon。sine-Gordon方程作为经典场论的模型。Il Nuovo Cimento B(1971-1996),25(2):497-5121975。
[7] Jen-Tzung Chien先生。第四章——独立成分分析。《源代码分离和机器学习》编辑J.-T.Chien,第99-160页。学术出版社,2019年。
[8] R·科特和C·穆尼奥斯。非线性Klein-Gordon方程的多重解。数学论坛,西格玛,第2卷。剑桥大学出版社,2014年·Zbl 1301.35126号
[9] D.G.Crighton。KdV的应用,第39-67页。施普林格荷兰,1995年·Zbl 0842.58044号
[10] I.Daubechies、R.DeVore、S.Foucart、B.Hanin和G.Petrova。非线性近似和(深层)ReLU网络。arXiv:1905.02199【cs】,2019年·Zbl 1501.41003号
[11] D.邓和D.梁。二维非线性波动方程组的保能有限差分方法及其分析。应用数值数学,151:172-1982020·Zbl 1434.65111号
[12] D.Deng和Q.Wu。研究了求解二维非线性耦合波方程的线性修正保能有限差分方法。《数值算法》,88(4):1875-19142021·Zbl 1502.65058号
[13] T.P.Dinh、S.Wang和A.Yassine。使用基于信任区域的算法训练多层神经网络。RAIRO,24:523-5531990年·Zbl 0707.90097号
[14] M.Dissanayake和N.Phan Thien。用于求解偏微分方程的基于神经网络的近似。工程中的数值方法通信,10(3):195-2011994·Zbl 0802.65102号
[15] R.K.Dodd、H.C.Morris、J.C.Eilbeck和J.D.Gibbon。孤子和非线性波动方程。伦敦和纽约,1982年·Zbl 0496.35001号
[16] G.dos Reis、S.Engelhardt和G.Smith。具有超线性增长的McKean Vlasov SDE的模拟。arXiv:11808.05530[math.PR],2021年。
[17] 段长卿、焦玉良、赖玉良、陆克祥和杨振中。深Ritz方法的收敛速度分析。arXiv:2103.13330[math.NA],2021。
[18] R.M.达德利。平均Glivenko-Cantelli收敛速度。《数理统计年鉴》,1969年40:40-50·Zbl 0184.41401号
[19] R.Dutta、U.Koley和N.H.Risebro。Korteweg-De-Vries方程高阶格式的收敛性。SIAM数值分析杂志,53(4):1963-19832015·Zbl 1342.35301号
[20] W.E、J.Han和A.Jentzen。基于深度学习的高维抛物型偏微分方程和倒向随机微分方程数值方法。Com-mun公司。数学。《法律总汇》,2017年5月349-380日·Zbl 1382.65016号
[21] W.E和B.Yu。Deep Ritz方法:一种基于深度学习的数值算法,用于解决变分问题。数学与统计传播,2018年6月1日-12日·Zbl 1392.35306号
[22] F.E.-Streib、Z.Yang、H.Feng、S.Tripathi和M.Dehmer。大数据预测模型的深度学习简介。前面。Artif公司。智力。,2020年第4:1-23条。
[23] S.M.El Sayed。研究Klein-Gordon方程的分解方法。混沌,孤子与分形,18(5):1025-10302003·Zbl 1068.35069号
[24] P.G.Estévez和S.Leble。2+1中的波动方程:Painlevé分析和解决方案。反问题,11(4):925-9371995·Zbl 0834.35102号
[25] N.Fournier和A.Guillin。关于经验测度的Wasserstein距离的收敛速度。概率论及相关领域,162:707-7382015·Zbl 1325.60042号
[26] I.Goodfellow、Y.Bengio和A.Courville。深度学习。麻省理工学院出版社,2016年·Zbl 1373.68009号
[27] J.Han、A.Jentzen和W.E.使用深度学习求解高维偏微分方程。《美国国家科学院院刊》,第115卷,第8505-8510页,2018年·Zbl 1416.35137号
[28] M.He和P.Sun。一类非线性波动方程的保能有限元方法。应用数值数学,157:446-4692020·Zbl 1446.65112号
[29] Q.Hong、J.W.Siegel和Jinchao Xu。数值偏微分方程稳定神经网络解的先验分析。arXiv:2104.02903[math.NA],2021。
[30] P.Huang。Korteweg-de-Vries方程全离散有限元方法的收敛性。葡萄牙数学,77(1):31-432020·Zbl 1452.65234号
[31] V.Imaikin、A.Komech和P.A.Markowich。耦合到经典粒子的Klein-Gordon方程孤子的散射。数学物理杂志,44(3):1202-12172003·Zbl 1061.35070号
[32] A.D.Jagtap、E.Kharazmi和G.E.Karniadakis。基于保守物理的神经网络在守恒定律的离散域上工作:应用于正问题和逆问题。计算。应用方法。机械。工程,365:1130282020·Zbl 1442.92002号
[33] A.Karczewska、P.Rozmej、M.Szczecinn ski和B.Boguniewicz。扩展KdV方程的有限元方法。arXiv预印arXiv:1604.041052016·Zbl 1347.65153号
[34] D.Kaya和S.M.El Sayed。Klein-Gordon方程的数值解和分解方法的收敛性。应用数学与计算,156(2):341-3532004·Zbl 1084.65101号
[35] K.R.Khusnutdinova、Y.Stepanyants和M.R.Tranter。五阶Korteweg-de-Vries方程的孤子解及其在表面波和内波中的应用。物理学。《流体》,2018年30:022104。
[36] D.P.Kingma和J.Ba.Adam:一种随机优化方法。CoRR,abs/1412.69802015年。
[37] D.P.Kingma和J.Ba.Adam:一种随机优化方法。arXiv:1412.6980[cs.LG],2017年。
[38] 廖毅和P.Ming。Deep-Nitsche方法:具有基本边界条件的Deep-Ritz方法。Commun公司。计算。物理。,29:1365-1384, 2021. ·Zbl 1473.65309号
[39] S.卢。(2+1)维KdV方程的广义dromion解。《物理学杂志A:数学与概论》,28(24):72271995年·Zbl 0876.35103号
[40] Lou和X.B.Hu。KP方程的无限多松弛对和对称约束。数学物理杂志,38(12):6401-64271997·Zbl 0898.58029号
[41] J.Lu、Y.Lu和M.Wang。求解高维椭圆方程的深Ritz方法的先验推广分析。arXiv:2101.01708[math.NA],2021。
[42] J.C.卢克。经典非线性场模型中孤子与电磁场的相互作用。生物和物理系统的复杂性:分岔、孤子和分形,第113页,2018年。
[43] S.Mandt、M.D.Hoffman和D.M.Blei。随机梯度下降作为近似贝叶斯推理。机器学习研究杂志,18:1-352017·Zbl 1442.62055号
[44] X.Meng、Z.Li、D.Zhang和G.E.Karniadakis。PPINN:用于时间相关PDE的准真实物理信息神经网络。计算。应用方法。机械。工程,370:1132502020·Zbl 1506.65181号
[45] P.A.帕帕佐普洛斯。孤立波和非线性Klein-Gordon方程。新罕布什尔大学博士论文,1988年。
[46] 颜泽鹏。(2+1)维KdV方程的精确周期波和孤立波及其相互作用。《物理快报》A,351(1-2):41-472006·Zbl 1234.35229号
[47] A.平库斯。神经网络中MLP模型的近似理论。《数字学报》,8:143-1951999年·Zbl 0959.68109号
[48] M.Raissi、P.Perdikaris和G.E.Karniadakis。基于物理的神经网络:一种深度学习框架,用于解决涉及非线性偏微分方程的正问题和逆问题。《计算物理学杂志》,378:686-7072019·Zbl 1415.68175号
[49] M.Raissi、A.Yazdani和G.E.Karniadakis。隐藏流体力学:从流动可视化中学习速度和压力场。科学,367(6481):1026-103020·Zbl 1478.76057号
[50] V.Ranganathan和A.Lewandowski。ZORB:一种用于神经网络的无导数反向传播算法。arXiv:2011.08895[cs.LG],2020年。
[51] Y.-J.Ren。Korteweg-de-Vries方程(KdV),不同的分析方法用于求解。复杂性和动力系统数学。2012
[52] M.Rezapour和T.Asaki。无约束优化的神经信任区域算法。arXiv:2004.09058[math.OC],2020年。
[53] H.Robbins和S.Monro。一种随机近似方法。《数理统计年鉴》,1951年,22:400-407·Zbl 0054.05901号
[54] S.Ruder。梯度下降优化算法概述。arXiv:1609.04747[cs.LG],2017年。
[55] R.Sassaman、M.Edwards、F.Majid和A.Biswas。耦合非线性Klein-Gordon方程的1-孤子解。数学科学研究,1(1):30-372010。
[56] I.西格尔。量子场论中的非线性偏微分方程。程序中。症状。申请。数学。AMS,第17卷,第210-226页,1965年·Zbl 0152.23902号
[57] H.Sheng和C.Yang。PFNN:一种求解复杂几何上一类二阶边值问题的无惩罚神经网络方法。《计算物理学杂志》,428:1100852021·Zbl 07511439号
[58] J.W.Siegel和J.Xu。具有一般激活函数的神经网络的逼近率。神经网络,128:313-3212020·Zbl 1480.41007号
[59] J.Sirignano和K.Spiliopoulos。DGM:求解偏微分方程的深度学习算法。计算物理杂志,375:1339-13642018·Zbl 1416.65394号
[60] M.Song、B.S.Ahmed和A.Biswas。具有幂律非线性的维度Klein-Gordon-Zakharov方程的拓扑孤子解和分岔分析。《应用数学杂志》,2013年,2013年·Zbl 1266.35009号
[61] M.Song、Z.Liu、E.Zerrad和A.Biswas。二次非线性Klein-Gordon方程的奇异孤子和分岔分析。应用数学与信息科学,7(4):13332013·Zbl 1269.35006号
[62] M.Tajiri。关于非线性耦合Klein-Gordon方程的孤立子解。《日本物理学会杂志》,52(11):3722-37261983年。
[63] J.Weed和F.Bach。Wasserstein距离中经验测度的锐利渐近和有限样本收敛速度。伯努利,2019年,25:2620-2648·Zbl 1428.62099号
[64] J.Wu和X.Geng。耦合修正Korteweg-de-Vries方程的逆散射变换和孤子分类。Commun公司。非线性科学。数字。模拟。,53:83-93, 2017. ·Zbl 1510.35281号
[65] K.Xu和E.Darve。偏微分方程解算器和深度神经网络耦合系统的信赖域方法。arXiv:2105.07552[math.NA],2021年。
[66] 山田K.D。无导数神经网络,用于优化与成对文件对齐动态规划相关的评分函数。《分子生物学算法》,2018年13月5日。
[67] J.Yan和C.W.Shu。KdV型方程的局部间断galerkin方法。SIAM数值分析杂志,40(2):769-7912002·Zbl 1021.65050号
[68] Y.Zang、G.Bao、X.Ye和H.Zhou。高维偏微分方程的弱对抗网络。计算物理杂志,411:1094092020·Zbl 1436.65156号
[69] S.Zhang。广义辅助方程法及其在(2+1)维Korteweg-de-Vries方程中的应用。计算机与数学应用,54(7-8):1028-10382007·Zbl 1143.35363号
[70] D.X.周。深度分布卷积神经网络:普遍性。分析与应用,16:895-9192018·Zbl 1442.68214号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。