×

二阶线性椭圆型方程的深度学习Galerkin方法。 (英语) Zbl 1499.65673号

摘要:本文提出了一种基于深度神经网络学习算法的深度学习Galerkin方法(DGM)来逼近一般的二阶线性椭圆问题。该方法是Galerkin方法和机器学习的结合。DGM使用深度神经网络而不是基函数的线性组合。我们的算法是无网格的,我们通过随机采样空间点并使用梯度下降算法来训练神经网络,以满足微分算子和边界条件。此外,通过损失函数的收敛性和神经网络在一定条件下收敛到L^2范数下的精确解,证明了神经网络解对精确解的逼近能力。最后,一些数值实验直观地反映了神经网络的逼近能力。

MSC公司:

65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法
65N12号 偏微分方程边值问题数值方法的稳定性和收敛性
35J15型 二阶椭圆方程
PDF格式BibTeX公司 XML格式引用
全文: 链接

参考文献:

[1] I.Goodfellow、Y.Bengio和A.Courville,麻省理工学院深度学习出版社,2016年·Zbl 1373.68009号
[2] L.Yann、Y.Bengio和G.Hinton,《深度学习》,麻省理工学院出版社,2015,521(7553):436-444。
[3] A.Krizhevsky、I.Sutskever和G.Hinton,用深度卷积神经网络进行ImageNet分类,神经信息处理系统进展,2012,25(2):84-90。
[4] G.Hinton,L.Deng,D.Yu等,《语音识别中声学建模的深度神经网络:四个研究小组的共同观点》,IEEE信号处理杂志,2012,29(6):82-97。
[5] D.Silver,A.Huang,C.J.Maddison,et al.,Mastering the Game of Go with Deep Neural Networks and Tree Search,自然,2016,529(7587):484-489。
[6] J.Sirignano,K.Spiliopoulos,DGM:解偏微分方程的深度学习算法,计算物理杂志,2018,375:1339-1364·Zbl 1416.65394号
[7] M.Raissi、P.Perdikaris和G.E.Karniadakis,《以物理为基础的深度学习(第一部分):非线性偏微分方程的数据驱动解》,arXiv:1711.105612017年。
[8] M.Raissi、P.Perdikaris和G.E.Karniadakis,《以物理为基础的深度学习(第二部分):非线性偏微分方程的数据驱动发现》,arXiv:1711.105662017年。
[9] J.Berg,N.Kaj,《复杂几何中偏微分方程的统一深度人工神经网络方法》,神经计算,2017年。
[10] I.E.Lagaris、A.Likas和D.I.Fotiadis,用于求解常微分方程和偏微分方程的人工神经网络,IEEE神经网络汇刊,1998,9(5):987-1000。
[11] I.E.Lagaris、A.Likas和D.G.Papageorgiou,不规则边界边值问题的神经网络方法,IEEE神经网络汇刊,2000,11(5):1041-9。
[12] H.Lee,I.S.Kang,求解微分方程的神经算法,《计算物理杂志》,1990,91(1):110-131·Zbl 0717.65062号
[13] A.Malek,B.R.Shekari,使用混合神经网络优化方法求解高阶微分方程,Elsevier Science Inc.2006,183:260-271·Zbl 1105.65340号
[14] K.Rudd使用人工神经网络求解偏微分方程,杜克大学博士论文,2013年。
[15] J.Ling、A.Kurzawski和J.Templeton,《使用具有嵌入不变性的深度神经网络进行雷诺平均湍流建模》,《流体力学杂志》,2016,807:155-166·Zbl 1383.76175号
[16] J.Tompson,K.Schlachter,P.Sprechmann等,用卷积网络加速欧拉流体模拟,机器学习研究进展,2017,70:3424-3433。
[17] C.Pratik,O.Adam和O.Stanley等人,《深度松弛:优化深度神经网络的偏微分方程》,数学科学研究,2018,5(3):30-·Zbl 1427.82032年
[18] J.Han、J.Arnulf和W.E,《利用深度学习求解高维偏微分方程》,《国家科学院学报》,arXiv:1707205682017年。
[19] M.Porzio,一些非强制抛物方程解的存在性,离散和连续动力系统-系列A,1999,5(3):553-568·兹比尔0953.35073
[20] O.A.Ladyzhenskaya,V.A.Solonnikov和N.N.Uraltseva,抛物型线性和拟线性方程组,1968,23·Zbl 0174.15403号
[21] S.Asmussen,P.W.Glynn,《随机模拟:算法与分析,接口》,2007年,38(6):487-488·Zbl 1126.65001号
[22] D.P.Bertsekas,J.N.Tsitsiklis,带误差梯度方法中的梯度收敛,SIAM优化杂志,2000,10(3):627-642·Zbl 1049.90130号
[23] L.Boccardo,A.Dallaglio,et al.,带测量数据的非线性抛物方程,泛函分析杂志,1997,147(1):237-258·Zbl 0887.35082号
[24] P.Chandra,Y.Singh,前馈Sigmoid网络-等连续性和容错特性,IEEE出版社,2004,(15):1350-66。
[25] G.Cybenko,Sigmoid函数的叠加逼近,控制、信号和系统数学(MCSS),1989,2(4):303-314·Zbl 0679.94019号
[26] J.Dean、G.S.Corrado、R.Monga等人,《大规模分布式深度网络》,《神经信息处理系统进展》,2012年。
[27] W.E,J.Han和A.Jentzen,基于深度学习的高维抛物型偏微分方程和倒向随机微分方程数值方法,数学与统计通信,2017,5·Zbl 1382.65016号
[28] K.Hornik,多层前馈网络的近似能力,神经网络,1991,4(2):251-257。
[29] B.Piero、R.Alan和Elcrat。,二阶椭圆偏微分方程,Springer US,1997:213-267。
[30] M.Raissi,前向-后向随机神经网络:高维偏微分方程的深度学习,arXiv:1804.07010,2018。
[31] M.Raissi,《深层隐藏物理模型:非线性偏微分方程的深层学习》,《机器学习研究杂志》,arXiv:1801.066372018年·Zbl 1439.68021号
[32] M.Raissi,G.E.Karniadakis,《隐藏物理模型:非线性偏微分方程的机器学习》,《计算物理杂志》,arXiv:1708.005882017年。
[33] J.Darbon,S.Osher,控制理论和其他领域中出现的某些Hamilton-Jacobi方程克服维数诅咒的算法,数学科学研究,2016,3·Zbl 1348.49026号
[34] R.Fuentes,A.Poznyak,I.Chairez等人,《使用动态神经网络的偏微分方程数值建模》,人工神经网络国际会议。Springer-Verlag,2009,5769:552-562。
[35] A.Alharbi,求解偏微分方程的人工神经网络方法,2010,1281:1425-1428
[36] A.A.S.Almarashi,分数阶偏微分方程的神经网络近似解,数值分析进展,2012,2012:19-28·Zbl 1236.65110号
[37] 李建中、岳建中、张文胜、段文胜,《广义Stokes方程的深度学习Galerkin方法》,提交·Zbl 07590392号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。