×

用Petrov-Galerkin方法求解线性和非线性偏微分方程的随机神经网络。 (英语) Zbl 1525.65128号

摘要:我们提出了一种基于随机神经网络和Petrov-Galerkin方法的求解偏微分方程(PDE)的新方法,我们称之为RNN-PG方法。该方法使用随机神经网络近似未知函数,并允许灵活选择测试函数,如有限元基函数、勒让德多项式或切比雪夫多项式或神经网络。我们将RNN-PG方法应用于各种问题,包括具有原始公式或混合公式的泊松问题,以及具有时空方法的时间相关问题。本文改编自最初发布于arXiv.com网站作者[Deep Petrov-Galerkin方法解偏微分方程],Preprint,arXiv:2201.12995]. 新的成分包括非线性偏微分方程,如Burger方程和高维热方程的数值例子。数值实验表明,RNN-PG方法可以在较小的自由度下获得较高的精度。此外,RNN-PG具有无网格、易于处理不同边界条件、高效解决时间相关问题和快速解决高维问题等优点。这些结果证明了RNN-PG方法在偏微分方程数值方法领域的巨大潜力。

MSC公司:

65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法
68T07型 人工神经网络与深度学习
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] E、 W。;Han,J。;Jentzen,A.,基于深度学习的高维抛物型偏微分方程和倒向随机微分方程数值方法。公共数学统计,349-380(2017)·Zbl 1382.65016号
[2] 伯格,J。;Nyström,K.,复杂几何中偏微分方程的统一深度人工神经网络方法。神经计算,28-41(2018)
[3] Han,J。;Jentzen,A。;E、 W.,使用深度学习求解高维偏微分方程。《国家科学院院刊》,8505-8510(2018)·Zbl 1416.35137号
[4] He,J。;李,L。;徐,J。;Zheng,C.,Relu深度神经网络和线性有限元。计算数学杂志,502-527(2020)·Zbl 1463.68072号
[5] E、 W。;Yu,B.,Deep Ritz方法:一种基于深度学习的数值算法,用于求解变分问题。公共数学统计,1-12(2018)·Zbl 1392.35306号
[6] 莱斯,M。;佩尔迪卡里斯,P。;Karniadakis,G.E.,《基于物理的神经网络:用于解决涉及非线性偏微分方程的正向和反向问题的深度学习框架》。《计算物理杂志》,686-707(2019)·Zbl 1415.68175号
[7] 陈,J。;杜,R。;李,P。;Lyu,L.,机器学习偏微分方程的准蒙特卡罗抽样(2019),arXiv预印arXiv:1911.01612
[8] 范,Y。;Bohorquez,首席执行官。;Ying,L.,BCR-Net:基于非标准小波形式的神经网络。计算物理杂志,1-15(2019)·Zbl 1451.65244号
[9] Khoo,Y。;卢,J。;Ying,L.,使用人工神经网络求解高维提交函数。研究数学科学,1-13(2019)·Zbl 1498.60222号
[10] Long,Z。;Lu,Y。;Dong,B.,PDE-Net 2.0:使用数字符号混合深度网络从数据中学习PDE。计算物理杂志(2019)·Zbl 1454.65131号
[11] 刘,Z。;蔡伟(Cai,W.)。;Xu,Z.Q.J.,多尺度深度神经网络(MscaleDNN),用于求解复杂域中的泊松-玻尔兹曼方程。公共计算物理,1970年至2001年(2020年)·Zbl 1473.65348号
[12] 庞,G。;卢,L。;Karniadakis,G.E.,fPINNs:分数物理信息神经网络。SIAM科学计算杂志,A2603-A2626(2019)·Zbl 1420.35459号
[13] Jagtap,医学博士。;哈拉兹米,E。;Karniadakis,G.E.,《守恒定律离散域上的守恒物理信息神经网络:正问题和反问题的应用》。应用机械工程的计算方法(2020年)·Zbl 1442.92002号
[14] 庞,G。;D'Elia,M。;帕克斯,M。;Karniadakis,G.E.,nPINNs:参数化非局部通用拉普拉斯算子的非局部物理信息神经网络。算法应用(2020)·Zbl 07508384号
[15] 张,D。;郭,L。;Karniadakis,G.E.,《模态空间中的学习:使用物理信息神经网络求解时间相关的随机偏微分方程》。SIAM科学计算杂志,639-665(2020)·Zbl 1440.60067号
[16] 西里尼亚诺,J。;Spiliopoulos,K.,DGM:求解偏微分方程的深度学习算法。《计算物理杂志》,1339-1364(2018)·Zbl 1416.65394号
[17] 柳,L。;张,Z。;陈,M。;Chen,J.,MIM:一种求解高阶偏微分方程的深度混合残差方法。计算机物理杂志(2022)·Zbl 07517751号
[18] 蔡,Z。;陈,J。;Liu,M.,线性对流反应方程的最小二乘ReLU神经网络(LSNN)方法。计算机物理杂志(2021)·Zbl 07515414号
[19] 蔡,Z。;陈,J。;刘,M。;Liu,X.,深度最小二乘法:求解椭圆偏微分方程的无监督学习数值方法。计算机物理杂志(2020)·Zbl 07506625号
[20] Liao,Y。;Ming,P.,Deep Nitsche方法:具有基本边界条件的Deep Ritz方法。公共计算物理,1365-1384(2021)·Zbl 1473.65309号
[21] Sheng,H。;Yang,C.,PFNN:用于解决复杂几何上一类二阶边值问题的无惩罚神经网络方法。计算机物理杂志(2021)·Zbl 07511439号
[22] 臧,Y。;Bao,G。;叶,X。;Zhou,H.,高维偏微分方程的弱对抗网络。计算机物理杂志(2020)·Zbl 1436.65156号
[23] 哈拉兹米,E。;张,Z。;Karniadakis,G.E.,解偏微分方程的变分物理信息神经网络(2019),arXiv预印本arXiv:1912.00873
[24] Khodayi-Mehr,R。;Zavlanos,M.,VarNet:解偏微分方程的变分神经网络,298-307
[25] 杨,M。;Foster,J.T.,多孔介质中非线性两相传输的hp-变量物理信息神经网络。J马赫数学习模型计算(2021)
[26] Berrone,S。;卡努托,C。;Pintore,M.,《变分物理告知神经网络:求积和测试函数的作用》。科学计算杂志,100(2022)·Zbl 07568992号
[27] Dong,S。;Li,Z.,解线性和非线性偏微分方程的局部极值学习机和区域分解。计算方法应用机械工程(2021)·Zbl 1507.65174号
[28] 陈,J。;池,X。;E、 W。;Yang,Z.,解决偏微分方程的传统算法和基于机器学习的算法的桥接:随机特征方法(2022),arXiv预打印arXiv:2207.13380
[29] Cyr,E.C。;古利安,医学硕士。;Patel,R.G.,深度神经网络的鲁棒训练和初始化:自适应基础观点,512-536
[30] 巴布什卡,I。;Aziz,A.K.,有限元法数学基础讲座·兹比尔0268.65052
[31] Babuška,I.,拉格朗日乘子有限元法。数字数学,179-192(1973)·Zbl 0258.65108号
[32] Boffi,D。;布雷齐,F。;M.福廷。
[33] 徐,J。;Zikatanov,L.,关于Babus̆ka和Brezzi理论的一些观察。数字数学,195-202(2003)·Zbl 1028.65115号
[34] 何凯,张旭,任S,孙J.图像识别的深度残差学习。收录:IEEE计算机视觉和模式识别会议记录。2016年,第770-8页。
[35] Cybenko,G.,通过S形函数的叠加进行逼近。数学控制信号系统,303-314(1989)·Zbl 0679.94019号
[36] Hornik,K.,多层前馈网络的近似能力。神经网络,251-257(1991)
[37] Barron,A.R.,《人工神经网络的近似和估计界》。《马赫学习》,115-133(1994)·Zbl 0818.68127号
[38] Mhaskar,H.N.,光滑函数和解析函数最佳逼近的神经网络。神经计算,164-177(1996)
[39] Bolcskei,H。;Grohs,P。;Kutyniok,G。;Petersen,P.,稀疏连接深度神经网络的最佳逼近。SIAM数学数据科学杂志,8-45(2019)·Zbl 1499.41029号
[40] Yarotsky,D.,深度ReLU网络近似的误差界。神经网络,103-114(2017)·Zbl 1429.68260号
[41] 哦,我。;Kim,Y.,用具有一般激活函数的深度神经网络进行平滑函数逼近。熵,627(2019)
[42] Gühring,I。;Raslan,M.,光滑空间中具有可编码权重的神经网络的近似速率。神经网络,107-130(2021)·Zbl 1475.68314号
[43] 焦,Y。;赖,Y。;Lo,Y.,椭圆方程深度Ritz方法的误差分析(2021),arXiv预印arXiv:2107.14478
[44] Pao,Y.H.先生。;Park,G.H。;Sobajic,D.J.,随机向量函数连接网的学习和泛化特性。神经计算,163-180(1994)
[45] 伊格尔尼克,B。;Pao,Y.H.,自适应函数逼近和泛函链接网络中基函数的随机选择。IEEE Trans Neural Netw,1320-1329(1995)
[46] 黄,G.B。;朱庆云。;Siew,C.K.,《极限学习机器:理论与应用》。神经计算,489-501(2006)
[47] 刘,X。;Lin,S。;方,J。;Xu,Z.,极限学习机器可行吗?理论评估(第1部分)。IEEE Trans Neural Netw学习系统,7-20(2014)
[48] Raviart PA,Thomas JM。二阶椭圆问题的混合有限元方法。有限元方法的数学方面。1977年,第292-315页·兹比尔0362.65089
[49] 何凯,张X,任S,孙J。深入研究整流器:在图像网络分类方面超越人类水平的表现。收录:IEEE计算机视觉国际会议论文集。2015年,第1026-34页。
[50] Glrot X,Bengio Y。理解训练深度前馈神经网络的困难。摘自:第十三届人工智能和统计国际会议记录。JMLR研讨会和会议记录,2010年,第249-56页。
[51] Langtangna,H.P。;Logg,A.,《用Python解决PDE:FEniCS教程I》(2017),《Springer Nature》
[52] Mojtabi,A。;Deville,M.O.,《一维线性平流扩散方程:分析和有限元解》。计算与流体,189-195(2015)·Zbl 1390.76340号
[53] 米什拉,S。;Molinaro,R.,估计用于逼近偏微分方程一类逆问题的物理信息神经网络的泛化误差。IMA J数字分析,981-1022(2022)·Zbl 07524707号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。