×

自适应双层ReLU神经网络。II:椭圆偏微分方程的Ritz近似。 (英语) Zbl 1524.65939号

摘要:在配套文件中[同上,113,34-44(2022;Zbl 1504.65275号)],我们引入了自适应网络增强(ANE)方法,利用双层ReLU神经网络(NNs)实现对目标函数的最佳最小二乘逼近。本文应用ANE方法求解自共轭二阶椭圆偏微分方程。通过Ritz方法,使用基于最小化各自能量或互补泛函的原始或对偶公式的两层样条神经网络,对潜在的PDE进行离散化。本质边界条件是通过具有适当范数的泛函弱加的。证明了Ritz近似是能量范数的最佳近似;此外,还分析了数值积分对Ritz近似的影响。介绍了自适应神经元增强方法的两种估计量,一种是所谓的恢复估计量,另一种是最小二乘估计量。最后,给出了具有角点或相交界面奇点的扩散问题的数值结果。

MSC公司:

65N99型 偏微分方程边值问题的数值方法
68T07型 人工神经网络与深度学习
65D07年 使用样条曲线进行数值计算
65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法
65K10码 数值优化和变分技术
35J05型 拉普拉斯算子、亥姆霍兹方程(简化波动方程)、泊松方程

软件:

DGM公司亚当
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 刘,M。;蔡,Z。;Chen,J.,自适应双层ReLU神经网络:I.最佳最小二乘近似,计算。数学。申请。,113, 34-44 (2022) ·Zbl 1504.65275号
[2] 伯格,J。;Nystrom,K.,《复杂几何偏微分方程的统一深度人工神经网络方法》,神经计算,317,28-41(2018)
[3] 蔡,Z。;陈,J。;刘,M。;Liu,X.,深度最小二乘法:求解椭圆方程的无监督学习数值方法,J.Compute。物理。,420,第109707条pp.(2020)·Zbl 07506625号
[4] E、 W。;Yu,B.,The deep Ritz method:一种基于深度学习的数值算法,用于求解变分问题,Commun。数学。统计,6,1,1-12(2018)·Zbl 1392.35306号
[5] 莱西娅,M。;Perdikarisb,P。;Karniadakisa,G.,《基于物理的神经网络:用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》,J.Compute。物理。,378, 686-707 (2019) ·Zbl 1415.68175号
[6] 西里尼亚诺,J。;Spiliopoulos,K.,DGM:解偏微分方程的深度学习算法,J.Compute。物理。,375, 1139-1364 (2018) ·Zbl 1416.65394号
[7] Xu,J.,有限神经元方法与收敛性分析,Commun。计算。物理。,28, 1707-1745 (2020) ·Zbl 1473.65350号
[8] Ciarlet,P.,《椭圆问题的有限元方法》(1978),工业和应用数学学会·Zbl 0383.65058号
[9] R.E.银行。;Weiser,A.,椭圆偏微分方程的一些后验误差估计,数学。计算。,44, 170, 283-301 (1985) ·Zbl 0569.65079号
[10] 蔡,Z。;Zhang,S.,通量恢复和后验误差估计:标量椭圆方程的协调元,SIAM J.Numer。分析。,48, 578-602 (2010) ·兹比尔1230.65117
[11] Cybenko,G.,通过sigmoid函数的叠加进行逼近,数学。控制信号系统。,2, 303-314 (1989) ·Zbl 0679.94019号
[12] 霍尼克,K。;Stinchcombe,M。;White,H.,多层前馈网络是通用逼近器,神经网络。,2, 359-366 (1989) ·Zbl 1383.92015年
[13] Petrushev,P.P.,《岭函数和神经网络逼近》,SIAM J.Math。分析。,30, 155-189 (1998) ·Zbl 0927.41006号
[14] 西格尔,J.W。;Xu,J.,具有激活函数的神经网络的高阶近似率(2020),arXiv预印本
[15] E、 W。;Wojtowytsch,S.,关于Barron和多层空间中偏微分方程的一些观察(2020)
[16] Verfurth,R.,《有限元方法、数值数学和科学计算的后验误差估计技术》(2013),牛津大学出版社·Zbl 1279.65127号
[17] 博图,L。;柯蒂斯,F.E。;Nocedal,J.,《大规模机器学习的优化方法》,SIAM Rev.,60,223-311(2018)·Zbl 1397.65085号
[18] Pearson,K.,《关于最接近空间点系的直线和平面》,Philos。Mag.,2,11,559-572(1901)·JFM 32.0246.07号文件
[19] 金玛,D.P。;Ba,J.,Adam:随机优化方法(2014),arXiv预印本
[20] He,J。;李,L。;徐,J。;Zheng,C.,Relu深度神经网络和线性有限元,J.Compute。数学。,38502-527(2020)·Zbl 1463.68072号
[21] 莫林,P。;诺切托,R.H。;Siebert,K.G.,自适应有限元方法的收敛性,SIAM Rev.,44,4,631-658(2002)·Zbl 1016.65074号
[22] 蔡,Z。;Zhang,S.,《界面问题基于恢复的误差估计:协调线性元素》,SIAM J.Numer。分析。,47, 2132-2156 (2009) ·Zbl 1204.65129号
[23] 蔡,D。;Cai,Z.,协调有限元近似的混合后验误差估计,计算。方法应用。机械。工程,339,320-340(2018)·Zbl 1440.65187号
[24] 蔡,Z。;陈,J。;Liu,M.,线性对流反应方程的最小二乘ReLU神经网络(LSNN)方法,J.Compute。物理。,443,第110514条pp.(2021)·兹伯利07515414
[25] 蔡,Z。;陈,J。;Liu,M.,《自适应深度神经网络:函数和偏微分方程的数值逼近》,J.Compute。物理。,455,第111021条pp.(2022)·Zbl 07518092号
[26] Allgower,E。;Georg,K.,《数值延拓方法》(1990),施普林格-弗拉格:柏林施普林格和海德堡·Zbl 0717.65030号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。