×

深层神经网络多重网格求解器的结构保持。 (英语) Zbl 1487.65153号

摘要:偏微分方程的模拟是数值分析的中心课题,也是科学、工程和相关领域不可或缺的工具。现有的方法,如有限元,提供了(高效)的工具,但基于深度神经网络的技术在过去几年出现,作为一种替代方法,其结果非常有希望。我们研究了两种方法的组合,以近似Navier-Stokes方程,以及在何种程度上可以并且应该尊重发散自由度等结构特性。我们的工作基于DNN-MG,这是我们最近引入的一种深度神经网络多重网格技术,它使用神经网络来表示几何多重网格有限元求解器无法解决的精细网格波动。虽然DNN-MG提供了非常准确的解决方案,并且计算效率很高,但我们注意到,基于神经网络的校正严重违反了速度矢量场的散度自由度。在本文中,我们讨论了这些发现并分析了解决问题的三种方法:一种惩罚条款,以鼓励网络输出的分歧自由;修正速度场的惩罚项;以及一个学习流函数的网络,从而通过构造产生无发散修正。实验结果表明,基于流函数的第三种方法优于其他两种方法,不仅提高了发散自由度,而且提高了仿真的整体保真度。

MSC公司:

65平方米 涉及偏微分方程初值和初边值问题的有限元、Rayleigh-Ritz和Galerkin方法
65M55型 多重网格方法;涉及偏微分方程初值和初边值问题的区域分解
68T07型 人工神经网络与深度学习
76D05型 不可压缩粘性流体的Navier-Stokes方程
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] S.BAI、J.Z.KOLTER和ANDV。KOLTUN,《序列建模通用卷积和递归网络的经验评估》,Preprint,arXiv:1803.012712018年3月。https://arxiv.org/abs/1803.01271。
[2] Y.BAR-SINAI、S.HOYER、J.HICKEY、ANDM。P.BRENNER,学习偏微分方程的数据驱动离散化,Proc。美国国家科学院。科学。美国,116(2019),第15344-15349页·Zbl 1431.65195号
[3] R.贝克尔·安德姆。BRAACK,基于局部投影的斯托克斯方程的有限元压力梯度稳定,Calcolo,38(2001),第173-199页·兹比尔1008.76036
[4] R.BECKER、M.BRAACK、D.MEIDNER、T.RICHTER和B。VEXLER,有限元工具包GASCOIGNE。网址:http://www.gascoigne.de。
[5] E.J.BEKKERS,李群B样条CNN,《学习表征国际会议》,OpenReview.net,2020年。
[6] J.伯格·安德克。NYSTRM,复杂数据集中PDE的数据驱动发现,J.Compute。物理。,384(2019),第239-252页·兹比尔1451.68239
[7] K.BHATTACHARYA,B.HOSSEINI,N.B.KOVACHKI,安大略省。M.STUART,参数PDE的模型简化和神经网络,J.Compute。数学。,7(2021年),第121-157页·Zbl 1481.65260号
[8] A.比蒂和J。MAIRAL,群不变性,变形稳定性,深卷积表示的复杂性,J.Mach。学习。决议,20(2019),第876-924页·Zbl 1483.68335号
[9] M.布拉克·安德普。B.MUCHA,Navier-Stokes方程的定向do-nothing条件,J.Comp。数学。,32(2014),第507-521页·Zbl 1324.76015号
[10] J.布鲁纳群岛。MALLAT,不变散射卷积网络,IEEE Trans。帕特。分析。机器智能。,35(2013),第1872-1886页。
[11] T·陈·安。CHEN,具有任意激活函数的神经网络对非线性算子的普遍逼近及其在动力系统中的应用,IEEE Trans。神经网络。,6(1995年),第911-917页。
[12] Z.CHEN、J.ZHANG、M.ARJOVSKY、ANDL。BOTTOU,辛回归神经网络,Preprint,arXiv:1909.133342019年9月。https://arxiv.org/abs/1909.13334。
[13] K.CHO、B.VANMERRIENBOER、C.GULCEHRE、F.BOUGARES、H.SCHWENK、ANDY。BENGIO,《使用RNN编码器-解码器学习短语表示用于统计机器翻译》,载于《自然语言处理经验方法会议》(EMNLP 2014),ACL,斯特劳德斯堡,2014年,第1724页-
[14] A.J.CHORIN和。E.MARSDEN,《流体力学数学导论》,第3期。编辑,施普林格,纽约,1993年·Zbl 0774.76001号
[15] M.CRANMER、S.GREYDANUS、S.HOYER、P.BATTAGLIA、D.SPERGEL和ANDS。HO,拉格朗日神经网络,预印本,arXiv:2003.046302020年3月。https://arxiv.org/abs/2003.04630。
[16] 西EANDB。YU,The deep Ritz method:求解变分问题的基于深度学习的数值算法,Commun。数学。《法律总汇》,6(2018),第1-12页·Zbl 1392.35306号
[17] L.失败和。RICHTER,流体-结构相互作用优化控制的牛顿多重网格框架,Optim。《工程》,22(2021),第2009-2037页·Zbl 1483.74070号
[18] M.FINZI、K.A.WANG、ANDA。G.WILSON,《通过显式约束简化哈密顿和拉格朗日神经网络》,载于《神经信息处理系统进展》33(NeurIPS 2020),H.Larochell、M.Ranzato、R.Hadsell、M.F.Balcan和H.Lin,eds.,2020年。
[19] G.J.FIX,海洋环流问题的有限元模型,SIAM J.Appl。数学。,29(1975),第371-387页·兹伯利0329.76092
[20] E.S.GAWLIK ANDF公司。GAY-BALMAZ,变密度不可压欧拉方程的保守有限元方法,J.Compute。物理。,412(2020年),第109439条,22页·Zbl 1436.76024号
[21] 建立了可压缩流动的变分有限元离散化方法。计算。数学。,21(2021),第961-1001页·Zbl 1506.65153号
[22] J.HAN、A.JENTZEN和ANDW。E.,使用深度学习求解高维偏微分方程,Proc。美国国家科学院。科学。美国,115(2018),第8505-8510页·Zbl 1416.35137号
[23] J.G.HEYWOOD、R.RANNACHER和ANDS。TUREK,不可压缩Navier-Stokes方程的人工边界和流量及压力条件,国际。J.数字。方法。流体。,22(1996),第325-352页·Zbl 0863.76016号
[24] S.HOCHREITER和J。SCHMIDHUBER,长短记忆,神经计算。,9(1997),第1735-1780页。
[25] 胡毅、赵涛、徐中、安德里。LIN,Neural-PDE:一种基于RNN的神经网络,用于求解依赖时间的PDE,Preprint,arXiv:2009.038922020年9月。https://arxiv.org/abs/2009.03892。
[26] P.JIN、A.ZHU、G.E.KARNIADAKIS、ANDY。TANG,SympNets:识别哈密顿系统的固有结构保辛网络,Preprint,arXiv:2001.037502020年1月。https://arxiv.org/abs/2001.03750。 ·Zbl 1475.68316号
[27] M.F.KASIM、D.WATSON-PARRIS、L.DEACONU、S.OLIVER、P.HATFIELD、D.H.FROULA、G.GREGORI、M.JARVIS、S.KHATIWALA、J.KORENAGA、J.TOPP-MUGGLESTONE、E.VIEZZER和S。M.VINKO,《利用深度神经架构搜索构建科学模拟的高精度模拟器》,Preprint,arXiv:2001.080552020年1月。https://arxiv.org/abs/2001.08055。
[28] Y.LECUN、Y.BENGIO和ANDG。HINTON,《深度学习》,《自然》,521(2015),第436-444页。
[29] Z.LI,N.KOVACHKI,K.AZIZZADENESHELI,B.LIU,K.BHATTACHARYA,A.STUART,安达。ANANDKUMAR,参数偏微分方程的傅里叶神经算子,Preprint,arXiv:2010.088952020年10月。https://arxiv.org/abs/2010.08895。
[30] Z.LI,N.KOVACHKI,K.AZIZADENESHELI,B.LIU,K.BHATTACHARYA,A.STUART,AND A.ANANDKUMAR,神经算子:偏微分方程的图形核网络,预印本,arXiv:2003.034852020年3月。https://arxiv.org/abs/2003.03485。
[31] J.LING、A.KURZAWSKI和ANDJ。TEMPLETON,使用嵌入不变性的深度神经网络进行雷诺平均湍流建模,J.流体力学。,807(2016),第155-166页·兹比尔1383.76175
[32] Z.LONG、Y.LU和ANDB。DONG,PDE-net 2.0:使用数字符号混合深层网络从数据中学习PDE,J.Compute。物理。,399(2019),第108925条,18页·Zbl 1454.65131号
[33] L.LU、P.JIN和ANDG。E.KARNIADAKIS,DeepONet:基于算子的通用逼近定理学习用于识别微分方程的非线性算子,Preprint,arXiv:1910.031932019年10月。https://arxiv.org/abs/1910.03193。
[34] 吕丽萍、孟熙、毛志明、安德烈。E.KARNIADAKIS,DeepXDE:解微分方程的深度学习库,Preprint,arXiv:1907.045022019年7月。https://arxiv.org/abs/1907.04502。 ·Zbl 1459.65002号
[35] A.KLAWONN、M.EICHINGER、ANDA。HEINLEIN,《使用卷积神经网络进行静态流量预测》,F.Vermolen和C.Vuik编辑,《数值数学和高级应用环境2019》,巴塞尔斯普林格出版社,2020年·Zbl 1475.76072号
[36] N.MARGENBERG、D.HARTMANN、C.LESSIG和ANDT。RICHTER,Navier-Stokes方程的神经网络多重网格解算器,预印本,arXiv:2008.115202020年8月。https://arxiv.org/abs/2008.11520。
[37] N.马根伯格和。RICHTER,流体-结构相互作用的并行时间步进,数学。模型。自然现象。,16(2021),第20条,19页·Zbl 1469.76075号
[38] M.MATTHEAKIS、P.PROTOPAPAS、D.SONDAK、M.DIGIOVANNI、ANDE。KAXIRAS,神经网络中嵌入的物理对称性,Preprint,arXiv:1904.089912019年4月。https://arxiv.org/abs/1904.08991。
[39] 莫里森,理想流体的哈密顿描述,现代物理学评论。,70(1998年),第467-521页·Zbl 1205.37093号
[40] M.A.NABIAN ANDH博士。MEIDANI,用于增强工程设计和分析的物理驱动深层神经网络正则化,Preprint,arXiv:1810.055472018年10月。https://arxiv.org/abs/1810.05547。
[41] A.PASZKE、S.GROSS、F.MASSA、A.LERER、J.BRADBURY、G.CHANAN、T.KILLEEN、Z.LIN、N.GIMELSHEIN、L.ANTIGA、A.DESMAISON、A.KOPF、E.YANG、Z.DEVITO、M.RAISON、A.TEJANI、S.CHILAMKURTHY、B.STEINER、L.FANG、J.BAI、ANDS。CHINTALA,Pytorch:一个命令式、高性能的深度学习库,《神经信息处理系统进展32》,H.Wallach、H.Larochelle、A.Beygelzimer、F.d‘AlchéBuc、E.Fox和R.Garnett编辑,Curran Associates,
[42] M.RAISSI ANDG先生。E.KARNIADAKIS,《隐藏物理模型:非线性偏微分方程的机器学习》,J.Compute。物理。,357(2018),第125-141页·Zbl 1381.68248号
[43] M.RAISSI、P.PERDIKARIS和ANDG。E.KARNIADAKIS,《基于物理的神经网络:解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》,J.Compute。物理。,378(2019),第686-707页·Zbl 1415.68175号
[44] M.RAISSI、A.YAZDANI和ANDG。E.KARNIADAKIS,《隐藏流体力学:从流动可视化中学习速度和压力场》,《科学》,367(2020),第1026-1030页·Zbl 1478.76057号
[45] T.RICHTER,流体与结构相互作用。模型、分析和有限元,施普林格,巴塞尔,2017年·Zbl 1374.76001号
[46] S.RUDY、A.ALLA、S.L.BRUNTON和ANDJ。N.KUTZ,参数偏微分方程的数据驱动识别,SIAM J.Appl。动态。系统。,18(2019),第643-660页·Zbl 1456.65096号
[47] L.鲁托托·安迪。HABER,偏微分方程驱动的深层神经网络,J.Math。《成像视觉》,62(2020),第352-364页·Zbl 1434.68522号
[48] Y.SAAD,稀疏线性系统的迭代方法,PWS出版公司,波士顿,1996年·Zbl 1031.65047号
[49] T.SAPSIS、Z.Y.WAN、B.DODOV、H.A.DIJKSTRA、ANDC。LESSIG,气候动力学的数据辅助降阶模型,载于《EGU2019学报》,orals,2019年。
[50] M.SCHáFER、S.TUREK、F.DURST、E.KRAUSE和ANDR。RANNACHER,《圆柱周围层流的基准计算》,收录于《高性能计算机流动模拟II》,E.H.Hirschel主编,Notes Numer。流体力学。,第48卷,Vieweg,威斯巴登,1996年,第547-566页。
[51] B.史蒂文斯·安德特。COLONIUS,Finitenet:时间相关偏微分方程的全卷积LSTM网络架构,美国物理学会流体动力学部第73届年会。Soc,第65卷,摘要:R01.000142020。
[52] A.M.TARTAKOVSKY、C.O.MARRERO、P.PERDIKARIS、G.D.TARTAKOSKY和。BARAJASSOLANO,学习参数和与物理相关的深层神经网络的本构关系,Preprint,arXiv:1808.033982018年8月。https://arxiv.org/abs/1808.03398。
[53] S.P.VANKA,原始变量中Navier-Stokes方程的块隐式多重网格解,J.Comp。物理。,65(1985),第138-158页·Zbl 0606.76035号
[54] Z.Y.WAN、B.DODOV、C.LESSIG、H.DIJKSTRA和ANDT。P.SAPSIS,气候数据集中小规模特征随机重建的数据驱动框架,J.Compute。《物理学》,第442卷,(2021年),第110484条,24页·Zbl 07513804号
[55] S.WIEWEL、M.BECHER和ANDN。THUEREY,《潜在空间物理:朝向流体流动的时间演化学习》,Preprint,arXiv:1802.101232018年2月。https://arxiv.org/abs/11802.10123。
[56] Y.YANG和。PERDIKARIS,Physics-informed deep generative models,Preprint,arXiv:1812.035112018年12月。https://arxiv.org/abs/1812.03511。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。