×

基于物理约束的无模拟数据深度学习的流体流动替代建模。 (英语) Zbl 1442.76096号

概述:流体动力学问题的数值模拟主要依赖于使用多项式将控制方程在空间或/和时间上离散为有限维代数系统。由于物理的多尺度性质和网格化复杂几何的敏感性,对于大多数实时应用程序(例如临床诊断和手术规划)和许多查询分析(例如优化设计和不确定性量化)来说,这种过程可能是计算禁止的。因此,开发一个具有成本效益的代理模型具有重要的现实意义。深度学习(DL)因其处理强非线性和高维性的能力,在代理建模方面显示出了新的前景。然而,脱机DL体系结构的成功在很大程度上依赖于大量的训练数据和问题的插值性质,在数据变得稀疏时无法运行。不幸的是,在大多数参数流体动力学问题中,数据往往不足,因为参数空间中的每个数据点都需要基于第一个原理(例如Navier-Stokes方程)进行昂贵的数值模拟。在本文中,我们提供了一种物理约束的DL方法来模拟流体流动没有依赖于任何模拟数据。具体而言,设计了一种结构化深度神经网络(DNN)结构来强制执行初始和边界条件,并将控制偏微分方程(即Navier-Stokes方程)合并到DNN的损失中以驱动训练。对许多与血流动力学应用相关的内部流动进行了数值实验,并研究了流体特性和域几何中不确定性的正向传播。结果表明,DL代理近似和第一原理数值模拟在流场和前向传播不确定性方面非常一致。

MSC公司:

76M99型 流体力学基本方法
65Z05个 科学应用
76Z05个 生理流
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] J.D.安德森。;Wendt,J.,《计算流体动力学》,第206卷(1995年),施普林格出版社·Zbl 0834.76002号
[2] 本纳,P。;古吉丁,S。;Willcox,K.,参数动力系统基于投影的模型简化方法综述,SIAM Rev.,57,4,483-531(2015)·Zbl 1339.37089号
[3] 本纳,P。;科恩,A。;Ohlberger,M。;Willcox,K.,《模型简化和近似:理论和算法》,第15卷(2017年),SIAM·Zbl 1378.65010号
[4] Lassila,T。;Manzoni,A。;Quarteroni,A。;Rozza,G.,《流体动力学中的模型降阶:挑战和展望》,(建模和计算降阶的降阶方法(2014),Springer),235-273·Zbl 1395.76058号
[5] C.Huang,K.Duraisamy,C.Merkle,反应流降阶建模的挑战,载于:2018年联合推进会议,2018年,第4675页。
[6] Chaturantabut,S。;Sorensen,D.C.,《通过离散经验插值进行非线性模型简化》,SIAM J.Sci。计算。,32, 5, 2737-2764 (2010) ·Zbl 1217.65169号
[7] B.Peherstorfer,通过在线自适应基和自适应采样对以传输为主导的问题进行模型简化,arXiv预印本arXiv:1812.02094·Zbl 1453.65286号
[8] B.Peherstorfer,Z.Drmać,S.Gugercin,通过随机和确定性过采样稳定离散经验插值,arXiv预印本arXiv:1808.10473·Zbl 1453.65287号
[9] 任,W.-X。;陈海斌,用响应面法修正结构动力学有限元模型,工程结构。,32, 8, 2455-2465 (2010)
[10] Regis,R.G。;Shoemaker,C.A.,用于昂贵函数全局优化的随机径向基函数方法,INFORMS J.Compute。,19, 4, 497-509 (2007) ·Zbl 1241.90192号
[11] M.C.肯尼迪。;O'Hagan,A.,《当快速近似可用时预测复杂计算机代码的输出》,Biometrika,87,1,1-13(2000)·Zbl 0974.62024号
[12] 阿特金森,S。;Zabaras,N.,结构化贝叶斯-高斯过程潜在变量模型:数据驱动降维和高维反演的应用,J.Compute。物理。,383, 166-195 (2019) ·Zbl 1451.62095号
[13] 秀,D。;Karniadakis,G.E.,随机微分方程的Wiener-Askey多项式混沌,SIAM J.Sci。计算。,24, 2, 619-644 (2002) ·Zbl 1014.65004号
[14] Najm,H.N.,《计算流体动力学中的不确定性量化和多项式混沌技术》,年。流体力学版次。,41, 35-52 (2009) ·Zbl 1168.76041号
[15] 杨,X。;万,X。;林,L。;Huan,L.,增强广义多项式混沌展开稀疏性的一般框架,《国际不确定性杂志》。数量。,9, 3, 221-243 (2017) ·Zbl 1498.60292号
[16] Le Maître,O。;Knio,O.M.,《不确定性量化的光谱方法:在计算流体动力学中的应用》(2010),Springer Science&Business Media·Zbl 1193.76003号
[17] 王建新。;罗伊,C.J。;Xiao,H.,存在模型形式不确定性时输入不确定性的传播:计算流体动力学应用的多面体方法,ASCE-ASME J.风险不确定性。工程系统。B部分:机械。Eng.,4,1,文章011002第(2018)页
[18] Zhu,Y。;Zabaras,N.,《替代建模和不确定性量化的贝叶斯深度卷积编解码网络》,J.Compute。物理。,366415-447(2018)·Zbl 1407.62091号
[19] Tripathy,R.K。;Bilionis,I.,Deep uq:学习深度神经网络替代模型,用于高维不确定性量化,J.Compute。物理。,375, 565-588 (2018) ·Zbl 1419.68084号
[20] 莫,S。;北卡罗来纳州扎巴拉斯。;施,X。;Wu,J.,地下水污染源识别中高维逆问题的深度自回归神经网络,水资源。研究,55,5,3856-3881(2019)
[21] 斯卡塞利,F。;Tsoi,A.C.,《使用前馈神经网络的通用近似:一些现有方法的综述和一些新结果》,神经网络。,11, 1, 15-37 (1998)
[22] M.Hutzenthaler,A.Jentzen,T.Kruse,T.A.Nguyen,P.von Wurstemberger,《克服半线性抛物型偏微分方程数值逼近中的维数灾难》,arXiv预印本arXiv:1807.01212·Zbl 1472.65157号
[23] P.Grohs,F.Hornung,A.Jentzen,P.Von Wurstemberger,人工神经网络在数值逼近black-scholes偏微分方程时克服维数灾难的证明,arXiv预印本arXiv:1809.02362·Zbl 07679303号
[24] M.Hutzenthaler,A.Jentzen,T.Kruse,T.A.Nguyen,在半线性热方程的数值逼近中,修正深度神经网络克服维数灾难的证明,arXiv预印本arXiv:1901.10854·Zbl 1455.65200元
[25] Lee,S。;Baker,N.,《科学机器学习的基本研究需求:人工智能的核心技术》(2018),USDOE科学办公室(SC):USDOE美国科学办公室
[26] Carleo,G。;Troyer,M.,用人工神经网络解决量子多体问题,《科学》,355,6325,602-606(2017)·Zbl 1404.81313号
[27] 王建新。;Wu,J.-L。;Xiao,H.,基于dns数据重建雷诺应力模型差异的基于物理的机器学习方法,Physis。流体版本,第2、3条,第034603页(2017年)
[28] Ling,J。;Jones,R。;Templeton,J.,《具有不变性系统的机器学习策略》,J.Compute。物理。,318, 22-35 (2016) ·Zbl 1349.76124号
[29] 沙纳汉,体育。;Trewartha,D。;Detmold,W.,《晶格量子色动力学中的机器学习行为参数》,Phys。D版,97,9,第094506条,第(2018)页
[30] R.King,O.Hennigh,A.Mohan,M.Chertkov,《从深层到基于物理的湍流学习:诊断》,arXiv预印本arXiv:1810.07785。
[31] Brunton,S.L。;Kutz,J.N.,《数据驱动科学与工程:机器学习、动力系统和控制》(2019),剑桥大学出版社·Zbl 1407.68002号
[32] LeCun,Y。;Y.本吉奥。;Hinton,G.,《深度学习》,《自然》,521,7553,436(2015)
[33] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.,《基于物理的神经网络:解决非线性偏微分方程正问题和逆问题的深度学习框架》,J.Compute。物理。,378, 686-707 (2019) ·Zbl 1415.68175号
[34] A.Hannun,C.Case,J.Casper,B.Catanzaro,G.Diamos,E.Elsen,R.Prenger,S.Satheesh,S.Sengupta,A.Coates等人。深度语音:扩大端到端语音识别,arXiv预印本arXiv:1412.5567。
[35] Lee,H。;Kang,I.S.,解微分方程的神经算法,J.Compute。物理。,91, 1, 110-131 (1990) ·Zbl 0717.65062号
[36] 拉加里斯,I.E。;利卡斯,A。;Fotiadis,D.I.,求解常微分方程和偏微分方程的人工神经网络,IEEE Trans。神经网络。,9, 5, 987-1000 (1998)
[37] 拉加里斯,I.E。;利卡斯,A.C。;Papageorgiou,D.G.,不规则边界边值问题的神经网络方法,IEEE Trans。神经网络。,11, 5, 1041-1049 (2000)
[38] M.Raissi,A.Yazdani,G.E.Karniadakis,《隐藏流体力学:用于同化流动可视化数据的navier-stokes通知深度学习框架》,arXiv预印本arXiv:1808.04327。
[39] 莱斯,M。;王,Z。;Triantafylou,M.S。;Karniadakis,G.E.,《涡激振动的深度学习》,《流体力学杂志》。,861, 119-137 (2019) ·Zbl 1415.76177号
[40] A.M.Tartakovsky,C.O.Marrero,D.Tartakowsky,D.Barajas-Solano,《学习参数和与物理相关的深层神经网络的本构关系》,arXiv预印本arXiv:1808.03398。
[41] X.Meng,G.E.Karniadakis,《从多保真数据中学习的复合神经网络:函数逼近和逆偏微分方程问题的应用》,arXiv预印本arXiv:1903.00104·Zbl 1454.76006号
[42] D.Zhang,L.Lu,L.Guo,G.E.Karniadakis,量化物理信息神经网络中用于解决正向和反向随机问题的总不确定性,arXiv预印本arXiv:1809.08327·Zbl 1454.65008号
[43] Y.Yang,P.Perdikaris,《物理信息神经网络中的对抗不确定性量化》,arXiv预印本arXiv:1811.04026·Zbl 1452.68171号
[44] R.Sharma,A.B.Farimani,J.Gomes,P.Eastman,V.Pande,《通过物理信息损失对热传输进行弱监督深度学习》,arXiv预印本arXiv:1807.11374。
[45] M.A.Nabian,H.Meidani,深度神经网络的基于物理的正则化,arXiv预印本arXiv:1810.05547。
[46] K.Xu,E.Darve,微分方程反问题的神经网络方法,arXiv预印本arXiv:1901.07758。
[47] J.R.Holland,J.D.Baeder,K.Duraisamy,《将场反演和机器学习与嵌入式神经网络相结合用于rans建模》,载于:AIAA科学技术2019论坛,2019,第1884页。
[48] R.Stewart,S.Ermon,《利用物理和领域知识对神经网络进行无标签监督》,载于《第三十届AAAI人工智能会议》,2017年,第2576-2582页。
[49] 西里尼亚诺,J。;Spiliopoulos,K.,Dgm:求解偏微分方程的深度学习算法,J.Comput。物理。,375, 1339-1364 (2018) ·兹比尔1416.65394
[50] 伯格,J。;Nyström,K.,复杂几何偏微分方程的统一深度人工神经网络方法,神经计算,317,28-41(2018)
[51] E.渭南。;Han,J。;Jentzen,A.,基于深度学习的高维抛物型偏微分方程和倒向随机微分方程数值方法,Commun。数学。Stat.,5,4,349-380(2017)·Zbl 1382.65016号
[52] 贝克,C。;E.渭南。;Jentzen,A.,高维完全非线性偏微分方程和二阶倒向随机微分方程的机器学习近似算法,J.非线性科学。,1-57 (2017)
[53] C.Beck,S.Becker,P.Grohs,N.Jaafari,A.Jentzen,通过深度学习求解随机微分方程和Kolmogorov方程,arXiv预印本arXiv:1806.00421·Zbl 1490.65006号
[54] E.渭南。;Yu,B.,The deep ritz method:一种基于深度学习的数值算法,用于求解变分问题,Commun。数学。统计,6,1,1-12(2018)·Zbl 1392.35306号
[55] Han,J。;詹岑,A。;Weinan,E.,使用深度学习求解高维偏微分方程,Proc。国家。阿卡德。科学。,115, 34, 8505-8510 (2018) ·Zbl 1416.35137号
[56] M.A.Nabian,H.Meidani,高维随机偏微分方程的深度神经网络代理,arXiv预印本arXiv:1806.02957。
[57] S.Karumuri,R.Tripathy,I.Bilionis,J.Panchal,使用深度神经网络求解高维随机椭圆偏微分方程的无模拟解,arXiv预印本arXiv:1902.05200·Zbl 1453.65021号
[58] Y.Zhu,N.Zabaras,P.-S.Koutsourelakis,P.Perdikaris,《无标记数据的高维代理建模和不确定性量化的物理约束深度学习》,arXiv预印本arXiv:1901.06314·Zbl 1452.68172号
[59] Baydin,A.G。;Pearlmutter,B.A。;Radul,A.A。;Siskind,J.M.,《机器学习中的自动差异化:一项调查》,J.Mach。学习。决议,18,1-43(2018)·Zbl 06982909号
[60] A.Paszke、S.Gross、S.Chintala、G.Chanan、E.Yang、Z.DeVito、Z.Lin、A.Desmaison、L.Antiga、A.Lerer,《PyTorch中的自动区分》,摘自:NIPS Autodiff Workshop,2017年。
[61] M.Abadi、P.Barham、J.Chen、Z.Chen、A.Davis、J.Dean、M.Devin、S.Ghemawat、G.Irving、M.Isard等人。Tensorflow:大规模机器学习的系统,在:第12届USENIX操作系统设计与实现研讨会,OSDI 2016年第16期,第265-283页。
[62] F.Bastien、P.Lamblin、R.Pascanu、J.Bergstra、I.J.Goodfellow、A.Bergeron、N.Bouchard、Y.Bengio、Theano:新功能和速度改进。深度学习和无监督特征学习,见:神经信息处理系统研讨会(NIPS),2012年,第1-10页。
[63] R.Kleinberg,Y.Li,Y.Yuan,另一种观点:SGD何时能逃脱局部极小值?arXiv预打印arXiv:1802.06175。
[64] P.Márquez-Niela,M.Salzmann,P.Fua,《对深层网络施加硬约束:承诺和限制》,arXiv预印本arXiv:1706.02025。
[65] P.Ramachandran,B.Zoph,Q.V.Le,Swish:一种自门控激活函数,arXiv预印本arXiv:1710.05941。
[66] D.P.Kingma,J.Ba,Adam:随机优化方法,arXiv预印本arXiv:1412.6980。
[67] 格洛洛特,X。;Bengio,Y.,《理解深度前馈神经网络训练的困难》(《国际人工智能与统计会议论文集》,《国际人工智慧与统计会议文献集》,AISTATS’10(2010),人工智能与统计学学会)
[68] K.He,X.Zhang,S.Ren,J.Sun,《深入研究整流器:在图像网络分类方面超越人类水平的性能》,载于:《IEEE计算机视觉国际会议论文集》,2015年,第1026-1034页。
[69] Blumer,A。;埃伦菲赫特,A。;Haussler,D。;Warmuth,M.K.,Occam剃刀,Inform。过程。莱特。,24, 6, 377-380 (1987) ·Zbl 0653.68084号
[70] 贾萨克,H。;杰姆科夫,A。;英国,《Openfoam:复杂物理模拟的c++库》(国际数值动力学耦合方法研讨会(2007),IUC),1-20
[71] Berger,S。;Jou,L.-D.,狭窄血管内的流动,年。流体力学版次。,32, 1, 347-382 (2000) ·Zbl 0989.76096号
[72] 布里斯曼,J.L。;Song,J.K。;Newell,D.W.,《脑动脉瘤》,新英格兰。《医学杂志》,355、9、928-939(2006)
[73] Cebral,J.R。;静音,F。;威尔,J。;Putman,C.M.,血流动力学特征与脑动脉瘤破裂的相关性,美国神经放射学会。,32, 2, 264-270 (2011)
[74] Chalouhi,N。;Hoh,B.L。;Hasan,D.,《脑动脉瘤形成、生长和破裂的回顾》,《中风》,44,12,3613-3622(2013)
[75] A.L.Maas、A.Y.Hannun和A.Y.Ng,《整流器非线性改善神经网络声学模型》,载《第30届机器学习国际年会论文集》,2013年第30卷,第3页。
[76] P.Ramachandran,B.Zoph,Q.V.Le,搜索激活函数,arXiv预印本arXiv:1710.05941。
[77] A.D.Jagtap,G.E.Karniadakis,自适应激活函数加速了深度和物理信息神经网络的收敛,arXiv预印本arXiv:1906.01170·Zbl 1453.68165号
[78] R.哈默利。;伯恩斯坦,L。;Sludds,A。;索尔亚契奇,M。;Englund,D.,基于光电倍增的大尺度光学神经网络,Phys。修订版X,9,2,第021032条第(2019)页
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。