基蒂尔·奥·莱伊。;悉达多米什拉;雷,深 计算流体动力学中的深度学习观察。 (英语) Zbl 1436.76051号 J.计算。物理学。 410,文章ID 109339,25 p.(2020). 摘要:计算流体动力学中的许多大规模问题,如不确定性量化、贝叶斯反演、数据同化和PDE约束优化,在计算上被认为是非常具有挑战性的,因为它们需要相应PDE的大量昂贵(正向)数值解。我们提出了一种基于深度人工神经网络的机器学习算法,可以预测潜在的输入可观测参数来自几个训练样本的映射(该映射的计算实现)。通过理论论证和经验观测的明智结合,我们找到了合适的网络结构和训练超参数,从而使参数的神经网络逼近到可观测映射。通过数值实验证明,即使网络是用少量样本训练的,训练后网络的预测误差也很低,计算成本比潜在的PDE解算器低几个数量级。此外,我们将所提出的深度学习算法与蒙特卡洛(MC)和准蒙特卡罗(QMC)方法相结合,以有效计算非线性偏微分方程的不确定性传播。在底层神经网络泛化良好的假设下,我们证明了深度学习MC和QMC算法保证比基线(准)蒙特卡罗方法更快。对于计算可观测概率分布的复杂问题,还进行了数值实验,证明QMC和MC算法比基线算法提高了一到两个数量级的速度。 引用于37文件 理学硕士: 76立方米 随机分析在流体力学问题中的应用 68层37 人工智能背景下的不确定性推理 76兰特 扩散 76兰特 自由对流 76升05 流体力学中的冲击波和爆炸波 76N15型 气体动力学(一般理论) 关键词:计算流体力学;深度学习;美国;神经网络;可观察到的;准蒙特卡罗 软件:亚当;TensorFlow公司;Matlab公司;喀拉拉邦 PDF格式BibTeX公司 XML格式引用 \textit{K.O.Lye}等人,《计算杂志》。物理学。410,文章ID 109339,25 p.(2020;Zbl 1436.76051) 全文: 内政部 arXiv公司 参考文献: [1] 阿布格拉尔,R。;Crisovan,R.,《使用L1-形式极小化的模型简化作为非线性双曲问题的应用》,国际期刊Numer。方法流体,87,12,628-651(2018) [2] 桑吉耶夫·阿罗拉;葛荣;尼沙布尔,贝纳姆;Zhang,Yi,通过压缩方法实现深网的更强泛化界限,(第35届机器学习国际会议论文集,第80卷(2018年7月)),254-263 [3] Barron,A.R.,σ函数叠加的通用近似界,IEEE Trans。Inf.理论,39,3930-945(1993)·Zbl 0818.68126号 [4] (Bijl,H.;Lucor,D.;Mishra,S.;Schwab,Ch.,《计算流体动力学中的不确定性量化》,《计算科学与工程讲义》,第92卷(2014),施普林格出版社)·Zbl 1276.76005号 [5] Bölcskei,H。;Grohs,P。;Kutyniok,G。;Petersen,P.,《稀疏连接深度神经网络的最佳逼近》(2017),arXiv预印本,可从 [6] Borzi,A。;Schulz,V.,偏微分方程控制系统的计算优化(2012),SIAM·Zbl 1240.90001号 [7] Bungartz,H.J。;Griebel,M.,《稀疏网格》,《数值学报》。,13, 147-269 (2004) ·Zbl 1118.65388号 [8] Caflisch,R.E.,蒙特卡罗和准蒙特卡罗方法,《数值学报》。,1, 1-49 (1988) ·Zbl 0949.65003号 [9] Crisovan,R。;托洛,D。;Abgrall,R。;Tokareva,S.,参数化非线性双曲问题的模型降阶作为不确定性量化的应用,J.Compute。申请。数学。,348, 466-489 (2019) ·Zbl 1404.65112号 [10] Cybenko,G.,通过S形函数叠加的逼近,逼近理论应用。,9,3,17-28(1989年)·Zbl 0679.94019号 [11] Dafermos,Constantine M.,《连续介质物理学中的双曲守恒定律》(2005),斯普林格-弗拉格出版社·Zbl 1078.35001号 [12] E、 W。;Yu,B.,The deep Ritz method:一种基于深度学习的数值算法,用于求解变分问题,Commun。数学。《法律总汇》,6,1,1-12(2018)·Zbl 1392.35306号 [13] E、 W。;Han,J。;Jentzen,A.,高维抛物型偏微分方程和后向随机微分方程的基于深度学习的数值方法,Commun。数学。Stat.,5,4,349-380(2017)·Zbl 1382.65016号 [14] Evans,R.,基于深度学习评分的从头开始结构预测(2019),谷歌DeepMind工作文件 [15] 美国Fjordholm。;米什拉,S。;Tadmor,E.,守恒定律系统的任意高阶精确熵稳定本质非振荡格式,SIAM J.Numer。分析。,50, 2, 544-573 (2012) ·Zbl 1252.65150号 [16] (Ghanem,R.;Higdon,D.;Owhadi,H.,《不确定性量化手册》(2016),施普林格)·Zbl 1372.60001号 [17] 古德费罗,I。;Y.本吉奥。;Courville,A.,《深度学习》(2016),麻省理工学院出版社,网址:·兹比尔1373.68009 [18] Edwige Godlewski;Raviart,Pierre A.,双曲守恒律系统,数学与应用(1991),椭圆出版物:椭圆出版物。巴黎·Zbl 0768.35059号 [19] Han,J。;Jentzen,A。;E、 W.,使用深度学习求解高维偏微分方程,Proc。国家。阿卡德。科学。美国,115、34、8505-8510(2018)·Zbl 1416.35137号 [20] Hesthaven,J.S.,《守恒定律的数值方法:从分析到算法》(2018),SIAM·Zbl 1403.65001号 [21] (Hirsch,C.;Wunsch,D.;Szumbarksi,J.;Laniewski-Wollk,L.;Pons-Prats,J.,《航空工业稳健设计的不确定性管理》,《航空稳健工业设计的不确定度管理》,数值流体力学和多学科设计注释,第140卷(2018),斯普林格出版社) [22] 霍尼克,K。;Stinchcombe,M。;White,H.,多层前馈网络是通用逼近器,神经网络。,2, 5, 359-366 (1989) ·Zbl 1383.92015年 [23] Kingma,Diederik P。;Lei Ba,Jimmy,Adam:一种随机优化方法,(国际学习表征会议(2015)),1-13 [24] 拉加里斯,I.E。;利卡斯,A。;Fotiadis,D.I.,求解常微分方程和偏微分方程的人工神经网络,IEEE Trans。神经网络。,987-10000年9月5日(1998年) [25] Landau,L.D。;Lipschitz,E.M.,《流体力学》(1987),巴特沃斯·海涅曼,532页 [26] LeCun,Y。;Y.本吉奥。;Hinton,G.,《深度学习》,《自然》,521436-444(2015) [27] LeVeque,R.J.,常微分方程和偏微分方程的有限差分方法,稳态和时间相关问题,SIAM(2007)·兹比尔1127.65080 [28] Lye,K.O。;米什拉,S。;Molinaro,R.,《提高机器学习算法准确性的多层次程序》(2019年),预打印,网址: [29] Mishra,S.,《数据驱动的微分方程计算加速的机器学习框架》,数学。工程师,1,1,118-146(2018)·Zbl 1435.68279号 [30] S.Mishra,T.K.Rusch,《通过对低差异序列进行训练来提高机器学习算法的准确性》,准备中。 [31] Miyanawala,T.P。;Jaiman,R.K.,Navier-Stokes方程的有效深度学习技术:应用于非定常尾流动力学(2017),预印本,可从 [32] Mhaskar,H.N.,光滑函数和解析函数最佳逼近的神经网络,神经计算。,8, 1, 164-177 (1996) [33] Munkres,J.,分配和运输问题的算法,J.Soc.Ind.Appl。数学。,5, 1, 32-38 (1957) ·Zbl 0083.15302号 [34] 尼沙布尔,贝纳姆;李志远;斯利纳达博贾纳帕利;Yann LeCun;Srebro,Nathan,《理解过度参数化在神经网络泛化中的作用》(2018),arXiv预印本 [35] 彼得森,P。;Voightlaender,F.,使用深度ReLU神经网络的分段光滑函数的最佳逼近(2018),arXiv预印本,可从 [36] 莱斯,M。;Karniadakis,G.E.,《隐藏物理模型:非线性偏微分方程的机器学习》,J.Compute。物理。,357, 125-141 (2018) ·Zbl 1381.68248号 [37] 莱斯,M。;亚兹达尼,A。;Karniadakis,G.E.,《隐藏流体力学:Navier-Stokes为同化流动可视化数据提供的深度学习框架》(2018年),arXiv预印本,可从 [38] 雷·D。;Hesthaven,J.S.,《作为问题细胞指示器的人工神经网络》,J.Compute。物理。,367, 166-191 (2018) ·Zbl 1415.65229号 [39] 雷·D。;Chandrasekhar,P。;美国Fjordholm。;Mishra,S.,欧拉方程二维非结构网格上的熵稳定格式,Commun。计算。物理。,19, 5, 1111-1140 (2016) ·Zbl 1373.76143号 [40] Ruder,S.,梯度下降优化算法概述(2017),预打印,可从 [41] 施瓦布,C。;Zech,J.,《高维深度学习》(2017),应用数学研讨会,苏黎世理工学院,2017-57年技术报告 [42] Shalev-Shwartz,Shai;Ben David,Shai,《理解机器学习:从理论到算法》(2014),剑桥大学出版社·Zbl 1305.68005号 [43] Stuart,A.M.,《逆向问题:贝叶斯观点》,《数值学报》。,19, 451-559 (2010) ·Zbl 1242.65142号 [44] 汤普森,J。;Schlachter,K。;Sprechmann,P。;Perlin,K.,《用卷积网络加速欧拉流体模拟》(2017),预印本,可从 [45] Trefethen,L.N.,MATLAB中的光谱方法(2000),SIAM·Zbl 0953.68643号 [46] Troltzsch,F.,偏微分方程的最优控制(2010),AMS [47] Quateroni,A。;Manzoni,A。;Negri,F.,偏微分方程的简化基方法:导论(2015),Springer Verlag [48] Villani,C.,《最佳交通主题》,数学研究生课程,第58卷(2013年),美国数学学会 [49] Yarotsky,D.,深度ReLU网络近似的误差界,神经网络。,94, 103-114 (2017) ·Zbl 1429.68260号 [50] 张池源;萨米·本吉奥(Samy Bengio);Hardt,Moritz;本杰明·雷赫特(Benjamin Recht);Vinyals、Oriol、理解深度学习需要重新思考概括,(国际学习代表大会(2017)) [51] 张林峰;林德叶;王,韩;汽车,罗伯托;Weinan,E.,材料模拟中均匀准确原子间势的主动学习(2018),arXiv预印本,可从 [52] 科雷特、弗朗索瓦、卡拉斯(2015) [53] Abadi,Martin,TensorFlow:异构系统上的大规模机器学习(2015) 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。