×

一种从高保真度数据中学习的复合神经网络:应用于函数逼近和逆PDE问题。 (英语) Zbl 1454.76006号

摘要:目前,神经网络的训练依赖于具有可比精度的数据,但在实际应用中,只有非常小的一组高保真数据可用,而廉价的低保真数据可能很多。我们提出了一种新的复合神经网络(NN),它可以基于多保真度数据进行训练。它由三个NN组成,第一个NN使用低维数据训练,并与两个高保真NN耦合,一个具有激活函数,另一个没有,以便分别发现和利用低维数据和高保真数据之间的非线性和线性相关性。我们首先证明了新的多保真度神经网络用于逼近一些标准基准函数以及20维函数的准确性,该函数不容易用其他方法进行逼近,例如高斯过程回归。随后,我们将最近开发的物理信息神经网络(PINN)扩展为使用多保真数据集(MPINN)进行训练。MPINN包含四个完全连接的神经网络,其中第一个神经网络用于逼近低保真数据,而第二个和第三个神经网络则构建低保真和高保真数据之间的相关性并生成多保真逼近,然后将其用于编码偏微分方程(PDE)的最后一个神经网络。具体来说,通过将相关性分解为线性和非线性部分,该模型能够自适应地学习低保真度和高保真度数据之间的线性和复杂非线性相关性。通过训练MPINN,我们可以:(1)获得低保真度数据和高保真度数据之间的相关性,(2)基于少量分散数据推断感兴趣的数量,以及(3)识别PDE中的未知参数。特别地,我们使用MPINN来学习非饱和流的水力传导场以及反应输运的反应模型。结果表明,MPINN可以在很小的高保真数据集上实现较高的精度。尽管本研究中基准问题的维数相对较低,可信度(两保真度)数量有限,但所提出的模型可以很容易地扩展到涉及多保真度数据的高维回归和分类问题。

MSC公司:

76-10 流体力学问题的数学建模或模拟
68T07型 人工神经网络与深度学习
76S05号 多孔介质中的流动;过滤;渗流
76伏05 流动中的反应效应

软件:

提森的
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 新墨西哥州亚历山德罗夫。;刘易斯·R·M。;Gumbert,C.R。;格林,L.L。;Newman,P.A.,《变刚度模型气动优化中的近似和模型管理》,J.Aircr。,38, 6, 1093-1101 (2001)
[2] Böhnke,D。;Nagel,B。;Gollnick,V.,分布式设计环境中概念飞机设计的高保真度方法,(2011年航空航天会议(2011年),IEEE),1-10
[3] 郑,L。;Hedrick,T.L。;Mittal,R.,用于评估和优化扑翼飞行中机翼冲程空气动力学的多保真建模方法,J.流体力学。,721, 118-154 (2013) ·Zbl 1287.76257号
[4] Nguyen,N.V.公司。;Choi,S.M。;Kim,W.S。;Lee,J.W。;Kim,S。;Neufeld,D。;Byun,Y.H.,使用多保真度模型的多学科无人作战飞行器系统设计,Aerosp。科学。技术。,26, 1, 200-210 (2013)
[5] Chang,H。;张,D.,通过数据驱动和数据相似相结合的方法识别物理过程,J.Compute。物理。,393, 337-350 (2019) ·Zbl 1453.62797号
[6] M.C.肯尼迪。;O'Hagan,A.,《当快速近似可用时预测复杂计算机代码的输出》,Biometrika,87,1,1-13(2000)·Zbl 0974.62024号
[7] Forrester,A.I。;Sóbester,A。;Keane,A.J.,《通过代理建模实现多精度优化》,Proc。,数学。物理学。工程科学。,463, 2088, 3251-3269 (2007) ·Zbl 1142.90489号
[8] 莱斯,M。;Karniadakis,G.E.,深多保真度高斯过程(2016),arXiv预印本
[9] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《利用噪声多保真数据推断微分方程解》,J.Compute。物理。,335, 736-746 (2017) ·Zbl 1382.65229号
[10] 佩迪卡里斯,P。;莱斯,M。;Damianou,A。;劳伦斯,N。;Karniadakis,G.E.,用于数据高效多保真建模的非线性信息融合算法,Proc。,数学。物理学。工程科学。,473、2198,第20160751条,pp.(2017)·Zbl 1407.62252号
[11] Bonfiglio,L。;佩迪卡里斯,P。;Vernengo,G。;德梅代罗斯,J.S。;Karniadakis,G.E.,《使用多保真度高斯过程和贝叶斯优化改善小水线带耐波性能》,J.Ship Res.,62,4,223-240(2018)
[12] Chang,K.J。;哈夫特卡,R.T。;Giles,G.L。;Kao,I.J.,用于近似结构响应的基于灵敏度的缩放,J.Aircr。,30283-288(1993年)
[13] 维塔利·R。;哈夫特卡,R.T。;Sankar,B.V.,《含裂纹加劲复合板的多精度设计》,结构。多磁盘。最佳。,23, 5, 347-356 (2002)
[14] Eldred,M.,非侵入多项式混沌和随机配置方法在不确定性分析和设计中的最新进展,(第50届AIAA/ASME/ASCE/AHS/ASC结构、结构动力学和材料会议第17届AIAA/ASME/AHS自适应结构会议第11届AIAA(2009)),2274
[15] 帕德隆,A.S。;阿隆索,J.J。;Eldred,M.S.,气动鲁棒优化中的多精度方法,(第18届AIAA非确定性方法会议(2016)),第0680页。
[16] Laurenceau,J。;Sagaut,P.,《利用克里金和柯克里金构建气动功能的有效响应面》,美国航空航天协会J.,46,2,498-507(2008)
[17] Minisci,E。;Vasile,M.,《通过多保真进化控制实现再入无人航天器的稳健设计》,AIAA J.,51,6,1284-1295(2013)
[18] 兰卡斯特,P。;Salkauskas,K.,移动最小二乘法生成的曲面,数学。计算。,37, 155, 141-158 (1981) ·兹比尔0469.41005
[19] 莱文,D.,移动最小二乘法的逼近能力,数学。竞争。,67, 224, 1517-1531 (1998) ·Zbl 0911.41016号
[20] Fernández-Godino,M.G。;帕克,C。;Kim,N.H。;Haftka,R.T.,《多保真度模型评论》(2016),arXiv预印本
[21] Babaee,H。;佩迪卡里斯,P。;Chryssostomidis,C。;Karniadakis,G.E.,基于实验相关性和数值模拟的混合对流多精度建模,《流体力学杂志》。,809, 895-917 (2016) ·Zbl 1383.76438号
[22] 郑琦。;张杰。;徐伟(Xu,W.)。;Wu,L。;Zeng,L.,非线性地下水流问题的自适应多保真度数据同化,水资源。决议,55,203-217(2018)
[23] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《基于物理的神经网络:用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》,J.Compute。物理。,378686-707(2019)·Zbl 1415.68175号
[24] 莱斯,M。;亚兹达尼,A。;Karniadakis,G.E.,《隐藏流体力学:Navier-Stokes为同化流动可视化数据提供的深度学习框架》(2018),arXiv预印本
[25] 塔塔科夫斯基,A.M。;马里罗,哥伦比亚特区。;塔塔科夫斯基,D。;巴拉哈斯·索拉诺(Barajas-Solano),D.,学习参数和与物理相关的深层神经网络的本构关系(2018),arXiv预印本
[26] 张,D。;Lu,L.等人。;Guo,L。;Karniadakis,G.E.,《量化物理信息神经网络中用于解决正向和反向随机问题的总不确定性》,J.Compute。物理。,397,第108850条pp.(2019)·Zbl 1454.65008号
[27] 徐振强。;Zhang,Y。;罗,T。;Xiao,Y。;Ma,Z.,频率原理:傅立叶分析揭示深度神经网络,arXiv预印本·Zbl 1507.68279号
[28] Lee,S。;迪特里希,F。;Karniadakis,G.E。;Kevrekidis,I.G.,将高斯过程回归与数据驱动流形嵌入相结合,用于非线性数据融合(2018),arXiv预印本
[29] 掸邦,S。;Wang,G.G.,基于高维仿真的设计问题元建模,J.Mech。设计。,132,5,第051009条pp.(2010)
[30] Markstrom,S.L.公司。;Niswonger,R.G。;里根,R.S。;Prudic,D.E。;Barlow,P.M.,基于降水径流模型系统(PRMS)和模块化地下水流量模型(MODFLOW-2005)集成的Gsflow耦合地下水和地表水流模型,美国地质调查技术和方法,第6卷,240(2008)
[31] Hayashi,M。;Rosenberry,D.O.,地下水,地下水,地下水交换对地表水水文和生态的影响,40,309-316(2002)
[32] Van Genuchten,M.T.,预测非饱和土壤导水率的封闭式方程,土壤科学。《美国社会杂志》,44,5,892-898(1980)
[33] 卡塞尔,R.F。;Parrish,R.S.,《开发土壤水分保持特性的联合概率分布》,《水资源》。研究,24,5,755-769(1988)
[34] X孟。;Guo,Z.,多孔介质中可混溶粘性驱替的局部化格子Boltzmann方程模型,J.热质传递。,100, 767-778 (2016)
[35] Shi,B。;Guo,Z.,非线性对流扩散方程的格子Boltzmann模型,物理学。E版,79,1,第016701条,pp.(2009)
[36] Whitney,H.,可微流形,《数学年鉴》。,645-680 (1936)
[37] Takens,F.,《探测湍流中的奇怪吸引子》,(动力系统与湍流,动力系统与紊流,沃里克,1980(1981),施普林格),366-381·Zbl 0513.58032号
[38] Hegger,R。;康茨,H。;Schreiber,T.,《非线性时间序列方法的实际实现:tisean包》,混沌,9,2,413-435(1999)·Zbl 0990.37522号
[39] 阿巴巴内尔,H.D。;布朗,R。;西多罗维奇,J.J。;Tsimring,L.S.,《物理系统中观测到的混沌数据分析》,修订版。物理。,65, 4, 1331 (1993)
[40] 迪尔,N。;Kosiorek,A.R。;Posner,I.,动态系统的贝叶斯延迟嵌入,(神经信息处理系统会议(2017))
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。