×

\(mathrm{U}^p\)-net:用于参数化时空动力学的基于深度学习的通用时间步进器。 (英语) Zbl 1521.74436号

摘要:在大数据可用性时代,最近提出了数据驱动技术来计算时空动态的时间演化。根据对底层过程所需的先验知识,可以确定一系列黑盒端到端学习方法、物理信息神经网络和数据信息差异建模方法。在这项工作中,我们提出了一种纯数据驱动的方法,该方法使用完全卷积神经网络直接从线性时空过程的参数化数据集学习时空动力学。参数化允许在提议的(mathrm{U}^p\)-Net体系结构中对字段数量、域形状和边界条件进行数据融合。因此,多域网模型可以推广到不同的场景、初始条件、域形状和域大小,而无需重新训练或物理先验。为了验证目的,在通用二维波动方程和瞬态热方程上进行的数值实验表明,所提出的(mathrm{U}^p)-Net优于相同复杂度的经典U-Net和传统编解码结构。由于场景参数化,(mathrm{U}^p\)-Net模型学习预测由区域不均匀性和边界引起的折射和反射。分析了该模型在体育训练参数分布之外的泛化性质以及对未知区域形状的泛化特性。深度学习流图模型用于递归时间步长方案中的长期预测,表明数据驱动预测任务的潜力。这项工作伴随着一个开源代码。

MSC公司:

74S99型 固体力学中的数值方法和其他方法
74J99型 固体力学中的波
74F05型 固体力学中的热效应
68T07型 人工神经网络与深度学习
68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Mathews JH(1992)数学、科学和工程的数值方法,第10卷。Prentice-Hall国际·Zbl 0753.65002号
[2] Bezanson,J。;Edelman,A。;卡宾斯基,S。;Shah,VB,Julia:数值计算的新方法,SIAM Rev,59,1,65-98(2017)·Zbl 1356.68030号 ·数字对象标识代码:10.1137/141000671
[3] Schönherr M、Kucher K、Geier M、Stiebler M、Freudiger S、Krafczyk M(2011),CPU和GPU非均匀网格上格子Boltzmann方法的多线程实现。计算数学应用61(12):3730-3743。doi:10.1016/j.camwa.2011.04.012。ICMMES-09工程与科学介观方法论文集
[4] 克莱因,M。;杜德克,M。;克劳斯,GF;埃勒斯,S。;Behrendt,J。;霍夫曼,N。;Onorato,M.,《水波确定性预测》,《流体》,5,1,9(2020)·doi:10.3390/fluids5010009
[5] 维利厄,J。;Operto,S。;Ben-Hadj-Ali,H。;布罗西耶,R。;艾蒂安,V。;Sourbier,F。;Giraud,L。;Haidar,A.,地震成像地震波建模,Lead Edge,28,5,538-544(2009)·数字对象标识代码:10.1190/1.3124928
[6] 拉维库马尔,N。;诺布尔,C。;克拉姆蓬,E。;Taylor,Z.,《手术应变率下弹道明胶的本构模型》,《生物医学杂志》,47,87-94(2015)·doi:10.1016/j.jmbbm.2015.03.011
[7] 萨瓦赞,美联社;俄勒冈州鲁登科;斯旺森,SD;Fowlkes,J。;Emelianov,SY,剪切波弹性成像:一种新的医学诊断超声技术,超声医学生物学,24,9,1419-1435(1998)·doi:10.1016/s0301-5629(98)00110-0
[8] 贝拉,MJ;Sebastiáo,PJ,《对新冠肺炎流行病学数据进行微分方程模型拟合分析以解释多波动力学》,科学代表(2021年)·doi:10.1038/s41598-021-95494-6
[9] Krizhevsky Alex,Sutskever I,Hinton GE(2012),深度卷积神经网络的Imagenet分类。收录:Pereira F、Burges CJC、Bottou L、Weinberger KQ(编辑)《神经信息处理系统进展》,第25卷。Curran Associates,Inc,第1097-1105页
[10] Ronneberger O,Fischer P,Brox T(2015)U-net:生物医学图像分割的卷积网络,In:Navab N,Horneger J,Wells WM,Frangi AF(编辑),医学图像计算和计算机辅助干预-MICCAI 2015,计算机科学讲义第9351卷。查姆·斯普林格,第234-241页。数字对象标识代码:10.1007/978-3-319-24574-4_28
[11] 莱斯,M。;Karniadakis,GE,《隐藏物理模型:非线性偏微分方程的机器学习》,《计算物理杂志》,357125-141(2018)·Zbl 1381.68248号 ·doi:10.1016/j.jp.2017.11.039
[12] Raissi M(2018)前向随机神经网络:高维偏微分方程的深度学习。https://arxiv.org/pdf/1804.07010
[13] Raissi M,Perdikaris P,Karniadakis GE(2018),非线性动力系统数据驱动发现的多步神经网络。https://arxiv.org/pdf/1801.01236 ·Zbl 1386.65030号
[14] Stender M,Ohlsen J(2022)《深度台阶:v1.0.0》,芝诺。doi:10.5281/zenodo.6244753
[15] Raissi,M.,《深层隐藏物理模型:非线性偏微分方程的深层学习》,J Mach Learn Res,19,25,1-24(2018)·Zbl 1439.68021号
[16] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.,《基于物理的神经网络:解决非线性偏微分方程正反问题的深度学习框架》,《计算物理杂志》,378,686-707(2019)·Zbl 1415.68175号 ·doi:10.1016/j.jcp.2018.10.045
[17] 莱斯,M。;亚兹达尼,A。;通用电气公司Karniadakis,《隐藏流体力学:从流动可视化中学习速度和压力场》,《科学》,367,6481,1026-1030(2020)·Zbl 1478.76057号 ·doi:10.1126/science.aaw4741
[18] Cybenko,G.,通过sigmoid函数的叠加进行逼近,数学控制信号系统,2,4,303-314(1989)·兹伯利0679.94019 ·doi:10.1007/BF02551274
[19] 布鲁顿,SL;普克托,JL;Kutz,JN,通过非线性动力系统的稀疏识别从数据中发现控制方程,美国国家科学院院刊,113,15,3932-3937(2016)·Zbl 1355.94013号 ·doi:10.1073/pnas.1517384113
[20] 鲁迪,SH;布鲁顿,SL;普克托,JL;Kutz,JN,偏微分方程的数据驱动发现,《科学进展》,3,4(2017)·doi:10.1126/sciadv.1602614
[21] 王,W-X;Yang,R。;赖,Y-C;科瓦尼斯,V。;Grebogi,C.,《通过压缩感知预测非线性动力系统中的灾难》,《物理评论》,106,15(2011)·doi:10.10103/物理通讯.106.154101
[22] 布鲁顿,SL;布伦顿,BW;普克托,JL;Kaiser,E。;Kutz,JN,《作为间歇性受迫线性系统的混沌》,Nat Commun,8,1,19(2017)·doi:10.1038/s41467-017-00030-8
[23] Rudy,S。;Alla,A。;布鲁顿,SL;Kutz,JN,参数偏微分方程的数据驱动识别,SIAM J Appl Dyn Syst,18,2,643-660(2019)·Zbl 1456.65096号 ·doi:10.1137/18M1191944
[24] Long Z,Lu Y,Dong B(2019)PDE-Net 2.0:使用数字符号混合深度网络从数据中学习PDE。计算物理杂志399:108925。doi:10.1016/j.jcp.2019.108925·Zbl 1454.65131号
[25] Farimani AB、Gomes J、Pande VS(2017)《深入学习运输现象的物理》。arXiv预印本arXiv:1709.02432
[26] Sharma R、Farimani AB、Gomes J、Eastman P、Pande V(2018)《通过物理信息损失对热传输进行的弱监督深度学习》。arXiv公司:1807.11374
[27] 北卡罗来纳州瑟雷。;魏诺,K。;普兰特,L。;Hu,X.,翼型流动雷诺平均Navier-Stokes模拟的深度学习方法,AIAA J,58,1,25-36(2020)·doi:10.2514/1.J058291
[28] Chen J,Viquerat J,Hachem E(2019)快速预测不可压缩层流的U网络结构。arXiv预打印arXiv:1910.13532
[29] Eichinger M、Heinlein A、Klawonn A(2022)稳态计算流体动力学模拟的替代卷积神经网络模型。电子传输数字分析56:235-255。doi:10.1533/etnacol56s235·Zbl 1496.76110号
[30] Sanchez-Gonzalez A、Godwin J、Pfaff T、Ying R、Leskovec J、Battaglia PW(2020)学习用图形网络模拟复杂物理。arXiv:2002.09405号
[31] Guo X,Li W,Iorio F(2016)稳定流近似的卷积神经网络。摘自:第22届ACM SIGKDD知识发现和数据挖掘国际会议论文集,KDD’16,计算机械协会,纽约,第481-490页。数字对象标识代码:10.1145/2939672.2939738
[32] 索特伯格,WE;加拉斯特,S。;坎特威尔,CC;巴拉斯,AA;Oneto,L。;纳瓦林,N。;Sperduti,A。;Anguita,D.,使用深度神经网络近似表面波传播的解决方案,大数据和深度学习的最新进展,246-256(2020),查姆:斯普林格,查姆·doi:10.1007/978-3-030-16841-4_26
[33] Kim B、Azevedo VC、Thurey N、Kim T、Gross M、Solenthaler B(2019)《深层流体:参数化流体模拟的生成网络》。在:计算机图形学论坛,第38卷。威利,第59-70页
[34] Wiewel,S。;贝彻,M。;Thuerey,N.,《潜在空间物理学:走向流体流动的时间演化》,计算Gr论坛,38,2,71-82(2019)·数字对象标识代码:10.1111/cgf.13620
[35] Liu Y,Kutz JN,Brunton SL(2020)多尺度微分方程时间步进器的分层深度学习。arXiv预打印arXiv:2008.09768
[36] Tompson J、Schlachter K、Sprechmann P、Perlin K(2017)《用卷积网络加速欧拉流体模拟》。在:机器学习国际会议,PMLR,第3424-3433页
[37] Moseley B、Markham B、Nissen-Meyer T(2020年),利用基于物理的深度学习解决波动方程。arXiv预印本arXiv:2006.11894
[38] Shelhamer E、Long J、Darrell T(2017年)。语义分割的完全卷积网络。doi:10.1109/TPAMI.2016.2572683
[39] Fotiadis S、Pignatelli E、Valencia ML、Cantwell C、Storkey A、Bharath AA(2020)比较递归和卷积神经网络预测波传播。arXiv:2002.08981号
[40] de Bézenac E,Pajot A,Gallinari P。物理过程的深度学习:结合先前的科学知识。CoRR abs/1711.07970。arXiv:1711.07970
[41] Ioffe S,Szegedy C(2015)《批量规范化:通过减少内部协变量偏移来加速深层网络训练》。In:机器学习国际会议,PMLR,第448-456页
[42] 乔切克?,阿卜杜勒卡迪尔A,连坎普SS,布罗克斯T,罗恩伯格O(2016)《三维U-Net:从稀疏注释学习密集体积分割》,In:医学图像计算和计算机辅助干预国际会议。施普林格,第424-432页
[43] Whitham,GB,线性和非线性波(2011),威利
[44] Alns MS、Blechta J、Hake J、Johansson A、Kehlet B、Logg A、Richardson C、Ring J、Rognes ME、Wells GN(2015)《围栏项目1.5版》,数字软件档案3(100)。doi:10.11588/ans.2015.100.20553
[45] Närhi,M。;Salmela,L。;Toivonen,J。;钢坯,C。;达德利,JM;Genty,G.,《光纤调制不稳定性极端事件的机器学习分析》,Nat Commun,9,1,1-11(2018)·doi:10.1038/s41467-018-07355-y
[46] 阿卡萨米特,NO;Sapsis,T。;Haller,G.,拉格朗日海洋漂流者轨迹的机器学习中尺度和亚中尺度表面动力学,海洋物理学杂志,50,51177-1196(2020)·doi:10.1175/JPO-D-19-0238.1
[47] 弗拉查斯,PR;Pathak,J。;亨特,BR;皂甙,TP;Girvan,M。;Ott,E。;Koumoutsakos,P.,用于复杂时空动力学预测的递归神经网络中的反向传播算法和储层计算,神经网络,126191-217(2020)·doi:10.1016/j.neunet.2020.02.016
[48] Chu,B。;Farazmand,M.,《基于稀疏测量的多稳态系统数据驱动预测》,《混沌间盘J非线性科学》,31,6(2021)·Zbl 1475.37095号 ·数字对象标识代码:10.1063/5.0046203
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。