伊桑·哈希亚特;阿里·坎·贝卡尔;埃尔多安·马登奇;鲁本·胡安斯 使用周动力微分算子的非局部物理信息深度学习框架。 （英语） Zbl 1502.65172号 计算。方法应用。机械。工程师。 385，文章ID 114012，18 p.（2021）。 摘要：最近引入的物理信息神经网络（PINN）框架将物理学纳入深度学习，为偏微分方程（PDE）的求解以及方程参数的识别提供了一条有希望的途径。然而，由于网络无法全局捕获解的行为，现有PINN方法的性能可能会在存在陡峭梯度的情况下降低。我们认为，除了短程（局部）空间和时间变量外，通过在网络输入中引入远程（非局部）交互作用，可以弥补这一缺陷。根据这一分析，我们开发了一个非局部的PINN方法使用了周动力微分算子（PDDO）——一种数值方法，该方法结合了长程相互作用并消除了控制方程中的空间导数。由于PDDO函数可以很容易地并入神经网络体系结构中，因此非局部性不会降低现代深度学习算法的性能。我们将非局部PDDO-PINN应用于固体力学中材料参数的求解和识别，特别是应用于受刚性冲头压痕影响的区域中的弹塑性变形，对于该区域，混合位移-拉伸边界条件会导致解中的局部变形和陡峭梯度。我们记录了非局部PINN在求解精度和参数推断方面相对于局部PINNs的优越性，说明了其在模拟和发现偏微分方程（其解会产生陡峭梯度）方面的潜力。 引用于28文件 MSC公司： 65M99型 偏微分方程、初值和含时初边值问题的数值方法 68T07型 人工神经网络与深度学习 74A70型 周边动力学 关键词：深度学习;周动力微分算子;基于物理的神经网络;代理模型 软件：PRMLT公司;AlexNet公司;西雅娜;科学Py;DiffSharp（差异锐化）;SciANN公司;凯拉斯;阿达格拉德;hp-车辆识别号;github;ImageNet公司;COMSOL公司;亚当;TensorFlow公司;MXNet公司;PyTorch公司;PPINN公司 PDF格式BibTeX公司 XML格式引用 \textit{E.Haghighat}等人，计算。方法应用。机械。工程385，文章ID 114012，18 p.（2021；Zbl 1502.65172） 全文： 内政部 arXiv公司 参考文献： [1] 古德费罗，I。；Y.本吉奥。；A.Courville，《深度学习》，800（2016），麻省理工学院出版社，URLhttps://www.deeplearningbook.org ·Zbl 1373.68009号 [2] Bishop，C.M.，模式识别和机器学习（2006），Springer-Verlag:Springer-Verlag Berlin，Heidelberg，URLhttps://www.springer.com/gp/book/9780387310732网址 ·Zbl 1107.68072号 [3] Krizhevsky，A。；Sutskever，I。；Hinton，G.E.，用深度卷积神经网络进行Imagenet分类，（Pereira，F.；Burges，C.J.C.；Bottou，L.；Weinberger，K.Q.，《神经信息处理系统进展》，NIPS 2012（2012），1097-1105 [4] LeCun，Y。；Y.本吉奥。；Hinton，G.，《深度学习》，《自然》，521，7553，436-444（2015） [5] Jannach，D。；Zanker，M。；Felfernig，A。；Friedrich，G.，《推荐系统：简介》（2010），剑桥大学出版社 [6] 张，S。；姚明。；Sun，A。；Tay，Y.，《基于深度学习的推荐系统：调查与新视角》，ACM Compute。调查。，52, 1, 1-38 (2019) [7] A.Graves，M.Abdel-Rahman，G.Hinton，深度递归神经网络语音识别，收录于：IEEE声学、语音和信号处理国际会议，2013年，第6645-6649页。 [8] Bojarski，M。；德尔·特斯塔，D。；德沃拉科夫斯基，D。；Firner，B。；弗莱普，B。；戈亚尔，P。；Jackel，L.D。；蒙福特，M。；美国穆勒。；Zhang，J.，《自动驾驶汽车的端到端学习》（2016），arXiv预印本arXiv:1604.07316 [9] 米奥托，R。；Wang，F。；王，S。；蒋，X。；Dudley，J.T.，《医疗保健深度学习：回顾、机遇与挑战》，简介。生物信息。，19, 6, 1236-1246 (2018) [10] Brunton，S.L。；Kutz，J.N.，《数据驱动科学与工程：机器学习、动态系统和控制》（2019），剑桥大学出版社·Zbl 1407.68002号 [11] M.P.布伦纳。；Eldredge，J.D。；Freund，J.B.，《推进流体力学的机器学习透视》，物理。流体版本，第4、10条，第100501页（2019年），URLhttps://link.aps.org/doi/10.103/PhysRevFluids.4.100501 [12] 加布西，J。；Sidarta，D.，用于本构建模的新型嵌套自适应神经网络（NANN），计算。岩土工程。，22, 1, 29-52 (1998) [13] Kirchdoerfer，T。；Ortiz，M.，数据驱动计算力学，计算。方法应用。机械。工程师，304，81-101（2016）·Zbl 1425.74503号 [14] Haghighat，E。；莱斯，M。；A.穆尔。；戈麦斯，H。；Juanes，R.，《固体力学反演和替代建模的基于物理的深度学习框架》，《应用力学与工程中的计算机方法》，379，113741（2021），URLhttps://doi.org/10.1016/j.cma.2021.113741 ·Zbl 1506.74476号 [15] 德弗里斯，P.M.R。；维加斯，F。；Wattenberg，M。；Meade，B.J.，《大地震后余震模式的深度学习》，《自然》，560，7720，632-634（2018） [16] 孔，Q。；特鲁格曼，D.T。；罗斯，Z.E。；Bianco，M.J。；米德，B.J。；Gerstoft，P.，《地震学中的机器学习：将数据转化为见解》，《地震》。Res.Lett.公司。，90, 1, 3-14 (2018) [17] Bergstra，J。；Breuleux，O。；巴斯蒂恩，F。；兰姆林，P。；帕斯卡努，R。；Desjardins，G。；Turian，J。；Warde-Farley，D。；Bengio，Y.，Theano:CPU和GPU数学表达式编译器，（科学计算会议Python论文集，SciPy，第4卷（2010）），3 [18] M.阿巴迪。；巴勒姆，P。；陈，J。；陈，Z。；A.戴维斯。；迪安·J。；德文，M。；Ghemawat，S。；欧文，G。；Isard，M。；库德勒，M。；Levenberg，J。；蒙加，R。；摩尔，S。；D.G.穆雷。；斯坦纳，B。；塔克，P。；瓦苏德万，V。；监狱长，P。；威克，M。；Yu，Y。；Zheng，X.，TensorFlow:大型机器学习系统，（第12届USENIX操作系统设计与实现研讨会，OSDI 16（2016），USENIX-协会：美国乔治亚州萨凡纳USENIX-Association Savannah），265-283，URLhttps://www.usenix.org/conference/osdi16/technical-sessions/presentation/abadi网站 [19] Paszke，A。；毛重，S。；马萨，F。；Lerer，A。；布拉德伯里，J。；Chanan，G。；基林，T。；林，Z。；Gimelshein，N。；Antiga，L.，PyTorch:一个命令式、高性能的深度学习库，（Wallach，H.；Larochelle，H.，Beygelzimer，A.；d'AlchéBuc，F.；Fox，E.；Garnett，R.，《神经信息处理系统进展》，NIPS 2019（2019）），8024-8035 [20] Haghighat，E。；Juanes，R.，SciANN:使用人工神经网络进行科学计算和基于物理的深度学习的Keras/TensorFlow包装器，应用力学和工程中的计算机方法，373113552（2021），URLhttps://doi.org/10.1016/j.cma.2020.113552 ·兹比尔1506.65251 [21] Han，J。；Jentzen，A。；E、 W.，使用深度学习求解高维偏微分方程，Proc。国家。阿卡德。科学。，115、34、8505-8510（2018），网址https://www.pnas.org/content/115/34/8505 ·Zbl 1416.35137号 [22] Bar-Sinai，Y。；霍耶，S。；希基，J。；Brenner，M.P.，学习偏微分方程的数据驱动离散化，Proc。国家。阿卡德。科学。，116、31、15344-15349（2019），网址https://www.pnas.org/content/116/31/15344 ·Zbl 1431.65195号 [23] Rudy，S。；Alla，A。；Brunton，S.L。；Kutz，J.N.，参数偏微分方程的数据驱动识别，SIAM J.Appl。动态。系统。，18、2、643-660（2019），网址https://epubs.siam.org/doi/abs/10.1137/18M1191944 ·Zbl 1456.65096号 [24] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号 [25] 冠军K。；Lusch，B。；库茨，J.N。；Brunton，S.L.，数据驱动的坐标和控制方程发现，Proc。国家。阿卡德。科学。，116、45、22445-22451（2019），网址https://www.pnas.org/content/116/45/22445 ·Zbl 1433.68396号 [26] 莱斯，M。；亚兹达尼，A。；Karniadakis，G.E.，《隐藏流体力学：从流动可视化中学习速度和压力场》，《科学》，367，6481，1026-1030（2020）·Zbl 1478.76057号 [27] Baydin，A.G。；Pearlmutter，B.A。；Radul，A.A。；Siskind，J.M.，《机器学习中的自动差异化：一项调查》，J.Mach。学习。研究，18，1，5595-5637（2017），URLhttps://dl.acm.org/doi/abs/10.5555/3122009.3242010 [28] Kharazmi，E。；张，Z。；Karniadakis，G.E.，Hp-vpinns:带区域分解的变分物理信息神经网络，应用力学和工程中的计算机方法，374，113547（2021），网址https://doi.org/10.1016/j.cma.2020.113547 ·Zbl 1506.68105号 [29] X孟。；李，Z。；张，D。；Karniadakis，G.E.，PPINN:时间相关PDE的准实物理信息神经网络，应用力学和工程中的计算机方法，370，113250（2020），网址https://doi.org/10.1016/j.cma.2020.113250 ·Zbl 1506.65181号 [30] Madenci，E。；巴鲁特，A。；Futch，M.，周动力微分算子及其应用，计算。方法应用。机械。工程，304，408-451（2016）·Zbl 1425.74043号 [31] Madenci，E。；巴鲁特，A。；Dorduncu，M.，数值分析的周动力微分算子（2019），Springer·兹伯利07658003 [32] Silling，S.A.，《不连续性和长程力弹性理论的改革》，J.Mech。物理学。固体，48,1175-209（2000）·Zbl 0970.74030号 [33] Silling，S.A。；Askari，E.，基于固体力学周动力模型的无网格方法，计算。结构。，83, 17-18, 1526-1535 (2005) [34] Silling，S.A。；埃普顿，M。；O.威克纳。；徐，J。；Askari，E.，《周动力状态和本构建模》，J.Elasticity，88，2，151-184（2007）·Zbl 1120.74003号 [35] Silling，S.A。；Lehoucq，R.B.，《周动力学与经典弹性理论的融合》，《弹性力学杂志》，93，1，13（2008）·Zbl 1159.74316号 [36] Madenci，E。；Oterkus，E.，周动力理论及其应用（2014），Springer·Zbl 1295.74001号 [37] Madenci，E。；Dorduncu，M。；巴鲁特，A。；Futch，M.，使用周动力微分算子数值求解线性和非线性偏微分方程，Numer。方法偏微分方程，33，5，1726-1753（2017）·兹比尔1375.65124 [38] Chen，T。；李，M。；李毅。；林，M。；Wang，N。；王，M。；肖，T。；徐，B。；张，C。；Zhang，MXNet:异构分布式系统的灵活高效机器学习库（2015），arXiv:1512.01274 [39] 杜奇，J。；哈赞，E。；Singer，Y.，在线学习和随机优化的自适应次梯度方法，J.Mach。学习。研究，7月12日，2121-2159（2011），URLhttp://jmlr.org/papers/v12/duchi11a.html ·Zbl 1280.68164号 [40] Kingma，D.P。；Ba，J.，Adam：随机优化方法（2014），arXiv:1412.6980 [41] Cholet，F.，Keras（2015），网址https://github.com/fchollet/keras [42] Simo，J.C。；Hughes，T.J.R.，计算非弹性（1998），Springer·Zbl 0934.74003号 [43] COMSOL，J.C.，COMSOL Multiphysics User's Guide（2020），COMSOL:瑞典斯德哥尔摩COMSOL 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。