×

固体力学反演和代理建模的基于物理的深度学习框架。 (英语) Zbl 1506.74476号

摘要:我们介绍了一类深度学习,即物理信息神经网络(PINN)在固体力学反演和替代建模中的应用。我们解释了如何将动量平衡和本构关系纳入PINN,并详细探讨了其在线性弹性中的应用,并通过一个演示von Mises弹塑性的例子说明了其对非线性问题的扩展。虽然常见的PINN算法是基于训练一个深度神经网络(DNN),但我们提出了一个多网络模型,可以更准确地表示字段变量。为了验证模型,我们利用分析和数值参考解生成的合成数据测试了该框架。我们研究了PINN模型的收敛性,结果表明,与经典的低阶有限元方法(FEM)相比,等几何分析(IGA)具有更高的精度和收敛特性。我们还展示了迁移学习框架的适用性,并发现在网络再培训期间大大加快了收敛速度。最后,我们发现,尊重物理学可以提高鲁棒性:当只对几个参数进行训练时,我们发现PINN模型可以准确预测网络中大量新参数的解决方案,从而表明该框架在灵敏度分析和代理建模中的重要应用。

MSC公司:

74秒22 等几何方法在固体力学问题中的应用
74S05号 有限元方法在固体力学问题中的应用
65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bishop,C.M.,模式识别和机器学习(2006),Springer-Verlag:Springer-Verlag Berlin,Heidelberg,URL:https://www.springer.com/gp/book/9780387310732。数字对象标识:https://dl.acm.org/doi/book/10.5555/1162264 ·Zbl 1107.68072号
[2] LeCun,Y。;Y.本吉奥。;Hinton,G.,《深度学习》,《自然》,521,7553,436-444(2015)
[3] 古德费罗,I。;Y.本吉奥。;Courville,A.,《深度学习》,800(2016),麻省理工学院出版社,网址:https://www.deeplearningbook.org。数字对象标识:https://dl.acm.org/doi/book/10.5555/3086952 ·Zbl 1373.68009号
[4] Yoon,C.E。;O'Reilly,O。;Bergen,K.J。;Beroza,G.C.,通过计算效率相似性搜索进行地震检测,科学。Adv.,1,11,Article e1501057 pp.(2015),网址:http://advances.sciencemag.org/lookup/doi/10.1126/sciadv.1501057
[5] Bergen,K.J。;约翰逊,P.A。;德胡普,M.V。;Beroza,G.C.,固体地球科学中数据驱动发现的机器学习,科学,3636433(2019),URL:https://science.sciencemag.org/content/363/6433/eaau0323。arXiv:https://science.sciencemag.org/content/363/6433/eaau0323.full.pdf
[6] DeVries,P.M。;维加斯,F。;Wattenberg,M。;Meade,B.J.,《大地震后余震模式的深度学习》,《自然》,560,7720,632-634(2018)
[7] 孔,Q。;特鲁格曼,D.T。;罗斯,Z.E。;Bianco,M.J。;米德,B.J。;Gerstoft,P.,地震学中的机器学习:将数据转化为见解,Seismol。Res.Lett.公司。,90, 1, 3-14 (2018)
[8] Ren,C.X。;俄勒冈州多罗斯特卡尔。;Rouet-Leduc,B。;Hulbert,C。;斯特雷贝尔,D。;盖耶,R.A。;约翰逊,P.A。;Carmeliet,J.,机器学习揭示了剪切粒状断层Geophys中间歇性摩擦动力学的状态。Res.Lett.公司。,46、13、7395-7403(2019),网址:https://agupubs.onlinelibrary.wiley.com/doi/abs/10.1029/2019GL082706。arXiv公司:https://agupubs.onlinelibrary.wiley.com/doi/pdf/10.1029/2019GL082706
[9] Pilania,G。;王,C。;蒋,X。;拉贾塞卡兰,S。;Ramprasad,R.,《使用机器学习加速材料性能预测》,科学。代表,3,1-6(2013)
[10] 巴特勒,K.T。;Davies,D.W。;卡特赖特,H。;O.Isayev。;Walsh,A.,《分子和材料科学的机器学习》,《自然》,559,7715,547-555(2018)
[11] 施,Z。;Tsymbalov,E。;道,M。;苏雷什,S。;Shapeev,A。;Li,J.,通过机器学习实现带隙的深弹性应变工程,Proc。国家。阿卡德。科学。,116、10、4117-4122(2019),网址:http://www.pnas.org/lookup/doi/10.1073/pnas.1188555116
[12] 布伦顿,S.L。;Kutz,J.N.,《数据驱动的材料多尺度模型发现方法》,J.Phys。材料。,第2、4条,第044002页(2019年)
[13] M.P.布伦纳。;Eldredge,J.D。;Freund,J.B.,《推进流体力学的机器学习透视》,物理。《流体》第4、10版,第100501条,pp.(2019),网址:https://link.aps.org/doi/10.103/PhysRevFluids.4.100501
[14] Brunton,S.L。;Noack,B.R。;Koumoutsakos,P.,《流体力学的机器学习》,年。流体力学版次。,52477-508(2020)·Zbl 1439.76138号
[15] 利布雷希特,M.W。;Noble,W.S.,《机器学习在遗传学和基因组学中的应用》,《自然遗传学评论》。,16, 6, 321-332 (2015)
[16] Rafiei,M.H。;Adeli,H.,一种新的基于机器学习的算法,用于检测高层建筑结构的损伤,Struct。设计。高大特殊建筑。,26, 18, 1-11 (2017)
[17] 森·D。;Aghazadeh,A。;穆萨维,A。;Nagarajaiah,S。;Baraniuk,R。;Dabak,A.,管道健康监测的数据驱动半监督和监督学习算法,Mech。系统。信号处理。,131, 524-537 (2019)
[18] 加布西,J。;Sidarta,D.,用于本构建模的新型嵌套自适应神经网络(NANN),计算。岩土工程。,22, 1, 29-52 (1998)
[19] Kalidindi,S.R。;尼兹戈达,S.R。;Salem,A.A.,《使用高阶统计和有效数据挖掘协议的微观结构信息学》,JOM,63,4,34-41(2011)
[20] 莫扎法尔,M。;博斯塔纳巴德,R。;Chen,W。;Ehmann,K。;曹,J。;Bessa,M.A.,深度学习预测路径依赖性可塑性,Proc。国家。阿卡德。科学。,116、52、26414-26420(2019),网址:https://www.pnas.org/content/116/52/26414。arXiv:https://www.pnas.org/content/116/52/26414.full.pdf
[21] Rudy,S。;Alla,A。;布伦顿,S.L。;Kutz,J.N.,参数偏微分方程的数据驱动识别,SIAM J.Appl。动态。系统。,18、2、643-660(2019),网址:https://epubs.siam.org/doi/abs/10.1137/18M1191944 ·Zbl 1456.65096号
[22] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《基于物理的神经网络:解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》,J.Compute。物理。,378, 686-707 (2019) ·Zbl 1415.68175号
[23] Han,J。;Jentzen,A。;E、 W.,使用深度学习求解高维偏微分方程,Proc。国家。阿卡德。科学。,115、34、8505-8510(2018),网址:https://www.pnas.org/content/115/34/8505 ·Zbl 1416.35137号
[24] 纽约州巴尔西奈。;霍耶,S。;希基,J。;Brenner,M.P.,学习偏微分方程的数据驱动离散化,Proc。国家。阿卡德。科学。,116、31、15344-15349(2019),网址:https://www.pnas.org/content/116/31/15344。arXiv:https://www.pnas.org/content/116/31/15344.full.pdf ·Zbl 1431.65195号
[25] Zhu,Y。;北卡罗来纳州扎巴拉斯。;Koutsourelakis,P.-S。;Perdikaris,P.,无标记数据的高维代理建模和不确定性量化的物理约束深度学习,J.Comput。物理。,39456-81(2019),网址:https://www.sciencedirect.com/science/article/pii/S0021999119303559 ·Zbl 1452.68172号
[26] 米德·A·J。;Fernandez,A.A.,线性常微分方程的前馈神经网络数值解,数学。计算。建模,19,12,1-25(1994),网址:https://www.sciencedirect.com/science/article/pii/0895717794900957 ·Zbl 0807.65079号
[27] 拉加里斯,I.E。;利卡斯,A。;Fotiadis,D.I.,求解常微分方程和偏微分方程的人工神经网络,IEEE Trans。神经网络。,987-1000(1998),网址:https://ieeexplore.ieee.org/document/712178
[28] 拉加里斯,I.E。;利卡斯,A.C。;Papageorgiou,D.G.,不规则边界边值问题的神经网络方法,IEEE Trans。神经网络。,11,5,1041-1049(2000),网址:https://ieeexplore.ieee.org/document/870037
[29] J.Bergstra、O.Breuleux、F.Bastien、P.Lamblin、R.Pascanu、G.Desjardins、J.Turian、D.Warde-Farley、Y.Bengio、Theano:CPU和GPU数学表达式编译器,收录于:科学计算会议Python论文集(SciPy),第4卷,德克萨斯州奥斯汀,2010年。
[30] M.阿巴迪。;巴勒姆,P。;陈,J。;陈,Z。;A.戴维斯。;迪安·J。;德文,M。;Ghemawat,S。;欧文,G。;Isard,M。;库德勒,M。;Levenberg,J。;蒙加,R。;摩尔,S。;D.G.穆雷。;斯坦纳,B。;塔克,P。;瓦苏德万,V。;监狱长,P。;维克,M。;Yu,Y。;Zheng,X.,TensorFlow:大型机器学习系统,(第十二届USENIX操作系统设计与实现研讨会(OSDI 16)(2016),USENIX-协会:美国乔治亚州萨凡纳USENIX-Association Savannah),265-283,URL:https://www.usenix.org/conference/osdi16/technical-sessions/presentation/abadi网站
[31] 兰格,S。;Gabel,T。;Riedmiller,M.,强化学习,(Wiering,M.;van Otterlo,M.,适应、学习和优化。适应、学习和优化,适应、学习和优化,12(2012),施普林格-柏林-海德堡:施普林格-柏林-海德堡-柏林,海德堡),45-73,网址:http://link.springer.com/10.1007/978-3-642-27645-3
[32] 休斯·T。;科特雷尔,J。;Bazilevs,Y.,等几何分析:CAD,有限元,NURBS,精确几何和网格细化,计算。方法应用。机械。工程,194,39,4135-4195(2005),网址:http://www.sciencedirect.com/science/article/pii/S0045782504005171 ·Zbl 1151.74419号
[33] Cottrell,J.A。;休斯·T·J·R。;Bazilevs,Y.,《等几何分析:走向CAD和FEA的集成》(2009),John Wiley&Sons,doi:https://dl.acm.org/doi/book/10.5555/1816404 ·Zbl 1378.65009号
[34] M.E.泰勒。;Stone,P.,《强化学习领域的迁移学习:一项调查》,J.Mach。学习。决议,1633-1685年7月10日(2009年),网址:http://www.jmlr.org/papers/v10/taylor09a.html。数字对象标识:https://dl.acm.org/doi/10.5555/1577069.1755839 ·兹比尔1235.68196
[35] Baydin,A.G。;Pearlmutter,B.A。;Radul,A.A。;Siskind,J.M.,《机器学习中的自动差异化:一项调查》,J.Mach。学习。Res.,18,1,5595-5637(2017),网址:https://dl.acm.org/doi/abs/10.5555/3122009.3242010
[36] Chen,T。;李,M。;李毅。;林,M。;王,N。;王,M。;肖,T。;徐,B。;张,C。;Zhang,MXNet:异构分布式系统的灵活高效机器学习库(2015),arXiv:1512.01274
[37] Cholet,F.,Keras(2015年)
[38] Kingma,D.P。;Ba,J.,Adam:随机优化方法(2014),arXiv:1412.6980
[39] 杜奇,J。;哈赞,E。;Singer,Y.,在线学习和随机优化的自适应次梯度方法,J.Mach。学习。2011年7月12日,第2121-2159号决议,网址:http://jmlr.org/papers/v12/duchi11a.html ·兹比尔1280.68164
[40] Haghighat,E。;Juanes,R.,SciANN:使用人工神经网络进行科学计算和基于物理的深度学习的keras/张量流包装器,Compute。方法应用。机械。工程,373113552(2021)·Zbl 1506.65251号
[41] COMSOL Multiphysics User's Guide(2020),COMSOL:COMSOL斯德哥尔摩,瑞典
[42] Bazilevs,Y。;卡洛,V.M。;Cottrell,J.A。;Evans,J.A。;休斯·T·J·R。;利普顿,S。;斯科特,医学硕士。;Sederberg,T.W.,使用T样条的等几何分析,计算机。方法应用。机械。工程,199,5-8,229-263(2010),网址:https://www.sciencedirect.com/science/article/pii/S0045782509000875 ·Zbl 1227.74123号
[43] Simo,J.C。;Hughes,T.J.R.,(计算非弹性。计算非弹性,跨学科应用数学,第7卷(1998),Springer:Springer New York)·Zbl 0934.74003号
[44] 齐恩基维茨,O.C。;瓦利亚潘,S。;King,I.,工程问题的弹塑性解“初始应力”,有限元方法,国际。J.数字。方法工程,1,1,75-100(1969)·Zbl 0247.73087号
[45] Smith,S.L。;Kinderman,P.-J。;Ying,C。;Le,Q.V.,《不要降低学习率,增加批量大小》(2017),arXiv预印本arXiv:1711.00489
[46] 王,S。;Teng,Y。;Perdikaris,P.,《理解和缓解物理信息神经网络中的梯度病理学》(2020年),arXiv预印本arXiv:2001.04536
[47] 王,S。;Yu,X。;Perdikaris,P.,PINN训练失败的时间和原因:神经切线内核视角(2020),arXiv预印本arXiv:2007.14527
[48] 拉哈曼,N。;Baratin,A。;Arpit,D。;Draxler,F。;林,M。;F.汉普雷希特。;Y.本吉奥。;Courville,A.,《关于神经网络的谱偏差》,(Chaudhuri,K.;Salakhutdinov,R.,《第36届机器学习国际会议论文集》,《机器学习研究论文集》第97卷(2019年),PMLR),5301-5310,URL:http://proceedings.mlr.press/v97/rahaman19a.html
[49] 雅格塔普,A.D。;Karniadakis,G.E.,《扩展物理信息神经网络(XPINNs):基于广义时空域分解的非线性偏微分方程深度学习框架》,Commun。计算。物理。,28, 5, 2002-2041 (2020) ·Zbl 07419158号
[50] Haghighat,E。;贝克尔,A.C。;Madenci,E。;Juanes,R.,使用周动力学微分算子的非局部物理信息深度学习框架(2020),arXiv预印本arXiv:2006.00446
[51] 王,S。;Wang,H。;Perdikaris,P.,《关于傅里叶特征网络的特征向量偏差:从回归到用物理信息神经网络求解多尺度偏微分方程》(2020),arXiv预印本arXiv:2012.10047
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。