×

贝叶斯物理为实际非线性动力系统提供了神经网络。 (英语) Zbl 1507.68246号

摘要:了解真实世界的动力学现象仍然是一项具有挑战性的任务。在各种科学学科中,机器学习作为go-to技术已经得到了发展,可以分析非线性动力学系统,识别大数据中的模式,并围绕这些模式做出决策。神经网络现在一直被用作数据的通用函数逼近器,其基本机制尚未完全理解或极其复杂。然而,单凭神经网络就忽视了物理的基本定律,往往无法做出合理的预测。在这里,我们通过结合神经网络、物理信息建模和贝叶斯推理来集成数据、物理和不确定性,以提高传统神经网络模型的预测潜力。我们将阻尼谐振子的物理模型嵌入到一个完全连接的前馈神经网络中,以探索一个简单且说明性的模型系统,即新型冠状病毒肺炎的爆发动力学。我们的Physics-Informed Neural Networks将数据和物理无缝集成,稳健地解决正问题和逆问题,在插值和外推方面都表现良好,即使是对于少量有噪声和不完整的数据也是如此。只需很少的额外成本,他们就可以自适应地学习数据和物理之间的权重。它们可以作为贝叶斯推断的先验,并为不确定性量化提供可靠的区间。我们的研究揭示了神经网络、贝叶斯推理以及两者的结合的固有优缺点,并为模型选择提供了有价值的指导。虽然我们仅针对季节性地方性传染病的简单模型问题演示了这些不同的方法,但我们预计潜在的概念和趋势将推广到更复杂的疾病条件,更广泛地说,推广到各种非线性动力系统。我们的源代码和示例位于https://github.com/LivingMatterLab/xPINNs

MSC公司:

68T05型 人工智能中的学习和自适应系统
37M10个 动力系统的时间序列分析
2015年1月62日 贝叶斯推断
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Peng,G.C.Y。;Alber,M。;Buganza Tepole,A。;坎农,W。;德·S。;杜拉·伯纳尔,S。;Garikipati,K。;Karniadakis,G.E。;莱顿,W.W。;佩迪卡里斯,P。;佩佐德,L。;Kuhl,E.,《多尺度建模与机器学习:我们可以学习什么?》?,架构(architecture)。计算。方法工程,28,1017-1037(2021)
[2] Karniadakis,G.E。;Kevrekidis,I.G。;卢,L。;佩迪卡里斯,P。;王,S。;Yang,L.,《基于物理的机器学习》,《国家物理评论》。,3, 422-440 (2021)
[3] Alber,M。;Buganza Tepole,A。;坎农,W。;德·S。;杜拉·伯纳尔,S。;Garikipati,K。;Karniadakis,G.E。;莱顿,W.W。;佩迪卡里斯,P。;佩佐德,L。;Kuhl,E.,《整合机器学习和多尺度建模:生物、生物医学和行为科学中的观点、挑战和机遇》,新泽西数字。医学,2115(2019)
[4] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《物理学指导的深度学习:非线性偏微分方程的数据驱动解》(2017),arXiv预印本arXiv:1711.10561
[5] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,非线性动力系统数据驱动发现的多步神经网络(2018),arXiv预印本arXiv:1801.01236
[6] 杨,Y。;Perdikaris,P.,《物理信息神经网络中的对抗不确定性量化》,J.Compute。物理。,394, 136-152 (2019) ·Zbl 1452.68171号
[7] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《基于物理的神经网络:解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》,J.Compute。物理。,378, 686-707 (2019) ·Zbl 1415.68175号
[8] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《物理知情学习机》(2021),美国专利10963540
[9] 蔡,M。;Karniadakis,G.E。;Li,C.,分数SEIR模型和基于数据的新型冠状病毒(COVID-19)变异株动态预测(2022年)
[10] Treibert,S。;Ehrhardt,M.,无监督物理信息神经网络建模新冠肺炎感染和住院场景(2021年),Bergische Universityät Wupertal,Preprint BUW-IAMCM 21/35
[11] Kharazmi,E。;蔡,M。;郑,X。;张,Z。;林·G。;Karniadakis,G.E.,使用物理信息神经网络的整数阶和分数阶流行病学模型的可识别性和可预测性,自然计算。科学。,1, 744-753 (2021)
[12] 张,S。;彭斯,J。;张,Z。;林·G。;Karniadakis,G.,《构建可信数据驱动流行病学模型的集成框架:应用于纽约市新冠肺炎疫情》,公共科学图书馆计算。生物学,17,文章e1009334,第(2021)页
[13] 博里,M.A。;Sahli Costabal,F。;Wang,H。;Linka,K。;佩林克,M。;科尔,E。;Perdikaris,P.,《美国新型冠状病毒疫情动态:人类流动性和社会行为的深度学习研究》,计算机。方法应用。机械。工程,382,第113891条pp.(2021)·Zbl 1506.92084号
[14] Linka,K。;Goriely,A。;Kuhl,E.,全球和本地流动性作为新冠肺炎动态的晴雨表,生物技术。模型。机械硫醇。,20, 651-669 (2021)
[15] 霍尔姆达尔,I。;Buckee,C.,《新英格兰》,错误但有用的——新冠肺炎流行病学模型能告诉我们什么,也不能告诉我们什么。《医学杂志》,383,303-305(2020)
[16] 孟,X。;Babaee,H。;GE Karniadakis,G.E.,《多精度贝叶斯神经网络:算法和应用》,J.Compute。物理。,438,第110361条pp.(2021)·Zbl 07505956号
[17] Oden,J.T。;巴布斯卡,I。;Faghihi,D.,《预测计算科学:存在不确定性时的计算机预测》,(计算力学百科全书(2017),John Wiley&Sons)
[18] Oden,J.T。;莫瑟,R。;Ghattas,O.,《具有量化不确定性的计算机预测》,SIAM News,43,9(2010)
[19] Yang,L。;孟,X。;Karniadakis,G.E.,B-PINNs:带噪声数据的正向和反向PDE问题的贝叶斯物理信息神经网络,J.Compute。物理。,425,第109913条pp.(2021)·Zbl 07508507号
[20] Gelman,A。;Carlin,J.B。;斯特恩,H.S。;邓森,D.B。;Vektari,A。;Rubin,D.B.,贝叶斯数据分析(2013),查普曼和霍尔/CRC
[21] Oden,J.T.,自适应多尺度预测建模,《数值学报》。,2018, 353-450 (2018) ·Zbl 1430.60006号
[22] Osvaldo,M.,《使用Python的贝叶斯分析:使用PyMC3和ArviZ的统计建模和概率编程导论》(2018),Packt出版社
[23] 孟,X。;Yang,L。;毛,Z。;del Aguila Ferrandis,J。;Karniadakis,G.E.,《从数据和物理中学习函数的前验和后验》,J.Compute。物理。,457,第111073条pp.(2022)·Zbl 1515.62046号
[24] Linka,K。;佩林克,M。;Kuhl,E.,《新冠肺炎的繁殖数量及其与公共卫生干预的相关性》,Comput。机械。,661035-1050(2020)·Zbl 1469.92116号
[25] 约翰·霍普金斯大学,冠状病毒肺炎全球病例由系统科学与工程中心提供(2021年),https://Coronavirus.Jhu.Edu/Map.Html网站, https://Github.Com/CSSEGISandData/Covid-19。(2022年5月1日评估)
[26] Jha,P.K。;曹,L。;Oden,J.T.,使用多物种混合理论连续体模型对德克萨斯州新型冠状病毒肺炎进化的基于贝叶斯的预测,计算。机械。,66, 1055-1068 (2020) ·Zbl 1469.92111号
[27] 佩林克,M。;Linka,K。;Sahli Costabal,F。;Kuhl,E.,《中国和美国新型冠状病毒疫情动态》,《生物技术》。模型。机械硫醇。,19, 2179-2193 (2020)
[28] Linka,K。;佩林克,M。;Sahli Costabal,F。;Kuhl,E.,欧洲新型冠状病毒疫情动态和旅行限制的影响,计算。方法生物技术。生物识别。工程师,23,710-717(2020)
[29] Kuhl,E.,计算流行病学。COVID-19(2021)的数据驱动建模,Springer Nature:Springer自然瑞士
[30] 麦克伦尼,L。;Braga-Neto,U.,《使用软注意机制的自适应物理通知神经网络》(2020年)
[31] 贝叶斯,T。;普莱斯,R.,一篇关于解决机会理论中的问题的文章。在已故版本Bayes先生的信中,Price先生向John Canton,a.M.F.R.S,Philos传达了F.R.S。事务处理。英国皇家学会。,53770-418(1763年)·Zbl 1250.60007号
[32] 医学博士霍夫曼。;Gelman,A.,《无转取样器:哈密尔顿蒙特卡罗自适应设置路径长度》,J.Mach。学习。第15号决议,1593-1623(2014)·Zbl 1319.60150号
[33] Salvatier,J。;Wiecki,T.V。;Fonnesbeck,C.,《使用PyMC3的Python概率编程》,PeerJ Compute。科学。,2,第e55条pp.(2016)
[34] Tensorflow I/O,版本0.15.0(2020),https://pypi.org/project/tensorflow-io/0.15.0(2022年5月1日评估)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。