马齐亚·莱斯 深层物理模型：非线性偏微分方程的深层学习。 （英语） Zbl 1439.68021号 J.马赫。学习。研究。 19，第25号论文，24页（2018年）。 摘要：我们提出了一种深度学习方法，用于从空间和时间的分散和潜在噪声观测中发现非线性偏微分方程。具体来说，我们用两个深度神经网络逼近未知解和非线性动力学。第一个网络充当未知解的先验，本质上使我们能够避免数值微分，而数值微分本身就是病态和不稳定的。第二个网络代表非线性动力学，并帮助我们提取控制给定时空数据集进化的机制。我们对跨越多个科学领域的几个基准问题测试了我们的方法的有效性，并证明了所提出的框架如何帮助我们准确地了解系统的潜在动态并预测系统的未来状态。特别地，我们研究了Burgers方程、Korteweg-de-Vries方程、Kuramoto-Sivashinsky方程、非线性薛定谔方程和Navier-Stokes方程。 引用于139文件 MSC公司： 68T07型 人工神经网络与深度学习 35G20个 非线性高阶偏微分方程 35季度30 Navier-Stokes方程 第35季度53 KdV方程（Korteweg-de-Vries方程） 55年第35季度 非线性薛定谔方程 68T09号 数据分析和大数据的计算方面 关键词：系统识别;数据驱动的科学发现;基于物理的机器学习;预测建模;非线性动力学;大数据 软件：TensorFlow公司;切布冯;PyTorch公司 PDF格式BibTeX公司 XML格式引用 \textit{M.Raissi}，J.Mach。学习。第19号决议，第25号论文，24页（2018年；Zbl 1439.68021） 全文： arXiv公司 链接 参考文献： [1] Mart´un n Abadi、Ashish Agarwal、Paul Barham、Eugene Brevdo、Zhifeng Chen、Craig Citro、Greg S Corrado、Andy Davis、Jeffrey Dean、Matthieu Devin等。Tensorflow：异构分布式系统上的大规模机器学习。arXiv预印本arXiv：1603.044672016。 [2] JS Anderson、IG Kevrekidis和R Rico-Martinez。用于时间序列分析和系统识别的递归训练算法的比较。计算机与化学工程，20:S751–S7561996。 [3] Zhe Bai、Thakshila Wimalajeewa、Zachary Berger、Guannan Wang、Mark Glauser和Pramod K Varshney。通过压缩传感重建翼型数据的低维方法。AIAA期刊，2014年。 [4] Cea Basdevant、M Deville、P Haldenwang、JM Lacroix、J Ouazzani、R Peyret、Paolo Orlandi和AT Patera。Burgers方程的谱解和有限差分解。计算机与流体，14（1）：23-411986·Zbl 0612.76031号 [5] Atilim Gunes Baydin、Barak A Pearlmutter、Alexey Andreyevich Radul和Jeffrey Mark Siskind。机器学习中的自动差异化：一项调查。arXiv预印本arXiv:1502.057672015·Zbl 06982909号 [6] 乔什·邦加德（Josh Bongard）和霍德·利普森（Hod Lipson）。非线性动力系统的自动逆向工程。《美国国家科学院院刊》，104（24）：9943–99482007。20 ·Zbl 1155.37044号 [7] 史蒂文·布伦顿（Steven L Brunton）、乔纳森·赫图（Jonathan H Tu）、伊多·布赖特（Ido Bright）和杰·内森·库茨（J Nathan Kutz）。非线性动力系统分岔状态分类的压缩传感和低阶库。SIAM应用动力系统杂志，13（4）：1716–17322014·Zbl 1354.37078号 [8] 史蒂文·布伦顿（Steven L Brunton）、约书亚·L·普罗克托（Joshua L Proctor）和J·内森·库茨（J Nathan Kutz）。通过非线性动力系统的稀疏辨识从数据中发现控制方程。《美国国家科学院院刊》，113（15）：3932–39372016·Zbl 1355.94013号 [9] 史蒂文·布伦顿、宾尼·W·布伦顿、约书亚·L·普罗克托、尤里卡·凯泽和J·内森·库茨。混沌是一个间歇性强迫线性系统。《自然通讯》，2017年8月。 [10] 马科·布迪西奇、瑞安·莫尔和伊戈尔·梅齐c。应用koopmanism a.混沌：非线性科学的跨学科期刊，22（4）：0475102012·Zbl 1319.37013号 [11] Tim Colonius和Kunihiko Taira。使用零空间方法和多域远场边界条件的快速浸没边界法。应用力学与工程中的计算机方法，197（25）：2131–21462008·Zbl 1158.76395号 [12] 詹姆斯·克拉奇菲尔德（James P Crutchfield）和布鲁斯·麦克纳马拉（Bruce S McNamara）。数据序列中的运动方程。复杂系统，1（417-452）：1211987·Zbl 0675.58026号 [13] 布莱恩·丹尼尔斯和伊利亚·尼曼。现象学动力学模型的自动自适应推理。《自然通讯》，2015年6月a日。 [14] 布莱恩·丹尼尔斯和伊利亚·尼曼。使用s系统和交替回归有效推断细胞动力学的简约唯象模型。公共科学图书馆，10（3）：e01198212015b。 [15] 托宾·A·德里斯科尔（Tobin A Driscoll）、尼古拉斯·黑尔（Nicholas Hale）和劳埃德·N·特雷费坦（Lloyd N Trefethen）。Chebfun指南，2014年。 [16] Dimitrios Giannakis和Andrew J Majda。具有间歇性和低频可变性的时间序列的非线性拉普拉斯谱分析。《美国国家科学院院刊》，109（7）：2222-22272012年·Zbl 1256.62053号 [17] R Gonzalez-Garcia、R Rico-Martinez和IG Kevrekidis。分布参数系统的识别：一种基于神经网络的方法。计算机与化学工程，22:S965–S9681998。 [18] 伊恩·古德费罗（Ian Goodfellow）、约舒亚·本吉奥（Yoshua Bengio）和亚伦·库维尔（Aaron Courville）。深度学习。麻省理工学院出版社，2016年·Zbl 1373.68009号 [19] Ioannis G Kevrekidis、C William Gear、James M Hyman、Panagiotis G Kevrelkidid、Olof Runborg、Constantinos Theodoropoulos等人。无方程、粗粒度多尺度计算：使微观模拟器能够执行系统级分析。数学科学传播，1（4）：715–7622003·Zbl 1086.65066号 [20] J Nathan Kutz、Steven L Brunton、Bingni W Brunton和Joshua L Proctor。《动态模式分解：复杂系统的数据驱动建模》，第149卷。SIAM，2016年·Zbl 1365.65009号 [21] Alan Mackey、Hayden Schaeffer和Stanley Osher。关于压缩谱方法。多尺度建模与仿真，12（4）：1800–18272014。21 ·Zbl 1314.65152号 [22] Andrew J Majda、Christian Franzke和Daan Crommelin。简化随机气候模型的正规形式。《美国国家科学院院刊》，106（10）：3649–36532009年·Zbl 1202.86011号 [23] Niall M Mangan、Steven L Brunton、Joshua L Proctor和J Nathan Kutz。通过非线性动力学的稀疏识别推断生物网络。IEEE分子、生物和多尺度通信汇刊，2（1）：52-632016年。 [24] 伊戈尔·梅齐c。动力系统的谱特性，模型简化和分解。非线性动力学，41（1）：309–3252005·Zbl 1098.37023号 [25] 伊戈尔·梅齐。通过koopman算子的光谱特性分析流体流动。《流体力学年鉴》，45:357-3782013年·Zbl 1359.76271号 [26] 维德武德·奥佐利·恩斯（Vidvuds Ozoliánás）、赖荣杰（Rongjie Lai）、拉塞尔·卡弗利什（Russel Caflisch）和斯坦利·奥斯（Stanley Osher）。数学和物理中变分问题的压缩模式。《美国国家科学院院刊》，110（46）：18368–183732013年·兹比尔1292.81024 [27] Adam Paszke、Sam Gross、Soumith Chintala、Gregory Chanan、Edward Yang、Zachary DeVito、Zeming Lin、Alban Desmaison、Luca Antiga和Adam Lerer。pytorch中的自动区分。2017 [28] 帕里斯·佩迪卡里斯（Paris Perdikaris）、马齐亚尔·莱斯（Maziar Raissi）、安德烈亚斯·达米亚努（Andreas Damianou）、劳伦斯（ND Lawrence）和乔治·埃姆·卡尼亚达基斯。用于数据高效多保真度建模的非线性信息融合算法。程序。R.Soc.A，473（2198）：2016年7月51日，2017年·Zbl 1382.65229号 [29] Joshua L Proctor、Steven L Brunton、Bingni W Brunton和JN Kutz。在复杂系统中开发稀疏和无方程体系结构。《欧洲物理杂志》专题，223（13）：2665–26842014。 [30] M.Raghu、B.Poole、J.Kleinberg、S.Ganguli和J.Sohl-Dickstein。深度神经网络的表达能力。arXiv预印arXiv:1606.053362016。 [31] 马齐亚尔·莱斯。大数据的参数高斯过程回归。arXiv预打印arXiv:1704.031442017。 [32] 马齐亚尔·莱斯。前向倒向随机神经网络：高维偏微分方程的深度学习。arXiv预印arXiv:1804.070102018·Zbl 1439.68021号 [33] Maziar Raissi和George Karniadakis。深多保真度高斯过程。arXiv预印arXiv:1604.074842016·Zbl 1382.65229号 [34] Maziar Raissi和George Em Karniadakis。隐藏物理模型：非线性偏微分方程的机器学习。《计算物理杂志》，2017年·Zbl 1381.68248号 [35] Maziar Raissi、Paris Perdikaris和George Em Karniadakis。使用噪声多保真度数据推断微分方程的解。计算物理杂志，335:736–7462017a。22 ·Zbl 1382.65229号 [36] Maziar Raissi、Paris Perdikaris和George Em Karniadakis。使用高斯过程的线性微分方程的机器学习。计算物理杂志，348:683–6932017b。ISSN 0021-9991。数字对象标识：http://dx.doi.org/10.1016/j.jcp.2017.07.050。统一资源定位地址http://www.sciencedirect.com/science/article/pii/S0021999117305582。 ·Zbl 1380.68339号 [37] Maziar Raissi、Paris Perdikaris和George Em Karniadakis。物理学为深度学习提供信息（第一部分）：非线性偏微分方程的数据驱动解。arXiv预印arXiv:1711.10561，2017c·Zbl 1382.65229号 [38] Maziar Raissi、Paris Perdikaris和George Em Karniadakis。物理学为深度学习提供了信息（第二部分）：非线性偏微分方程的数据驱动发现。arXiv预印arXiv:1711.105662017d·Zbl 1380.68339号 [39] Maziar Raissi、Paris Perdikaris和George Em Karniadakis。用于数据驱动的非线性动力系统发现的多步神经网络。arXiv预印arXiv:1801.012362018a·兹比尔1386.65030 [40] Maziar Raissi、Paris Perdikaris和George Em Karniadakis。含时非线性偏微分方程的数值高斯过程。SIAM科学计算杂志，40（1）：A172–A198，2018b·兹比尔1386.65030 [41] R Rico-Martinez、K Krischer、IG Kevrekidis、MC Kube和JL Hudson。铜电解溶解数据的离散vs.连续非线性信号处理。化学工程通讯，118（1）：25-481992。 [42] 安东尼·约翰·罗伯茨。对复杂系统中的涌现动力学进行建模。暹罗，2014年。 [43] Samuel H.Rudy、Steven L.Brunton、Joshua L.Proctor和J.Nathan Kutz。偏微分方程的数据驱动发现。《科学进展》，3（4），2017年。doi:10.1126/sciadv.1602614。统一资源定位地址http://advances.sciencemag.org/content/3/4/e1602614。 ·Zbl 1355.94013号 [44] 海登·谢弗（Hayden Schaeffer）、拉塞尔·卡夫利什（Russel Caflisch）、科里·德哈克（Cory D Hauck）和斯坦利·奥斯（Stanley Osher）。偏微分方程的稀疏动力学。《美国国家科学院院刊》，110（17）：6634–66392013年·Zbl 1292.35012号 [45] 迈克尔·施密特和霍德·利普森。从实验数据中提取自由形式的自然法则。《科学》，324（5923）：81-852009年。 [46] Michael D Schmidt、Ravishankar R Vallabhajosyula、Jerry W Jenkins、Jonathan E Hood、Abhishek S Soni、John P Wikswo和Hod Lipson。代谢网络分析模型的自动精化和推理。物理生物学，8（5）：0550112011。 [47] 乔治·杉原诚司（George Sugihara）、罗伯特·梅（Robert May）、郝烨（Hao Ye）、谢志浩（Chih-Hao Xieh）、伊桑·德伊尔（Ethan Deyle）、迈克尔·福格蒂（Michael Fogarty）和斯蒂芬·蒙克。检测复杂生态系统中的因果关系。《科学》，338（6106）：496–500，2012年·Zbl 1355.92144号 [48] Kunihiko Taira和Tim Colonius。浸入式边界法：一种投影法。计算物理杂志，225（2）：2118–21372007。23 ·Zbl 1343.76027号 [49] 罗伯特·提比拉尼（Robert Tibshirani）。通过套索回归收缩和选择。英国皇家统计学会杂志。B系列（方法学），第267-288页，1996年·Zbl 0850.62538号 [50] 江Tran和Rachel Ward。从高度损坏的数据中精确恢复混沌系统。arXiv预印arXiv:1607.010672016。 [51] 亨宁·U·沃斯（Henning U Voss）、保罗·科洛德纳（Paul Kolodner）、马库斯·阿贝尔（Markus Abel）和杰尔·库思（J¨urgen Kurths）。时空二元流体对流数据的振幅方程。体检信件，83（17）：34221999。 [52] 王文旭、杨瑞、赖英成、瓦西里奥斯·科瓦尼斯和塞尔索·格雷博吉。通过压缩感知预测非线性动力系统中的灾难。《物理评论快报》，106（15）：1541012011年。 [53] 郝烨、理查德·比米什、莎拉·格拉泽、苏·CH·格兰特、谢志浩、劳拉·理查兹、乔恩·施努特和乔治·杉原。使用经验动态模型进行无等式机械生态系统预测。美国国家科学院院刊，112（13）：E1569–E15762015。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。