王思凡;巴黎佩迪卡里斯 参数演化方程与基于物理的DeepONet的长期集成。 （英语） Zbl 07649276号 J.计算。物理学。 475，文章ID 111855，18 p.（2023）. 概述：常微分方程和偏微分方程（ODE/PDE）在分析和模拟科学和工程各个领域的复杂动态过程中发挥着至关重要的作用。近年来，机器学习工具渴望引入新的有效方法来模拟此类方程，然而，现有的方法无法可靠地在长时间范围内返回稳定和准确的预测。我们旨在通过引入一个有效的学习进化算子的框架来解决这一挑战，该算子在短时间内将随机初始条件映射到相关的ODE/PDE解。这些操作符可以通过深度神经网络进行参数化，深度神经网络以完全自主的方式进行训练，而不需要生成任何成对的输入输出观测值。然后，可以通过使用每个预测作为下一评估步骤的初始条件来迭代评估训练的模型来获得在一系列初始条件上的全局长期预测。这引入了一种新的时域分解方法，该方法可以有效地对从波传播到反应扩散动力学和刚性化学动力学的广泛参数ODE和PDE系统进行准确的长期模拟，介绍了一种快速模拟科学和工程中非平衡过程的新方法。 引用于5文件 MSC公司： 68泰克 人工智能 65磅 常微分方程的数值解法 65-XX岁 数值分析 关键词：深度学习;计算科学;微分方程;动力系统 软件：PPINN公司;刚性销;PIN码NTK码;XPIN编号;hp-车辆识别号;DeepONet（深度网络）;RADAU公司;SimNet公司;NeuralPDE.jl公司;亚当;微分方程.jl;数字Py;深XDE;日本宇宙航空公司;马特普洛特利布;DiffSharp（差异锐化） PDF格式BibTeX公司 XML格式引用 \textit{S.Wang}和\textit{P.Perdikaris}，J.Compute。物理学。475，文章编号111855，18 p.（2023；Zbl 07649276） 全文： 内政部 arXiv公司 参考文献： [1] 理查德·库兰特（Richard Courant）；Hilbert，David，《数学物理方法：偏微分方程》（2008），John Wiley&Sons·Zbl 0099.29504号 [2] Moin，Parviz，《工程数值分析基础》（2010），剑桥大学出版社·Zbl 1228.65003号 [3] Iserles，Arieh，微分方程数值分析第一课程，第44卷（2009），剑桥大学出版社·Zbl 1171.65060号 [4] Hughes，Thomas J.R.，《有限元方法：线性静态和动态有限元分析》（2012），Courier Corporation [5] Saad，Yousef，稀疏线性系统的迭代方法（2003），SIAM·Zbl 1031.65046号 [6] Karniadakis，George Em；Ioannis G.Kevrekidis。；鲁，鲁；巴黎佩迪卡里斯；王思凡；Yang，Liu，《物理告知机器学习》，自然科学出版社。，1-19 (2021) [7] Psichogios，Dimitris C。；Ungar，Lyle H.，过程建模的混合神经网络第一原理方法，AIChE J.，38，10，1499-1511（1992） [8] Isaac E.Lagaris。；利卡斯，阿里斯蒂迪斯；Fotiadis，Dimitrios I.，求解常微分方程和偏微分方程的人工神经网络，IEEE Trans。神经网络。，9, 5, 987-1000 (1998) [9] 马齐亚·莱斯；巴黎佩迪卡里斯；Karniadakis，George Em，《利用噪声多保真度数据推断微分方程解》，J.Compute。物理。，335, 736-746 (2017) ·Zbl 1382.65229号 [10] 陈一凡；巴马达·侯赛尼；霍曼·奥瓦迪；Stuart，Andrew M.，用高斯过程求解和学习非线性偏微分方程（2021），arXiv预印本·兹伯利07516428 [11] 斯坦芬·冈瑟（Stefanie Gunther）；拉斯·鲁索托；雅各布·B·施罗德。；埃里克·塞尔（Eric C.Cyr）。；Gauger，Nicolas R.，深度剩余神经网络的分层并行训练，SIAM J.数学。数据科学。，2, 1, 1-23 (2020) ·Zbl 1508.68306号 [12] Yu，Bing，The deep Ritz method：求解变分问题的基于深度学习的数值算法，Commun。数学。统计，6，1，1-12（2018）·Zbl 1392.35306号 [13] 埃斯特班，萨曼尼戈；Anitescu、Cosmin；索姆达塔·戈斯瓦米；越南阮坦；郭宏伟；哈姆迪亚·卡德尔；庄，X。；Rabczuk，T.，通过机器学习解决计算力学中偏微分方程的能量方法：概念、实现和应用，计算。方法应用。机械。工程，362，第112790条pp.（2020）·兹比尔1439.74466 [14] 马齐亚·莱斯；赫萨姆·巴贝；Givi，Peyman，湍流标量混合的深度学习，物理。《流体版本》，第4、12条，第124501页（2019年） [15] 王思凡；滕玉君；Perdikaris，巴黎，《理解和缓解物理信息神经网络中的梯度病理学》（2020年），arXiv预印本·Zbl 1530.68232号 [16] 王思凡；于新玲；佩迪卡里斯（Perdikaris），巴黎，《PINN未能训练的时间和原因：神经切线内核视角》（2020），arXiv预印本·Zbl 07524768号 [17] 王思凡；王汉文；Perdikaris，Paris，《傅里叶特征网络的特征向量偏差：从回归到用物理信息神经网络求解多尺度偏微分方程》（2020），arXiv预印本·Zbl 1506.35130号 [18] 马齐亚·莱斯；巴黎佩迪卡里斯；George E.Karniadakis，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号 [19] 哈拉兹米，埃桑；张忠强；Karniadakis，George Em，解偏微分方程的变分物理神经网络（2019），arXiv预印本 [20] 阿米亚·贾格塔普（Ameya D.Jagtap）。；Karniadakis，George Em，《扩展物理信息神经网络（XPINNs）：基于广义时空域分解的非线性偏微分方程深度学习框架》，Commun。计算。物理。，28, 5, 2002-2041 (2020) ·Zbl 07419158号 [21] 孟旭辉；李震；张冬坤；Karniadakis，George Em，PPINN：用于时间相关PDE的仿实物理信息神经网络，计算。方法应用。机械。工程，370，第113250条pp.（2020）·Zbl 1506.65181号 [22] 朱银浩；尼古拉斯·扎巴拉斯；库苏雷拉基斯（Koutsourelakis），斐敦-斯泰利斯（Phaedon-Stelios）；巴黎Perdikaris，《无标记数据的高维代理建模和不确定性量化的物理约束深度学习》，J.Compute。物理。，394, 56-81 (2019) ·Zbl 1452.68172号 [23] 尼古拉斯，日内瓦；Zabaras，Nicholas，《用物理约束的深度自回归网络建模PDE系统动力学》，J.Compute。物理。，403，第109056条pp.（2020）·Zbl 1454.65130号 [24] 桑切斯·冈萨雷斯，阿尔瓦罗；乔纳森·戈德温；Pfaff，托拜厄斯；Ying，雷克斯；Leskovec，Jure；Peter Battaglia，《学习用图形网络模拟复杂物理》（机器学习国际会议（2020），PMLR），8459-8468 [25] 马齐亚·莱斯；亚兹达尼，阿里雷扎；Karniadakis，George Em，隐藏的流体力学：从流动可视化中学习速度和压力场，科学，367，6481，1026-1030（2020）·Zbl 1478.76057号 [26] 塔塔科夫斯基，A.M。；Ortiz Marrero，C。；巴黎佩迪卡里斯；塔塔科夫斯基，G.D。；Barajas-Solano，D.，《用于地下水流问题中学习参数和本构关系的基于物理的深层神经网络》，《水资源》。决议，56，5，条款e2019WR026731 pp.（2020） [27] 奥利弗·海尼（Oliver Hennig）；Narasimhan，Susheela；阿明·纳比安（Amin Nabian），穆罕默德（Mohammad）；苏布拉曼尼亚姆（Subramaniam），阿克西（Akshay）；汤萨利、考斯图布；马克斯·里特曼；del Aguila Ferrandis，Jose；再见，Wonmin；方志伟；Choudhry，Sanjay，NVIDIA SimNet^TM：人工智能加速多物理仿真框架（2020），arXiv预打印 [28] 蔡盛泽；王志成；王思凡；巴黎佩迪卡里斯；Karniadakis，George Em，《传热问题的物理信息神经网络》，J.heat Transf。，143, 6 (2021) [29] 乔治·基萨斯（Georgios Kissas）；杨一波；Hwuang，Eileen；Walter R.Witschey。；Detre，John A。；Perdikaris，Paris，《心血管血流建模中的机器学习：使用物理信息神经网络从无创4D流MRI数据预测动脉血压》，计算机。方法应用。机械。工程，358，第112623条pp.（2020）·Zbl 1441.76149号 [30] 萨赫利·科斯塔巴尔，弗朗西斯科；杨一波；巴黎佩迪卡里斯；Daniel E.Hurtado。；Kuhl，Ellen，《心脏激活映射的物理信息神经网络》，Front。物理。，8, 42 (2020) [31] 鲁，鲁；道，明；普尼特·库马尔；拉马默蒂（Ramamurty，Upadrasta）；Karniadakis，George Em；Suresh，Subra，通过仪器压痕深度学习提取材料的机械性能，Proc。国家。阿卡德。科学。美国，117，13，7052-7062（2020） [32] 陈玉尧；鲁，鲁；Karniadakis，George Em；Dal Negro，Luca，《纳米光学和超材料反问题的物理信息神经网络》，Opt。快递，28，8，11618-11633（2020） [33] 索姆达塔·戈斯瓦米；Anitescu、Cosmin；查克拉波蒂，苏维克；Rabczuk，Timon，传输学习增强的物理信息神经网络，用于断裂的相场建模，Theor。申请。分形。机械。，第106条，第102447页（2020年）·Zbl 1442.74202号 [34] Dennis Elbrächter；菲利普·格罗斯（Philipp Grohs）；阿努尔夫·詹岑（Arnulf Jentzen）；Schwab，Christoph，高维PDE的DNN表达率分析：期权定价应用（2018），arXiv预印本·Zbl 1500.35009 [35] 韩洁群；阿努尔夫·詹岑（Arnulf Jentzen）；Weinan，E.，使用深度学习求解高维偏微分方程，Proc。国家。阿卡德。科学。美国，115、34、8505-8510（2018）·Zbl 1416.35137号 [36] 王思凡；王汉文；Perdikaris，Paris，《利用物理知识的DeepONets学习参数偏微分方程的解算子》（2021），arXiv预印本·Zbl 1506.35130号 [37] Baydin，Atilim Gunes；巴拉克·A·皮尔默特。；阿列克谢·安德烈耶维奇（Alexey Andreyevich Radul）；Siskind，Jeffrey Mark，机器学习中的自动微分：一项调查，J.Mach。学习。第18号决议（2018年）·Zbl 06982909号 [38] 李维·麦克伦尼；Braga-Neto，Ulisses，使用软注意机制的自适应物理信息神经网络（2020），arXiv预印本 [39] Kingma，Diederik P。；Ba，Jimmy，Adam：随机优化方法（2014），arXiv预印本 [40] 纳西姆·拉哈曼；阿里斯蒂德·巴拉丁；Arpit，Devansh；费利克斯·德拉克斯勒；林敏（Lin，Min）；弗雷德·汉普雷希特（Fred Hamprecht）；约书亚·本吉奥；Aaron Courville，On the spectral bias of neural networks，（机器学习国际会议（2019）），5301-5310 [41] 马修·坦西克；Pratul P.Srinivasan。；本·米尔登霍尔；Fridovich-Keil，Sara；拉格哈万（Nithin Raghavan）；犹他州辛格哈尔；拉维·拉玛穆蒂；乔纳森·巴伦（Jonathan T.Barron）。；Ng，Ren，Fourier特性让网络学习低维域中的高频函数（2020），arXiv预印本 [42] Wight，Colby L。；赵，贾，使用自适应物理信息神经网络求解Allen-Cahn和Cahn-Hilliard方程（2020），arXiv预印本·Zbl 07419706号 [43] 魏南，E.，《多尺度建模原理》（2011），剑桥大学出版社·兹比尔1238.00010 [44] 杜一凡；Zaki，Tamer A.，进化深度神经网络（2021），arXiv预印本 [45] 鲁，鲁；金、彭湛；庞国飞；张忠强；Karniadakis，George Em，基于算子的普遍逼近定理，通过DeepONet学习非线性算子，Nat.Mach。整数。，3, 3, 218-229 (2021) [46] Andreas Griewank，《关于自动微分》，《数学》。程序。，6, 6, 83-107 (1989) ·Zbl 0696.65015号 [47] 泽维尔·格洛洛特；Yoshua Bengio，《理解深度前馈神经网络训练的困难》（第十三届人工智能与统计国际会议论文集（2010）），249-256 [48] 芬恩，切尔西；彼得·阿比尔（Pieter Abbeel）；Levine，Sergey，用于深度网络快速适应的模型认知元学习，（机器学习国际会议（2017），PMLR），1126-1135 [49] 季伟琪；邱伟伦；施志宇；潘绍武；Deng，Sili，Stiff-PINN:刚性化学动力学的物理信息神经网络（2020），arXiv预印本 [50] 格哈德·瓦纳（Gerhard Wanner）；海勒，恩斯特，《求解常微分方程II》，第375卷（1996年），《施普林格：施普林格-柏林》，海德堡·Zbl 0859.65067号 [51] Robertson，H.H.，一组反应速率方程的解，（数值分析：导论（1966）），第178182页。 [52] 海勒，恩斯特；Wanner，Gerhard，用Radau方法求解的Stiff微分方程，J.Compute。申请。数学。，111, 1-2, 93-111 (1999) ·Zbl 0945.65080号 [53] James Bradbury、Roy Frostig、Peter Hawkins、Matthew James Johnson、Chris Leary、Dougal Maclaurin、George Necula、Adam Paszke、Jake VanderPlas、Skye Wanderman-Millne、Qiao Zhang、JAX:Python+NumPy程序的可组合转换，2018年。 [54] Brauer，Klaus，《Korteweg-de-Vries方程：历史、精确解和图形表示》（2000），奥斯纳布吕克大学：德国奥斯纳布卢克大学 [55] Miles，John W.，《Korteweg-de Vries方程：历史论文》，J.流体力学。，106, 131-147 (1981) ·兹比尔0468.76003 [56] 德米特里·科奇科夫；杰米·史密斯。；艾亚·阿利耶娃；王青；Michael P.Brenner。；霍耶，斯蒂芬，机器学习加速计算流体动力学。arXiv预印本（2021） [57] 王思凡；Shyam Sankaran；巴黎佩迪卡里斯，《尊重因果关系是训练物理信息神经网络所需的全部》（2022），arXiv预印本 [58] Sivashinsky，G.I.，层流火焰中流体动力学不稳定性的非线性分析。基本方程的推导，AcAau，4，11，1177-1206（1977）·Zbl 0427.76047号 [59] Kuramoto，Yoshiki，反应系统中的扩散诱导混沌，Prog。西奥。物理学。补遗，64，346-367（1978） [60] Lions，Pierre-Louis，On the Schwarz alternative method I（第一届偏微分方程区域分解方法国际研讨会，第1卷）。第一届偏微分方程区域分解方法国际研讨会，第1卷，法国巴黎（1988年），42·Zbl 0658.65090号 [61] 王恒杰；罗伯特·普莱纳斯（Robert Planas）；Chandramowlishwaran，阿帕纳；Bostanabad，Ramin，Train one and use forever：使用预训练的深度学习模型解决未知域中的边值问题（2021），arXiv预印本·Zbl 1507.65215号 [62] Hunter，John D.，Matplotlib：2D图形环境，IEEE Ann.Hist。计算。，9, 03, 90-95 (2007) [63] 查尔斯·哈里斯（Charles R.Harris）。；Millman，K.Jarrod；范德沃尔特，斯特凡·J·。；拉尔夫·戈默斯（Ralf Gommers）；泡利·维塔宁（Pauli Virtanen）；大卫·库纳波（David Cournapeau）；埃里克·威瑟（Eric Wieser）；朱利安·泰勒（Julian Taylor）；塞巴斯蒂安·伯格；Nathaniel J.Smith，《使用NumPy进行数组编程》，《自然》，585，7825，357-362（2020） [64] 鲁，鲁；孟旭辉；毛志平；Karniadakis，George Em，DeepXDE：解微分方程的深度学习库，SIAM Rev.，63，1，208-228（2021）·Zbl 1459.65002号 [65] 克里斯托弗·拉卡卡斯；聂青，微分方程。jl-朱莉娅中求解微分方程的性能丰富且特征丰富的生态系统，J.开放研究软件。，2017年5月1日·Zbl 1366.65005号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。