×
龙，达;尼科尔·姆瓦尔耶维奇;哲、珊甸;巴马达·侯赛尼

学习微分方程及其解算子的核心框架。 （英语） Zbl 07842147号

物理D 460，文章ID 134095，12 p.（2024）.
摘要：本文提出了一个三步内核框架，用于微分方程函数形式（DE）的回归和学习其解算子。给定由网格上的噪声DE解和源/边界项对组成的训练集：（i）利用核平滑对解的数据和近似导数进行去噪；（ii）然后在核回归模型中使用该信息来学习DE的函数形式；（iii）然后在数值求解器中使用学习的DE，用新的源项或初始数据近似DE的解，从而构成操作员学习框架。数值实验将该方法与最先进的算法进行了比较。在DE学习中，我们的框架与非线性动力系统稀疏辨识（SINDy）的性能相匹配，而在操作员学习中，与成熟的神经网络方法相比，该方法在低训练数据状态下具有更好的性能。

MSC公司：

65新元 偏微分方程边值问题的数值方法
68泰克 人工智能
65立方厘米 概率方法，随机微分方程

关键词：

方程式发现;操作员学习;再生核Hilbert空间;基于物理的机器学习

软件：

乐团-SINDy;DeepONet（深度网络）;PDE净值;PySINDy公司
PDF格式BibTeX公司 XML格式引用
\textit{D.Long}等人，Physica D 460，文章ID 134095，12 p.（2024；Zbl 07842147）
全文： 内政部

参考文献：

[1] 莱利，K.F。；霍布森，M.P。；Bence，S.J.，《物理与工程数学方法》，1999年，剑桥大学出版社·Zbl 0884.0001号
[2] 黑色，F。；Scholes，M.，《期权定价与公司负债》，J.Political Econ。，81, 3, 637-654, 1973 ·Zbl 1092.91524号
[3] Edelstein-Keshet，L.，生物数学模型，2005，SIAM·Zbl 1100.92001
[4] Marsden，J.E。；Hughes，T.J.，《弹性数学基础》，1994年，多佛出版社
[5] Temam，R.，Navier-Stokes方程：理论和数值分析，2001年，美国数学学会·Zbl 0981.35001号
[6] Karniadakis，G.E。；Kevrekidis，I.G。；卢，L。；佩迪卡里斯，P。；王，S。；Yang，L.，《物理告知机器学习》，自然科学出版社。，3, 6, 422-440, 2021
[7] Carleo，G。；西拉克，I。；克兰默，K。；Daudet，L。；舒尔德，M。；Tishby，北。；Vogt-Maranto，L。；Zdeborová，L.，《机器学习与物理科学》，《现代物理学评论》。，第91、4条，第045002页，2019年
[8] 威拉德，J。；贾，X。；徐，S。；斯坦巴赫，M。；Kumar，V.，《基于物理的建模与机器学习的集成：一项调查》，2020年，arXiv预印本arXiv:2003.04919
[9] 邦加德，J。；Lipson，H.，《非线性动力系统的自动逆向工程》，Proc。国家。阿卡德。科学。，104, 24, 9943-9948, 2007 ·Zbl 1155.37044号
[10] 施密特，M。；Lipson，H.，《从实验数据中提取自由形式自然法则》，《科学》，324592381-852009年
[11] 凯皮奥，J。；Somersalo，E.，统计和计算反问题，2006年，Springer科学与商业媒体·Zbl 0927.35134号
[12] Brunton，S.L。；Proctor，J.L。；Kutz，J.N.，通过非线性动力系统的稀疏识别从数据中发现控制方程，Proc。国家。阿卡德。科学。，113, 15, 3932-3937, 2016 ·Zbl 1355.94013号
[13] 卢，L。；Jin，P。；庞，G。；张，Z。；Karniadakis，G.E.，基于算子的普遍逼近定理，通过DeepONet学习非线性算子，Nat.Mach。整数。，3, 3, 218-229, 2021
[14] Z.Li，N.B.Kovachki，K.Azizzadenesheli，K.Bhattacharya，A.Stuart，A.Anandkumar等人，《参数偏微分方程的傅里叶神经算子》，载于：国际学习表征会议，2020年。
[15] 巴特勒，P。；达西，M。；侯赛尼，B。；Owhadi，H.，《内核方法对操作员学习具有竞争力》，2023年，arXiv预印本：2304.13202
[16] Rudy，S.H。；Brunton，S.L。；Proctor，J.L。；Kutz，J.N.，偏微分方程的数据驱动发现，科学。高级，3，4，文章e1602614 pp.，2017
[17] 巴塔查里亚，K。；侯赛尼，B。；科瓦奇奇，N.B。；Stuart，A.M.，参数偏微分方程的模型简化和神经网络，SMAI J.Compute。数学。，7, 121-157, 2021 ·Zbl 1481.65260号
[18] 李，Z。；刘，B。；Azizzadenesheli，K。；巴塔查里亚，K。；Anandkumar，A.，《神经算子：函数空间之间的学习映射及其对偏微分方程的应用》，J.Mach。学习。2023年第24、89、1-97号决议
[19] Bock，H.G.，ode参数识别技术的最新进展，（微分和积分方程反问题的数值处理，1983年，Springer），95-121·Zbl 0516.65067号
[20] Bock，H.G.，化学反应动力学反问题的数值处理，（化学反应系统建模，1981，Springer），102-125
[21] Stuart，A.，《逆向问题：贝叶斯观点》，《数值学报》。，19, 451-559, 2010 ·Zbl 1242.65142号
[22] Tröltzsch，F.，《偏微分方程的最优控制：理论、方法和应用》，2010年，美国数学学会·Zbl 1195.49001号
[23] de Silva，B.M。；冠军K。；奎德，M。；Loiseau，J.-C。；库茨，J.N。；Brunton，S.L.，Pysindy:从数据稀疏识别非线性动力学的python包，2020年，arXiv预印本arXiv:2004.08424
[24] Schaeffer，H.，通过数据发现和稀疏优化学习偏微分方程，Proc。R.Soc.A，473，2197，第20160446页，2017年·Zbl 1404.35397号
[25] Kang，S.H。；Liao，W。；Liu，Y.，Ident:用数值时间演化识别微分方程，J.Sci。计算。，87, 1, 1-27, 2021 ·Zbl 1467.65102号
[26] 奥瓦迪，H。；Scovel，C。；Yoo，G.R.，内核模式分解与内核编程，2021，施普林格·Zbl 1504.62012年
[27] 何毅。；Suh，N。；霍，X。；Kang，S.H。；Mei，Y.，单噪声轨迹正则化PDE识别的渐近理论，SIAM/ASA J.不确定。数量。，10, 3, 1012-1036, 2022 ·Zbl 1493.62440号
[28] 何毅。；赵，H。；钟毅，一个人能从偏微分方程的解中学到多少？，2022年，arXiv预印arXiv:2204.04602
[29] 长，Z。；Lu，Y。；马，X。；Dong，B.，《PDE-Net:从数据中学习pdes》，（机器学习国际会议，2018年，PMLR），3208-3216
[30] 长，Z。；Lu，Y。；Dong，B.，PDE-Net 2.0：使用数字符号混合深度网络从数据中学习PDE，J.Compute。物理。，第399条，第108925页，2019年·Zbl 1454.65131号
[31] 哈姆齐，B。；Owhadi，H.，《从数据学习动力系统：一个简单的交叉验证视角》，第一部分：参数核流，Physica D，421，Article 132817 pp.，2021·Zbl 1509.68217号
[32] 达西，M。；哈姆齐，B。；苏西洛托，J。；Braverman，A。；Owhadi，H.，《从数据学习动力系统：一个简单的交叉验证视角》，第二部分：非参数核流，2021年
[33] Lee，J。；De Brouwer，E。；哈姆齐，B。；Owhadi，H.，《从数据中学习动力系统：一个简单的交叉验证视角》，第三部分：不规则采样时间序列，Physica D，443，Article 133546 pp.，2023·兹比尔1510.37122
[34] 哈姆齐，B。；奥瓦迪，H。；Kevrekidis，Y.，《从数据学习动力系统：一个简单的交叉验证视角》，第四部分：部分观测案例，《物理学D》，第133853页，2023年·Zbl 07736383号
[35] Yang，L.等人。；太阳，X。；哈姆齐，B。；奥瓦迪，H。；Xie，N.，《从数据学习动力系统：一个简单的交叉验证视角》，第五部分：132个混沌动力系统的稀疏核流，2023年，arXiv预印本arXiv:2301.10321
[36] Yang，L.等人。；哈姆齐，B。；Kevrekidis，Y。；奥瓦迪，H。；太阳，X。；Xie，N.，从数据学习动力系统：简单的交叉验证视角，第六部分：基于Hausdorff度量的核学习吸引子训练及其在133个混沌动力系统中的应用，2023
[37] Ghanem，R.G。；Spanos，P.D.，《随机有限元：谱方法》，2003年，多佛出版社
[38] Xiu，D.，《随机计算的数值方法：谱方法方法》，2010年，普林斯顿大学出版社·Zbl 1210.65002号
[39] 科恩，A。；DeVore，R.，高维参数偏微分方程的近似，数值学报。，24, 1-159, 2015 ·Zbl 1320.65016号
[40] 赫塞文，J.S。；Rozza，G。；Stamm，B.，参数化偏微分方程的认证简化基方法，2016年，Springer·Zbl 1329.65203号
[41] 露西娅·D·J。；P.S.Beran。；Silva，W.A.，《降阶建模：计算物理的新方法》，Prog。Aerosp.航空公司。科学。，40, 1-2, 51-117, 2004
[42] 贝克，J。；丹蓬，R。；Nobile，F。；Tamellini，L.，《利用Galerkin和配置方法对随机偏微分方程进行最优多项式逼近》，Math。模型方法应用。科学。，2012年9月22日，第1250023条·Zbl 1262.65009号
[43] Chkifa，A。；科恩，A。；DeVore，R。；Schwab，C.，参数和随机椭圆偏微分方程的稀疏自适应泰勒近似算法，ESAIM Math。模型。数字。分析。，47, 1, 253-280, 2012 ·Zbl 1273.65009号
[44] Chkifa，A。；科恩，A。；Schwab，C.，高维自适应稀疏多项式插值及其在参数偏微分方程中的应用，Found。计算。数学。，14, 4, 601-633, 2014 ·兹比尔1298.65022
[45] Nobile，F。；丹蓬，R。；Webster，C.G.，《具有随机输入数据的偏微分方程的稀疏网格随机配置方法》，SIAM J.Numer。分析。，46, 5, 2309-2345, 2008 ·Zbl 1176.65137号
[46] Nobile，F。；丹蓬，R。；Webster，C.G.，《具有随机输入数据的偏微分方程的各向异性稀疏网格随机配置方法》，SIAM J.Numer。分析。，46, 5, 2411-2442, 2008 ·Zbl 1176.65007号
[47] Gunzburger，医学博士。；韦伯斯特，C.G。；Zhang，G.，具有随机输入数据的偏微分方程的随机有限元方法，Acta Numer。，23, 521-650, 2014 ·Zbl 1398.65299号
[48] A.Anandkumar，K.Azizzadenesheli，K.Bhattacharya，N.Kovachki，Z.Li，B.Liu，A.Stuart，《神经算子：偏微分方程的图形核网络》，收录于：ICLR 2020深度神经模型和微分方程集成研讨会，2020年。
[49] 陈，Y。；侯赛尼，B。；奥瓦迪，H。；Stuart，A.M.，用高斯过程求解和学习非线性偏微分方程，J.Compute。物理。，第447条，第110668页，2021年·Zbl 07516428号
[50] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，H.，《基于物理的神经网络：解决非线性偏微分方程正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707, 2019 ·Zbl 1415.68175号
[51] 抖动，C。；Wahlström，N。；Wills，A。；Schön，T.B.，线性约束高斯过程，高级神经信息过程。系统。，30, 2017
[52] 施密特，J。；Krämer，北卡罗来纳州。；Hennig，P.，从微分方程和数据联合推断的概率状态空间模型，高级神经信息处理。系统。，34, 12374-12385, 2021
[53] M.古利安。；Frankel，A。；Swiler，L.，受边值问题约束的高斯过程回归，计算。方法应用。机械。工程，388，第114117条，第2022页·Zbl 1507.62232号
[54] 张，S。；杨，X。；Tindel，S。；Lin，G.，《增强高斯随机场：理论与计算》，《离散Contin》。动态。系统。S、 2022年4月15日，931日·Zbl 1492.60091号
[55] Krämer，N。；博世，N。；施密特，J。；Hennig，P.，《百万维概率ODE解决方案》（机器学习国际会议，2022年，PMLR），11634-11649
[56] A.Besginow，M.Lange-Hegermann，《将高斯过程约束到线性常微分方程系统》，载《神经信息处理系统的进展》。
[57] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，使用高斯过程的线性微分方程机器学习，J.Compute。物理。，348, 683-693, 2017 ·Zbl 1380.68339号
[58] 牟，C。；杨，X。；周，C.，基于高斯过程和傅里叶特征的平均场博弈的数值方法，J.Compute。物理。，第460条，第111188页，2022年·兹伯利07525161
[59] Evans，L.C.，偏微分方程，2010，AMS·Zbl 1194.35001号
[60] Berlinet，A。；Thomas-Agnan，C.，《概率统计中的核希尔伯特空间再现》，2011年，施普林格科学与商业媒体
[61] Schölkopf，B。；Smola，A.J.，《使用内核学习：支持向量机、正则化、优化及其他》，麻省理工学院出版社，2002年
[62] 奥瓦迪，H。；Scovel，C.，《算子自适应小波、快速解算器和数值均匀化：从博弈论方法到数值逼近和算法设计》，2019年，剑桥大学出版社·Zbl 1477.65004号
[63] Muandet，K。；Fukumizu，K。；Sriperumbudur，B。；Schölkopf，B.，《内核意味着发行版的嵌入：回顾与超越》，Found。趋势马赫数。学习。，10, 1-2, 1-141, 2017 ·Zbl 1380.68336号
[64] Genton，M.G.，《机器学习的内核类：统计视角》，J.Mach。学习。2001年12月299-312日第2号决议·Zbl 1037.68113号
[65] 威廉姆斯，C。；Rasmussen，C.，回归的高斯过程，高级神经信息过程。系统。，8, 1995
[66] Sundararajan，S。；Keerthi，S.，在高斯过程中选择超参数的预测应用方法，高级神经Inf.过程。系统。，12, 1999
[67] Tipping，M.E。；Bishop，C.M.，概率主成分分析，J.R.Stat.Soc.Ser。《美国统计年鉴》。，61, 3, 611-622, 1999 ·Zbl 0924.62068号
[68] 阿梅利，S。；Shadden，S.C.，高斯过程回归中的噪声估计，2022年，arXiv预印本arXiv:2206.09976
[69] 卢，L。；X孟。；蔡，S。；毛，Z。；Goswami，S。；张，Z。；Karniadakis，G.E.，基于公平数据的两个神经运算符（带实际扩展）的全面公平比较，计算。方法应用。机械。工程，第393页，第114778条，2022页·Zbl 1507.65050号
[70] 马，C。；Wu，L.，神经网络模型的Barron空间和流诱导函数空间，Constr。约551369-4062022·Zbl 1490.65020号
[71] 美国法塞尔。；库茨，J.N。；布伦顿，B.W。；Brunton，S.L.，Ensemble-SINDy：低数据、高噪声极限下的稳健稀疏模型发现，具有主动学习和控制，Proc。R.Soc.伦敦。序列号。数学。物理学。工程科学。，4782260，第20210904条，第2022页
[72] 李，Z。；科瓦奇奇，N。；Azizzadenesheli，K。；刘，B。；Stuart，A。；巴塔查里亚，K。；Anandkumar，A.，参数偏微分方程的多极图神经算子，高级神经信息处理。系统。，33, 6755-6766, 2020
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。