×

用于数据驱动和物理信息问题的高保真深度操作员网络。 (英语) Zbl 07748048号

摘要:复杂非线性系统的算子学习在多物理和多尺度系统建模中越来越普遍。然而,训练这样的高维操作员需要大量昂贵的高保真数据,无论是来自实验还是模拟。在这项工作中,我们提出了一种复合深度算子网络(DeepONet),用于在没有足够高保真数据的情况下,使用两个保真度不同的数据集来准确学习复杂算子。此外,我们还证明,低维数据的存在可以提高对DeepONet物理信息学习的预测。我们在不同的例子中演示了新的多保真度训练,包括使用两种不同保真度模型对格陵兰洪堡冰川的冰盖动力学进行建模,以及使用相同的物理模型以两种不同的分辨率进行建模。

MSC公司:

68泰克 人工智能
6500万 偏微分方程、初值和含时初边值问题的数值方法
65立方厘米 概率方法,随机微分方程
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Wackernagel,H.,Cokriging,多变量地质统计学,144-151(1995),施普林格·Zbl 0871.62105号
[2] Babaee,H。;巴斯蒂达斯,C。;德菲利波,M。;Chryssostomidis,C。;Karniadakis,G.,《马萨诸塞州和鳕鱼角湾海面温度的多概念框架和不确定性量化》,《地球空间科学》。,第7、2条,第2019EA000954页(2020年)
[3] 佩迪卡里斯,P。;莱斯,M。;Damianou,A。;劳伦斯,N.D。;Karniadakis,G.E.,《数据高效多保真建模的非线性信息融合算法》,Proc。R.Soc.A,数学。物理学。工程科学。,473、2198,第20160751条,pp.(2017)·Zbl 1407.62252号
[4] X孟。;Karniadakis,G.E.,《从多保真数据中学习的复合神经网络:应用于函数逼近和逆偏微分方程问题》,J.Compute。物理。,401,第109020条pp.(2020)·Zbl 1454.76006号
[5] 卢,L。;Jin,P.等人。;庞,G。;张,Z。;Karniadakis,G.E.,基于算子的普遍逼近定理,通过deeponet学习非线性算子,Nat.Mach。整数。,3, 3, 218-229 (2021)
[6] 李,Z。;科瓦奇奇,N。;Azizzadenesheli,K。;刘,B。;巴塔查亚,K。;Stuart,A。;Anandkumar,A.,参数偏微分方程的傅里叶神经算子(2020),arXiv预印本
[7] 李,Z。;科瓦奇奇,N。;Azizzadenesheli,K。;刘,B。;巴塔查亚,K。;Stuart,A。;Anandkumar,A.,《神经算子:偏微分方程的图核网络》(2020),arXiv预印本
[8] 你,H。;Yu,Y。;D'Elia,M。;高,T。;Silling,S.,非局部核网络(nkn):一种稳定且与分辨率无关的深度神经网络,J.Compute。物理。,469,第111536条pp.(2022)·Zbl 07592139号
[9] 陈,T。;Chen,H.,具有任意激活函数的神经网络对非线性算子的通用逼近及其在动力系统中的应用,IEEE Trans。神经网络。,6, 4, 911-917 (1995)
[10] 巴克,A.D。;Chen,T.,神经网络对多个非线性算子的普遍逼近,神经计算。,14, 11, 2561-2566 (2002) ·Zbl 1057.68084号
[11] Sharma Priyadarshini,M。;文丘里,S。;Panesi,M.,deeponet在空气混合物非弹性散射概率模型中的应用,(AIAA航空2021论坛(2021)),3144
[12] 拉纳德,R。;Gitushi,K。;Echekki,T.,使用deeponet(2021)的湍流燃烧广义联合概率密度函数公式,arXiv预印本
[13] Goswami,S。;尹,M。;Yu,Y。;Karniadakis,G.E.,《预测准脆性材料裂纹路径的基于物理的变分深度》,计算。方法应用。机械。工程,391,第114587条pp.(2022)·Zbl 1507.74383号
[14] 林,C。;马克西,M。;李,Z。;Karniadakis,G.E.,用于推断气泡动力学的无缝多尺度算子神经网络,J.流体力学。,929 (2021) ·Zbl 1495.76119号
[15] Di Leoni,P.C。;卢,L。;梅内沃,C。;卡尼亚达基斯,G。;Zaki,T.A.,《高速边界层线性不稳定波的Deeponet预测》(2021年),arXiv预印本
[16] 王,S。;Wang,H。;Perdikaris,P.,《深度运营商网络的改进架构和训练算法》,J.Sci。计算。,92, 2, 35 (2022) ·Zbl 07550028号
[17] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《基于物理的神经网络:用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》,J.Compute。物理。,378, 686-707 (2019) ·Zbl 1415.68175号
[18] 西里尼亚诺,J。;Spiliopoulos,K.,DGM:解偏微分方程的深度学习算法,J.Compute。物理。,375, 1339-1364 (2018) ·Zbl 1416.65394号
[19] 卡鲁穆里,S。;Tripathy,R。;Bilinis,I。;Panchal,J.,使用深层神经网络的高维随机椭圆偏微分方程的无模拟解,J.Compute。物理。,404,第109120条pp.(2020)·Zbl 1453.65021号
[20] Sun,L。;高,H。;潘,S。;Wang,J.-X.,基于物理约束的无模拟数据深度学习的流体流动替代建模,计算。方法应用。机械。Eng.,361,第112732条,第(2020)页·Zbl 1442.76096号
[21] Psichogios,哥伦比亚特区。;Ungar,L.H.,过程建模的混合神经网络第一原理方法,AIChE J.,38,10,1499-1511(1992)
[22] 拉加里斯,I.E。;利卡斯,A。;Fotiadis,D.I.,求解常微分方程和偏微分方程的人工神经网络,IEEE Trans。神经网络。,9, 5, 987-1000 (1998)
[23] Griewank,A.,《关于自动微分,数学编程:最新发展和应用》,第6卷,83-107(1989)·Zbl 0696.65015号
[24] Baydin,A.G。;Pearlmutter,B.A。;Radul,A.A。;Siskind,J.M.,《机器学习中的自动差异化:一项调查》,J.Mach。学习。决议,18,1-43(2018)·Zbl 06982909号
[25] 王,S。;Wang,H。;Perdikaris,P.,《利用物理知识深度学习参数偏微分方程的解算子》,科学。高级,7,40(2021),eabi8605
[26] 王,S。;Perdikaris,P.,参数演化方程与物理信息深度的长期积分,J.Compute。物理。,475,第111855条pp.(2023)·Zbl 07649276号
[27] 卢,L。;道,M。;库马尔,P。;拉马默蒂,美国。;Karniadakis,G.E。;Suresh,S.,通过仪器压痕深度学习提取材料的机械性能,Proc。国家。阿卡德。科学。,117, 13, 7052-7062 (2020)
[28] Penwarden,M。;哲,S。;Narayan,A。;Kirby,R.M.,《物理信息神经网络(pins)的多保真建模》,J.Compute。物理。,451,第110844条,第(2022)页·Zbl 07517154号
[29] 雅格塔普,A.D。;Mitsotakis,D。;Karniadakis,G.E.,《利用多保真度数据深度学习逆水波问题:应用于Serre-Green-Naghdi方程》,海洋工程,248,第110775页,(2022)
[30] 雷加佐尼,F。;Pagani,S。;Cosenza,A。;伦巴第,A。;Quarteroni,A.,《在低数据或大噪声条件下估计微分方程参数的基于物理的多保真度方法》,Rend。林塞,32,3,437-470(2021)·兹比尔1498.65150
[31] 宋,D.H。;Tartakovsky,D.M.,《多保真度数据的传输学习》,J.Mach。学习。模型。计算。,2 (2021)
[32] 德·S。;J·布里顿。;雷诺兹,M。;斯金纳,R。;Jansen,K。;Doostan,A.,《使用双精度数据进行不确定性传播的神经网络传递学习》,《国际不确定性杂志》。量化。,10, 6 (2020) ·Zbl 1498.68231号
[33] 德·S。;Doostan,A.,使用(ell_1)正则化和双精度数据的神经网络训练,J.Compute。物理。,第111010页(2022)·Zbl 07527706号
[34] Chakraborty,S.,基于传输学习的多保真度物理通知深度神经网络,J.Compute。物理。,426,第109942条,第(2021)页·Zbl 07510057号
[35] 原田,K。;拉贾拉姆,D。;Mavris,D.N.,使用风洞测量在跨音速翼型上应用多保真物理信息神经网络,(AIAA SCITECH 2022论坛(2022)),0386
[36] X孟。;王,Z。;风扇,D。;Triantafylou,M.S。;Karniadakis,G.E.,《复杂数据相关性的快速多保真度不确定性量化方法:海洋立管涡激振动的应用》,计算。方法应用。机械。工程,386,第114212条pp.(2021)·Zbl 1507.62298号
[37] 张,X。;谢凤。;季涛(Ji,T.)。;朱,Z。;Zheng,Y.,用于气动形状优化的高保真度深度神经网络代理模型,计算机。方法应用。机械。工程,373,第113485条pp.(2021)·Zbl 1506.74324号
[38] 刘,D。;Wang,Y.,多精度物理约束神经网络及其在材料建模中的应用,J.Mech。设计。,141, 12 (2019)
[39] 卢,L。;佩斯托里,R。;约翰逊,S.G。;Romano,G.,用于有效学习偏微分方程并应用于纳米级热传输快速逆向设计的多保真深度神经运算符,Phys。Rev.Res.,4,2,第023210条pp.(2022)
[40] 德·S。;雷诺兹,M。;Hassanaly,M。;King,R.N。;Doostan,A.,使用深网对不确定和部分未知系统进行双精度建模,计算。机械。,71, 6, 1251-1267 (2023) ·兹比尔1521.74407
[41] 卢,L。;Jin,P.等人。;Karniadakis,G.E.,Deeponet:基于算子的普遍逼近定理学习用于识别微分方程的非线性算子(2019),arXiv预印本
[42] 陈,T。;Chen,H.,径向基函数神经网络对多变量函数、非线性泛函和算子的逼近能力,IEEE Trans。神经网络。,6, 4, 904-910 (1995)
[43] 麦克伦尼,L.D。;Braga-Neto,U.M.,自适应物理信息神经网络,J.Compute。物理。,474,第111722条pp.(2023)·Zbl 07640528号
[44] 佩雷戈,M。;价格,S。;Stadler,G.,冰盖模型与地球系统模型耦合的最佳初始条件,J.Geophys。地球表面研究,119,1-24(2014)
[45] 何,Q。;佩雷戈,M。;霍华德,A.A。;Karniadakis,G.E。;Stinis,P.,用于冰层建模的混合深度神经算子/有限元方法,J.Compute。物理。,492,第112428条pp.(2023)·Zbl 07742911号
[46] 杜科维茨,J.K。;价格,S.F。;Lipscomb,W.H.,《基于最小作用原理的冰层动力学一致近似和边界条件》,J.Glaciol。,56, 197, 480-496 (2010)
[47] 佩雷戈,M。;Gunzburger,M。;Burkardt,J.,高阶冰片模型的并行有限元实现,J.Glaciol。,5820776-88(2012年)
[48] 罗宾逊,A。;Goldberg,D。;Lipscomb,W.H.,深度集成冰动力学解算器的稳定性和性能比较,Cryosphere,16,2,689-709(2022)
[49] Morland,L.W。;Johnson,I.R.,冰盖的稳态运动,J.Glaciol。,25, 92, 229-246 (1980)
[50] Dias dos Santos,T。;Morlighem,M。;Brinkerhoff,D.,一个新的垂直集成单层高阶(molho)冰流模型,冰冻圈,16179-195(2022)
[51] 佩特拉,N。;马丁·J。;斯塔德勒,G。;Ghattas,O.,无限维贝叶斯反问题的计算框架,第二部分:随机牛顿mcmc及其在冰盖流反问题中的应用,SIAM J.Sci。计算。,36、4、A1525-A1555(2014)·兹比尔1303.35110
[52] Alns,M。;布莱希塔,J。;Hake,J。;约翰逊,A。;Kehlet,B。;Logg,A。;Richardson,C。;Ring,J。;罗杰斯,M.E。;Wells,G.N.,《围栏项目1.5版》,Arch。数字。软质。,3, 100 (2015)
[53] Koric,S。;Abueida,D.W.,用于求解含参数热源的热传导方程的数据驱动和基于物理的深度学习算子,国际热质传递杂志。,203,第123809条pp.(2023)
[54] Halfar,P.,《关于冰盖动力学2》,J.Geophys。海洋研究,88,C10,6043-6051(1983)
[55] Hillebrand,T.R。;霍夫曼,M.J。;佩雷戈,M。;价格,S.F。;Howat,I.M.,《格陵兰岛北部洪堡冰川对2100年海平面上升的贡献》,《冰冻圈》,第16、11、4679-4700页(2022年)
[56] 预测智能实验室、Physics-informed deeponets、URL
[57] Driscoll,T.A。;Hale,北卡罗来纳州。;Trefethen,L.N.,Chebfun指南(2014)
[58] 考克斯,S.M。;Matthews,P.C.,刚性系统的指数时间差分,J.Compute。物理。,176, 2, 430-455 (2002) ·Zbl 1005.65069号
[59] Goswami,S。;博拉,A。;Yu,Y。;Karniadakis,G.E.,Physics-informed neural operators(2022),arXiv预印本
[60] 艾哈迈德,S.E。;Stinis,P.,多尺度系统闭包的多重深度算子网络方法,计算。方法应用。机械。工程,414,第116161条pp.(2023)·Zbl 07725699号
[61] 布拉德伯里,J。;弗罗斯蒂格,R。;霍金斯,P。;约翰逊,M.J。;Leary,C。;麦克劳林(D.Maclaurin)。;花蜜,G。;Paszke,A。;范德普拉斯,J。;Wanderman-Millne,S。;Zhang,Q.,JAX:Python+NumPy程序的可组合转换(2018),URL
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。