李卓元;董斌;张平文 未知动力学的隐式神经表征的潜在同化。 （英语） Zbl 07843849号 J.计算。物理学。 506，文章ID 112953，32 p.（2024）. 摘要：数据同化在广泛的应用中至关重要，但由于数据维度和对潜在机制的不完全理解，数据同化通常面临着计算成本高的挑战。为了应对这些挑战，本研究提出了一个新的同化框架，称为具有内隐神经表征的潜在同化（LAINR）。通过引入球面隐式神经表示（SINR）以及训练神经网络的数据驱动不确定性估计器，LAINR提高了同化过程的效率。实验结果表明，LAINR在准确性和效率方面都优于现有的基于自动编码器的方法。 MSC公司： 68泰克 人工智能 6500万 偏微分方程、初值和含时初边值问题的数值方法 35Kxx美元 抛物方程和抛物系统 关键词：数据同化;隐式神经表征;球面谐波;非结构化数据建模;不确定度估计 软件：DeepONet（深度网络）;FourCastNet公司;PDE净值;科学Py;蟒蛇;AEflow公司;DGM公司 PDF格式BibTeX公司 XML格式引用 \textit{Z.Li}等人，《计算杂志》。物理学。506，文章ID 112953，32 p.（2024；Zbl 07843849） 全文： 内政部 arXiv公司 参考文献： [1] 阿蒙多拉，M。；阿库奇，R。；莫特特，L。；卡萨斯，C.Q。；风扇，S。；疼痛，C。；林登，P。；Guo，Y.K.，卷积式自动编码器潜在空间中的数据同化，（Paszynski，M.；Kranzlmüller，D.；Krzhizhanovskaya，V.V.；Dongarra，J.J.；Sloot，P.M.，《计算科学-ICCS 2021》，2021年，斯普林格国际出版公司：施普林格国际出版社Cham），373-386 [2] 阿科曼诺，T。；Szunyogh，I。；Pathak，J。；Wikner，A。；亨特，B.R。；Ott，E.，基于机器学习的全球大气预测模型，Geophys。Res.Lett.公司。，47，9，条款e2020 GL087776 pp.，2020 [3] 阿尔库奇，R。；莫特特，L。；疼痛，C。；郭永康，变分资料同化的最优约化空间，J.Compute。物理。，379, 51-69, 2019 ·Zbl 07581563号 [4] 阿尔塔纳，G。；Cammilleri，A。；Carlier，J.等人。；Mémin，E.，降阶流体流动建模的强约束和弱约束变分同化，J.Comput。物理。，231, 8, 3264-3288, 2012 ·Zbl 1401.76060号 [5] Asch，M.（医学博士）。；博奎特，M。；Nodet，M.，《数据同化》，2016年，工业和应用数学学会：宾夕法尼亚州费城工业和应用算术学会·Zbl 1361.93011号 [6] 阿特金森，K。；Han，W.，《单位球面上的球面调和与逼近：导论》，数学课堂讲稿，2012年，施普林格·Zbl 1254.41015号 [7] Bachlechner，T。；Majumder，B.P。；毛，H。；科特雷尔，G。；McAuley，J.，Rezero就是你所需要的：大深度快速收敛，（第三十七届人工智能不确定性会议论文集，2021年，PMLR），1352-1361 [8] 银行，D。；Koenigstein，N。；Giryes，R.，Autoencoders，（《数据科学机器学习手册：数据挖掘和知识发现手册》，2023年），353-374·Zbl 1522.68001号 [9] 贝马纳，M。；Myszkowski，K。；塞德尔，H.P。；Ritschel，T.，《X场：隐式神经视图、光和时间图像插值》，ACM Trans。图表。，39, 6, 2020 [10] Berkooz，G。；霍姆斯，P。；Lumley，J.L.，湍流分析中的适当正交分解，Annu。流体力学版次。，25, 1, 539-575, 1993 [11] Bi，K。；谢林。；张，H。；陈，X。；顾，X。；田强，利用3D神经网络进行准确的中期全球天气预报，《自然》，619，7970，533-5382023 [12] Brunton，S.L。；Proctor，J.L。；Kutz，J.N.，通过非线性动力系统的稀疏识别从数据中发现控制方程，Proc。国家。阿卡德。科学。，113, 15, 3932-3937, 2016 ·Zbl 1355.94013号 [13] Burns，K.J。；瓦西尔，G.M。；Oishi，J.S。；Lecoanet博士。；Brown，B.P.，Dedalus:《谱方法数值模拟的灵活框架》，Phys。Rev.Res.，2，第023068条，pp.，2020 [14] 曹毅。；朱，J。；罗，Z。；Navon，I.，使用适当的正交分解对热带太平洋上层模式进行降阶模拟，计算。数学。申请。，52, 8, 1373-1386, 2006 ·Zbl 1161.86002号 [15] Chen，K。；Han，T。；龚，J。；Bai，L.等人。；Ling，F。；罗，J.J。；陈，X。；马，L。；张，T。；苏，R.，冯武：将熟练的全球中期天气预报提前10天推出，2023年，预印本 [16] 陈，P.Y。；Xiang，J。；Cho，D.H。；Chang，Y。；潘兴，G.A。；Maia，H.T。；Chiaramonte，M.M。；卡尔伯格，K.T。；Grinspun，E.，CROM：使用隐式神经表征对PDE进行连续降阶建模（国际学习表征会议，2023年） [17] Chen，R.T。；Rubanova，Y。；Bettencourt，J。；Duvenaud，D.K.，《神经常微分方程》，《高级神经信息处理》。系统。，31, 2018 [18] Chen，R.T。；阿莫斯，B。；Nickel，M.，《学习常微分方程的神经事件函数》（国际学习表征会议，2021年） [19] 陈，Z。；Zhang，H.，学习生成形状建模的隐式域，（2019年IEEE/CVF计算机视觉和模式识别会议论文集），5939-5948 [20] Cheng，S。；陈，J。；阿纳斯塔西奥，C。；Angeli，P。；马塔尔，O.K。；郭永凯。；疼痛，C.C。；Arcucci，R.，《利用机器学习替代模型在异质约化空间中推广潜在同化》，J.Sci。计算。，94, 1, 2023 ·Zbl 1534.76069号 [21] 钟，J。；吉尔切尔，圣彼得堡。；Cho，K。；Bengio，Y.，门控递归神经网络对序列建模的实证评估，2014年，预印本 [22] Cizmas，P。；Palacios，A。；O'Brien，T。；Syamlal，M.，流化床中时空模式的适当正交分解，化学。工程科学。，58, 19, 4417-4427, 2003 [23] 克莱尔，M.C。；贾米勒，O。；Morcrette，C.J.，《结合基于分布的神经网络预测天气预报概率》，Q.J.R.Meteorol。Soc.，147，741，4337-4357，2021年 [24] DeVore，R.A。；霍华德·R。；Micchelli，C.，最优非线性近似，Manuscr。数学。，63, 469-478, 1989 ·Zbl 0682.41033号 [25] 杜邦，E。；Kim，H。；埃斯拉米，S.M.A。；Rezende，D.J。；Rosenbaum，D.，《从数据到函数：你的数据点是一个函数，你可以像对待函数一样对待它》（第39届机器学习国际会议论文集，2022年） [26] 杜邦，E。；Loya，H。；Alizadeh，M。；戈林斯基，A。；Teh，Y.W。；Doucet，A.，Coin++：跨模式的神经压缩，Trans。机器。学习。2022年决议 [27] Evensen，G.，《数据同化》，2009年，《施普林格：施普林格柏林》，海德堡 [28] Farchi，A。；Laloyaux，P。；博纳维塔，M。；Bocquet，M.，《使用机器学习纠正数据同化和预测应用中的模型误差》，Q.J.R.Meteorol。Soc.，1477393067-30842021年 [29] R·法托尼。；Sahu，A.K。；Willmott，D。；Kolter，J.Z.，乘法滤波器网络，（国际学习代表大会，2020年） [30] Fillion，A。；博奎特，M。；格拉顿，S。；Gürol，S。；Sakov，P.，存在加性模型误差的迭代集合卡尔曼平滑器，SIAM/ASA J.不确定性。量化。，8, 1, 198-228, 2020 ·Zbl 1435.93167号 [31] 弗雷斯卡，S。；Dede'，L。；Manzoni，A.，基于深度学习的综合方法，用于非线性时间相关参数化pde的降阶建模，J.Sci。计算。，87, 1-36, 2021 ·Zbl 1470.65166号 [32] 加列夫斯基，J。；斯科特·R·K。；Polvani，L.M.，《测试全球浅水方程数值模型的初始值问题》，Tellus，Ser。A Dyn公司。美托洛尔。海洋学家。，2004 [33] Glaws，A。；金·R。；Sprague，M.，用于大型湍流模拟的原位数据压缩的深度学习，Phys。Rev.流体，5，第114602条，第2020页 [34] Gruber，A。；Gunzburger，M。；Ju，L。；Wang，Z.，《数据驱动降阶建模的神经网络架构比较》，计算。方法应用。机械。工程，393，第114764条，pp.，2022·Zbl 1507.65157号 [35] He，K。；张，X。；任，S。；Sun，J.，图像识别的深度残差学习，（IEEE计算机视觉和模式识别会议论文集，2016） [36] Hersbach，H。；贝尔，B。；Berrisford，P。；Hirahara，S。；Horányi，A。；穆尼奥斯·萨巴特，J。；尼古拉斯，J。；Peubey，C。；Radu，R。；Schepers，D。；Simmons，A。；Soci，C。；阿卜杜拉，S。；阿伯兰，X。；Balsamo，G。；Bechtold，P。；比亚瓦蒂，G。；比德洛特，J。；博纳维塔，M。；De Chiara，G。；Dahlgren，P。；迪·D。；Diamantakis，M。；Dragani，R。；弗莱明，J。；福布斯，R。；Fuentes，M。；Geer，A。；Haimberger，L。；希利，S。；霍根，R.J。；霍尔姆，E。；Janisková，M。；Keeley，S。；Laloyaux，P。；洛佩兹，P。；卢普，C。；Radnoti，G。；de Rosnay，P。；罗祖姆，I。；Vamborg，F。；Villaume，S。；Thépaut，J.N.，《era5全球再分析》，Q.J.R.Meteorol。Soc.，146，730，1999-2049，2020年 [37] Hochreiter，S。；Schmidhuber，J.，长短期记忆，神经计算。，9, 8, 1735-1780, 1997 [38] 蒋春明。；Esmaeilzadeh，S。；Azizzadenesheli，K。；Kashinath，K。；穆斯塔法，M。；Tchelepi，H.A。；马库斯，P。；Prabhat，Anandkumar A.，Meshfreeflownet:一个物理约束的深连续时空超分辨率框架，（SC20：高性能计算、网络、存储和分析国际会议，2020年，IEEE），1-15 [39] Kalnay，E.，《大气建模、数据同化和可预测性》，2002年，剑桥大学出版社 [40] Kotsuki，S。；佐藤，Y。；Miyoshi，T.，《气候研究的数据同化：大规模凝结方案的模型参数估计》，J.Geophys。大气研究。，125，1，文章e2019JD031304 pp.，2020 [41] 拉霍兹，W.A。；Schneider，P.，《数据同化：理解地球观测》，Front。环境。科学。，2, 16, 2014 [42] Lam，R。；Sanchez-Gonzalez，A。；Willson，M。；Wirnsberger，P。；福图纳托，M。；Alet，F。；拉武里，南卡罗来纳州。；Ewalds，T。；伊顿-罗森，Z。；胡，W。；Merose，A。；霍耶，S。；霍兰德，G。；葡萄酒，O。；斯托特，J。；Pritzel，A。；穆罕默德，S。；巴塔利亚，P.，《学习熟练的中期全球天气预报》，《科学》，38266771416-14212023年 [43] LeCun，Y。；Y.本吉奥。；Hinton，G.，《深度学习》，《自然》，521，7553，436-4442015 [44] Lee，K。；Carlberg，K.T.，使用深度卷积自编码器对非线性流形上动力系统的模型简化，J.Compute。物理。，404，第108973条pp.，2020年·Zbl 1454.65184号 [45] 李，Z。；科瓦奇奇，N。；Azizzadenesheli，K。；刘，B。；巴塔查里亚，K。；Stuart，A。；Anandkumar，A.，参数偏微分方程的傅里叶神经算子（国际学习表征会议，2021年） [46] 利普顿，Z.C。；J.伯克维茨。；Elkan，C.，《序列学习递归神经网络的批判性评论》，2015年，预印本 [47] 长，Z。；Lu，Y。；Dong，B.，Pde-net 2.0：使用数字符号混合深度网络从数据中学习pdes，J.Compute。物理。，第399条，第108925页，2019年·Zbl 1454.65131号 [48] 卢，L。；Jin，P。；庞，G。；张，Z。；Karniadakis，G.E.，基于算子的普遍逼近定理，通过DeepONet学习非线性算子，Nat.Mach。整数。，3, 3, 218-229, 2021 [49] 卢科舍维奇，M。；Jaeger，H.，递归神经网络训练的水库计算方法，计算。科学。2009年第3、3、127-149版·Zbl 1302.68235号 [50] Lumley，J.L.，《湍流中的随机工具》，1970年，学术出版社·Zbl 0273.76035号 [51] 罗，Y。；Ogle，K。；塔克，C。；Fei，S。；高，C。；拉迪奥，S。；克拉克，J.S。；Schimel，D.S.，《数据丰富时代的生态预测和数据同化》，Ecol。申请。，21, 5, 1429-1442, 2011 [52] Maas，A。；Hannun，A。；Ng，A.，整流器非线性改善神经网络声学模型，（机器学习国际会议论文集，2013） [53] 梅塔，I。；加尔比，M。；巴恩斯，C。；Shechtman，E。；Ramamoorthi，R。；Chandraker，M.，可推广局部功能表示的调制周期激活，（IEEE/CVF国际计算机视觉会议论文集，2021年），14214-14223 [54] Nadler，P。；阿库奇，R。；郭永康，经济建模中参数估计的数据同化，（2019年第15届国际信号图像技术与基于互联网的系统会议，2019年，IEEE），649-656 [55] 牛，S。；罗，Y。；Dietze，M.C。；基南，T.F。；施，Z。；李，J。；Stuart Chapin，F.，数据同化在预测生态学中的作用，Ecosphere，5，5，Article art65 pp.，2014 [56] Ohlberger，M。；Rave，S.，《简化基础方法：成功、局限和未来挑战》，2015年，预印本 [57] Park，J.J。；佛罗伦萨，P。；斯特劳布，J。；纽科姆，R。；Lovegrove，S.，Deepsdf：学习形状表示的连续有符号距离函数，（2019年IEEE/CVF计算机视觉和模式识别会议论文集），165-174 [58] Pathak，J。；Subramanian，S。；Harrington，P。；拉贾，S。；Chattopadhyay，A。；Mardani，M。；Kurth，T。；霍尔，D。；李，Z。；Azizzadenesheli，K。；Hassanzadeh，P。；Kashinath，K。；Anandkumar，A.，Fourcastnet：使用自适应傅里叶神经算子的全球数据驱动高分辨率天气模型，2022年，预印本 [59] 帕瓦尔，S。；San，O.，机器学习和数据同化交叉点处地球物理流的无方程替代建模，J.Adv.Model。地球系统。，第14、11条，第2022MS003170页，2022年 [60] Penny，S.G。；史密斯，T.A。；Chen，T.C。；普拉特，J.A。；Lin，H.Y。；Goodliff，M。；Abarbanel，H.D.I.，《将递归神经网络与数据同化集成用于可伸缩的数据驱动状态估计》，J.Adv.Model。地球系统。，第14、3条，第2021MS002843页，2022年 [61] 佩雷斯，E。；支柱，F。；德弗里斯，H。；杜穆林，V。；Courville，A.C.，《电影：具有一般条件层的视觉推理》（AAAI人工智能会议论文集，2018） [62] 佩伦，M。；Fillion，A。；Gürol，S。；马查斯，V。；格拉顿，S。；布迪耶，P。；Goret，G.，《利用深度学习进行潜在空间数据同化》，Q.J.R.Meteorol。Soc.，1477403759-37772021年 [63] Pinkus，A.，n-宽度的基本性质，（1985年，施普林格-柏林-海德堡：施普林格-柏林-海德堡-柏林，海德堡），9-38 [64] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707, 2019 ·Zbl 1415.68175号 [65] Rasp，S。；Dueben，P.D。；谢尔，S。；韦恩，J.A。；穆阿塔迪德，S。；瑟雷，N.，《Weatherbench：数据驱动天气预报的基准数据集》，J.Adv.Model。地球系统。，12、11，文章e2020 MS002203 pp.，2020 [66] Rasp，S。；Thurey，N.，《数据驱动的中期天气预测，带有气候模拟预处理的resnet：天气基准的新模型》，J.Adv.model。地球系统。，13，2，文章e2020 MS002405 pp.，2021 [67] 雷加佐尼，F。；Dedè，L。；Quarteroni，A.，《快速可靠求解含时微分方程的机器学习》，J.Compute。物理。，第397条，第108852页，2019年·Zbl 1454.65185号 [68] 谢尔，S。；Messori，G.，基于神经网络的天气预报的集合方法，J.Adv.Model。地球系统。，13, 2, 2021 [69] 施密德，P.J.，数值和实验数据的动态模式分解，J.流体力学。，656, 5-28, 2010 ·兹比尔1197.76091 [70] 舒尔茨，M.G。；Betancourt，C。；龚，B。；克莱因，F。；Langguth，M。；鲁芬，L.H。；莫扎法里，A。；Stadtler，S.，深度学习能战胜数值天气预报吗？，菲洛斯。事务处理。R.Soc.A，数学。物理学。工程科学。，3792194，第20200097条，第2021页 [71] Sirignano，J。；Spiliopoulos，K.，Dgm:解偏微分方程的深度学习算法，J.Compute。物理。，375, 1339-1364, 2018 ·Zbl 1416.65394号 [72] Sirovich，L.，湍流与相干结构动力学，第一部分：相干结构，Q.Appl。数学。，45, 3, 561-571, 1987 ·Zbl 0676.76047号 [73] Sitzmann，V。；马特尔，J。；伯格曼，A。；林德尔博士。；Wetzstein，G.，具有周期激活函数的隐式神经表示，高级神经信息处理。系统。，31, 7462-7473, 2020 [74] Talagrand，O.，4D-VAR：四维变分同化，（地球科学高级数据同化：Les Houches物理学院讲稿：专刊，2014，牛津大学出版社） [75] Tancik，M。；Srinivasan，P.P。；Mildenhall，B。；弗里多维奇·凯尔（Fridovich-Keil，S.）。；Raghavan，N。；美国Singhal。；Ramamoorthi，R。；Barron，J.T。；Ng，R.，Fourier特性使网络能够学习低维域中的高频函数，高级神经信息处理。系统。，33, 7537-7547, 2020 [76] Tangborn，A。；Zhang，S.Q.，适用于近似卡尔曼滤波系统的小波变换，应用。数字。数学。，33, 1, 307-316, 2000 ·Zbl 0964.65088号 [77] 乌德雷斯库，S.M。；Tegmark，M.，Ai Feynman：符号回归的物理启发方法，科学。高级，6，16，文章eaay2631 pp.，2020 [78] Virtanen，P。；Gommers，R。；Oliphant，T.E。；哈伯兰，M。；Reddy，T。；库纳波，D。；Burovski，E。；彼得森，P。；Weckesser，W。；Bright，J。；范德沃尔特，S.J。；布雷特，M。；Wilson，J。；Millman，K.J。；北马约罗夫。；Nelson，A.R.J。；琼斯，E。；科恩，R。；Larson，E。；Carey，C.J。；伊利诺伊州波拉特。；Feng，Y。；摩尔，E.W。；范德普拉斯，J。；拉萨尔德，D。；佩克托尔德，J。；Cimrman，R。；亨利克森，I。；金特罗，E.A。；哈里斯·C·R。；阿奇博尔德，A.M。；里贝罗，A.H。；佩德雷戈萨，F。；van Mulbregt，P.，SciPy 1.0贡献者：SciPy1.0：Python科学计算的基本算法，自然方法，17，261-2722020 [79] E.渭南。；Yu，B.，The deep Ritz method：一种基于深度学习的数值算法，用于求解变分问题，Commun。数学。统计，2018年6月1日至12日·Zbl 1392.35306号 [80] 韦勒，H。；Thuburn，J。；Cotter，C.J.，《五种准均匀球面C网格上的计算模式和网格压印》，Mon。《天气评论》，140，8，2734-27552012 [81] 韦恩，J.A。；杜兰，D.R。；Caruana，R.，在立方球体上使用深度卷积神经网络改进数据驱动的全球天气预测，J.Adv.模型。地球系统。，12、9，文章e2020 MS002109 pp.，2020 [82] Ye，Z。；刘，H。；王，Z。；Dong，B.，参数偏微分方程解码器宽度分析，2023，预印本 [83] Yin，Y。；Kirchmeyer，M。；弗朗西斯基，J.Y。；阿科托马蒙杰，A。；Gallinari，P.，隐式神经表征的连续pde动力学预测，（国际学习表征会议，2023） [84] 翟，J。；张，S。；陈，J。；He，Q.，自动编码器及其各种变体，（2018年IEEE系统、人与控制论国际会议，2018年，IEEE），415-419 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。