伊维卡·基奇;潘泰利斯·R·弗拉查斯。;乔治·阿兰帕齐斯;米歇尔·查兹马诺拉基斯;列奥尼达斯·吉巴斯;彼得罗·库穆塔科斯 复杂系统在线建模有效动力学的自适应学习。 （英语） Zbl 07736320号 计算。方法应用。机械。工程师。 415，文章ID 116204，33 p.（2023）. 摘要：预测模拟对于从天气预报到材料设计等应用来说至关重要。这些模拟的准确性取决于它们捕捉有效系统动力学的能力。大规模并行仿真通过解析所有时空尺度来预测系统动力学，通常以阻止实验为代价。另一方面，降阶模型速度快，但往往受到系统动力学线性化和采用启发式闭包的限制。我们提出了一种新的系统框架，该框架将大规模仿真和降阶模型连接起来，以自适应地提取和预测多尺度系统的有效动力学（AdaLED）。AdaLED使用自动编码器识别系统动力学的降阶表示，并使用概率递归神经网络（RNN）集成作为潜在时间步进器。该框架在计算解算器和代理解算器之间交替使用，加速学习的动力学，同时将以前学习的动力学状态留给原始解算器。AdaLED通过在线培训不断调整代理以适应新的动态。代理项和计算解算器之间的转换是通过监控代理项的预测准确性和不确定性来确定的。AdaLED的有效性在三个不同的系统上得到了证明——范德波尔振荡器、2D反应扩散方程和2D Navier-Stokes流过不同雷诺数（400到1200）的圆柱体，显示了其在线学习有效动力学、检测未知动力学状态和提供净加速的能力。据我们所知，AdaLED是第一个将代理模型与计算解算器耦合以实现有效动力学在线自适应学习的框架。对于需要大量计算昂贵模拟的应用程序，它是一个强大的工具。 MSC公司： 76倍 流体力学 82至XX 统计力学，物质结构 关键词：自适应降阶建模;计算机模拟;机器学习;在线实时学习;持续学习;Navier-Stokes方程 软件：github;LaSDI公司;pybind11;AdaLED（自适应发光二极管）;立方体AMR;自动DEUQ;gLaSDI公司;OctNet公司;亚当;odmd（odmd） PDF格式BibTeX公司 XML格式引用 \textit{I.Kić}等人，计算。方法应用。机械。工程415，文章ID 116204，33 p.（2023；Zbl 07736320） 全文： 内政部 arXiv公司 参考文献： [1] Lateef，F.，《模拟学习：就像真实的一样》，J.Emerg.创伤休克，3，4，348（2010） [2] 斯普林格尔，V。；怀特，S.D。；Jenkins，A。；Frenk，C.S。；吉田，N。；高，L。；纳瓦罗，J。；Thacker，R。；克罗顿，D。；Helly，J.，《星系和类星体形成、演化和聚集的模拟》，《自然》，4357042629-636（2005） [3] Kurth，T。；Treichler，S。；罗梅罗，J。；穆迪贡达，M。；鲁尔，N。；菲利普斯，E。；Mahesh，A。；Matheson，M。；戴斯利普，J。；Fatica，M.，Exascale气候分析深度学习，（SC18：高性能计算、网络、存储和分析国际会议（2018），IEEE），649-660 [4] O.加塔斯。；Willcox，K.，《从数据学习基于物理的模型：从反问题和模型简化的角度》，《数值学报》。，30, 445-554 (2021) ·Zbl 1520.65043号 [5] 龚·W。；段，Q。；Li，J.等人。；王，C。；Di，Z。；戴，Y。；Ye，A。；Miao，C.，使用自适应代理建模对公共土地模型进行多目标参数优化，Hydrol。地球系统。科学。，19, 5, 2409-2425 (2015) [6] 维尔马，S。；诺瓦蒂，G。；Koumoutsakos，P.，通过深度强化学习利用旋涡实现高效集体游泳，Proc。国家。阿卡德。科学。，115, 23, 5849-5854 (2018) [7] 诺瓦蒂，G。；de Laroussilhe，H.L。；Koumoutsakos，P.，《通过多智能体强化学习实现湍流建模自动化》，Nat.Mach。智力。，3, 1, 87-96 (2021) [8] 杜，S.S。；卡卡德，S.M。；王，R。；Yang，L.F.，对于样本有效的强化学习来说，良好的表征是否足够？（2019），arXiv预印arXiv:1910.03016 [9] 托弗，M。；Deelman，E。；西尔瓦，R.F.d。；埃斯特拉达，T。；霍尔，M。；Livny，M.，《高通量应用稳健科学路线图：开发人员的观点》，（2021年IEEE集群计算国际会议，2021年，IEEE集群国际会议，Cluster（2021）），807-808 [10] Kevrekidis，I.G。；齿轮，C.W。；海曼，J.M。；Kevrekidis，P.G。；Runborg，O。；Theodoropoulos，C.，《无方程、粗粒度多尺度计算：使微观模拟器能够执行系统级分析》，Commun。数学。科学。，1715-762年1月4日（2003年）·Zbl 1086.65066号 [11] Laing，C.R。；Frewen，T。；Kevrekidis，I.G.，双眼竞争的简化模型，计算机杂志。神经科学。，28, 3, 459-476 (2010) [12] Bar-Sinai，Y。；霍耶，S。；希基，J。；Brenner，M.P.，学习偏微分方程的数据驱动离散化，Proc。国家。阿卡德。科学。，116, 31, 15344-15349 (2019) ·Zbl 1431.65195号 [13] E.渭南。；Engquist，B.，异生多尺度方法，Commun。数学。科学。，1, 1, 87-132 (2003) ·Zbl 1093.35012号 [14] E.渭南。；Engquist，B。；李，X。；任，W。；Vanden Eijnden，E.，《异质多尺度方法：综述》，Commun。计算。物理。，2，367-450（2007年）·Zbl 1164.65496号 [15] 陶，M。；奥瓦迪，H。；Marsden，J.E.，通过流量平均对刚性常微分方程、SDE和哈密顿系统进行非侵入性和结构保持的多尺度集成，《多尺度模型》。模拟。，8, 4, 1269-1324 (2010) ·Zbl 1215.65187号 [16] 库茨，J.N。；Brunton，S.L。；布伦顿，B.W。；Proctor，J.L.，《动态模式分解：复杂系统的数据驱动建模》（2016），SIAM·Zbl 1365.65009号 [17] 科伊夫曼，R.R。；Lafon，S.，扩散图，应用。计算。哈蒙。分析。，21, 1, 5-30 (2006) ·Zbl 1095.68094号 [18] 瓦拉查斯，P.R。；Pathak，J。；亨特，B.R。；Sapsis，T.P。；Girvan，M。；Ott，E。；Koumoutsakos，P.，复杂时空动力学预测递归神经网络中的反向传播算法和水库计算，神经网络。，126, 191-217 (2020) [19] 瓦拉查斯，P.R。；再见，W。；Wan，Z.Y。；Sapsis，T.P。；Koumoutsakos，P.，具有长短期记忆网络的高维混沌系统的数据驱动预测，Proc。R.Soc.伦敦。序列号。数学。物理学。工程科学。，474、2213，第20170844条pp.（2018）·Zbl 1402.92030 [20] Wan，Z.Y。；弗拉查斯，P。；库穆塔科斯，P。；Sapsis，T.，复杂动力系统中极端事件的数据辅助降阶建模，《公共科学图书馆·综合》，13，5，文章e0197704 pp.（2018） [21] 布鲁顿，S。；诺亚克，B。；Koumoutsakos，P.，《流体力学的机器学习》（2019），arXiv预印本arXiv:1905.11075 [22] 维努萨，R。；Brunton，S.L.，《利用机器学习增强计算流体动力学》，《自然计算》。科学。，2, 6, 358-366 (2022) [23] 科奇科夫，D。；Smith，J.A。；阿利耶娃，A。；王，Q。；M.P.布伦纳。；Hoyer，S.，《机器学习加速计算流体动力学》，Proc。国家。阿卡德。科学。，118，21，条款e2101784118 pp.（2021） [24] 瓦拉查斯，P.R。；Arampatzis，G。；尤勒，C。；Koumoutsakos，P.，《通过学习复杂系统的有效动力学进行多尺度模拟》，《自然马赫》。智力。，4, 4, 359-366 (2022) [25] Vlachas，P.R.，《跨尺度复杂系统有效动力学的学习与预测》（2022年），苏黎世联邦理工学院，（博士论文） [26] 瓦拉查斯，P.R。；扎瓦德拉夫，J。；普拉普特尼克，M。；Koumoutsakos，P.，《通过学习有效动力学加速分子系统模拟》，J.Chem。理论计算。，18, 1, 538-549 (2021) [27] Wu，T。；丸山，T。；Leskovec，J.，《通过潜在全球进化学习加速偏微分方程》（2022），arXiv预印本arXiv:2206.07681 [28] Wiewel，S。；贝彻，M。；Thuerey，N.，《潜在空间物理学：走向流体流动的时间演化》，（计算机图形论坛，第38卷，第2期（2019年），威利在线图书馆），71-82 [29] F.J.冈萨雷斯。；Balajewicz，M.，用于学习流体系统低维特征动力学的深卷积递归自动编码器（2018），arXiv预印本arXiv:1808.01346 [30] Fukami，K。；长谷川，K。；Nakamura，T。；森本，M。；Fukagata，K.，《神经网络模型降阶：层流和湍流的应用》，SN计算。科学。，2, 6, 1-16 (2021) [31] 斯塔森菲尔德，K。；菲尔丁，D.B。；科奇科夫，D。；克兰默，M。；Pfaff，T。；戈德温，J。；崔，C。；Ho，S。；巴塔利亚，P。；Sanchez-Gonzalez，A.，高效湍流模拟的学习粗糙模型（2021），arXiv预印本arXiv:2112.15275 [32] 日内瓦，N。；Zabaras，N.，用物理约束的深度自回归网络建模PDE系统的动力学，J.Compute。物理。，403，第109056条，第（2020）页·兹比尔1454.65130 [33] Maulik，R。；Lusch，B。；Balaprakash，P.，用递归神经网络和卷积自编码器对对流主导系统进行降阶建模，Phys。流体，33，3，第037106条pp.（2021） [34] 长谷川，K。；Fukami，K。；Murata，T。；Fukagata，K.，《各种形状钝体周围非定常流动的基于机器学习的降阶建模》，Theor。计算。流体动力学。，34, 4, 367-383 (2020) [35] 裤子，P。；多西，R。；Bahl，P。；Barati Farimani，A.，流体模拟降阶建模和有效时间演化的深度学习，物理。流体，33，10，第107101条pp.（2021） [36] 埃瓦齐，H。；韦西，H。；Naderi，M.H。；Esfahanian，V.，非恒定流非线性模型降阶的深度神经网络，Phys。流体，32，10，第105104条pp.（2020） [37] 张，X。；季涛（Ji，T.）。；谢凤。；郑浩。；Zheng，Y.，通过压缩传感降阶建模从稀疏测量值预测非恒定流，计算。方法应用。机械。工程，393，第114800条pp.（2022）·Zbl 1507.76082号 [38] 辛普森，T。；北卡罗来纳州德维利斯。；Chatzi，E.，通过自动编码器和LSTM网络对非线性系统进行模型降阶的机器学习方法（2021），arXiv预印本arXiv:2109.1123 [39] 吴，P。；Sun，J。；Chang，X。；张伟。；阿库奇，R。；郭毅。；Pain，C.C.，带时间卷积神经网络的数据驱动降阶模型，计算。方法应用。机械。工程，360，第112766条pp.（2020）·Zbl 1441.76101号 [40] 弗雷斯卡，S。；Manzoni，A.，POD-DL-ROM：通过适当的正交分解增强基于深度学习的非线性参数化偏微分方程降阶模型，计算。方法应用。机械。工程，388，第114181条pp.（2022）·Zbl 1507.65181号 [41] 佩赫斯托弗，B。；Willcox，K.，基于非侵入投影模型简化的数据驱动算子推断，计算。方法应用。机械。工程师，306196-215（2016）·兹比尔1436.93062 [42] 本纳，P。；Ohlberger，M。；科恩，A。；Willcox，K.，《模型简化和近似：理论和算法》（2017），SIAM·Zbl 1378.65010号 [43] Galbally，D。；Fidkowski，K。；Willcox，K。；Ghattas，O.，《大规模反问题中不确定性量化的非线性模型简化》，国际。J.数字。方法工程，81，12，1581-1608（2010）·Zbl 1183.76837号 [44] Vlachas，K。；Tatsis，K。；阿加索斯，K。；Brink，A.R。；Chatzi，E.，非线性参数模型降阶的局部基近似方法，J.Sound Vib。，502，第116055条pp.（2021） [45] Vlachas，K。；Tatsis，K。；阿加索斯，K。；Brink，A.R。；D.奎因。；Chatzi，E.，局部非线性特征包含的参数模型降阶，（非线性动力学进展（2022），Springer），373-383 [46] 弗里斯，W.D。；何，X。；Choi，Y.，LaSDI：参数化潜在空间动力学识别，计算。方法应用。机械。工程师，399，第115436条，第（2022）页·Zbl 1507.65078号 [47] 何，X。；Choi，Y。；弗里斯，W.D。；贝洛夫，J。；Chen，J.-S.，gLaSDI:参数物理信息贪婪潜在空间动力学识别（2022），arXiv预印本arXiv:2204.12005·Zbl 07705908号 [48] 佩赫斯托弗，B。；Willcox，K.，动态数据驱动的降阶模型，计算。方法应用。机械。工程，291，21-41（2015）·Zbl 1425.65205号 [49] 佩赫斯托弗，B。；Willcox，K.，《通过低阶更新对非线性系统进行在线自适应模型简化》，SIAM J.Sci。计算。，37、4、A2123-A2150（2015）·兹比尔1323.65102 [50] 张，H。；罗利，C.W。；Deem，E.A。；Cattafesta，L.N.，时变系统的在线动态模式分解，SIAM J.Appl。戴恩。系统。，18, 3, 1586-1609 (2019) ·Zbl 07122844号 [51] 赫马蒂，M.S。；M.O.威廉姆斯。；Rowley，C.W.，《大型和流数据集的动态模式分解》，Phys。流体，26，11，第111701条pp.（2014） [52] Q.Wang，O.Fink，L.Van Gool，D.Dai，连续测试时间域自适应，收录于：IEEE/CVF计算机视觉和模式识别会议论文集，2022年，第7201-7211页。 [53] Werbos，P.J.，应用于循环天然气市场模型的反向传播推广，神经网络。，1, 4, 339-356 (1988) [54] 柯克帕特里克·J。；帕斯卡努，R。；拉比诺维茨，N。；Veness，J。；Desjardins，G。；Rusu，A.A。；英国米兰。；Quan，J。；Ramalho，T。；Grabska-Barwinska，A.，克服神经网络中的灾难性遗忘，Proc。国家。阿卡德。科学。，114, 13, 3521-3526 (2017) ·Zbl 1404.92015年 [55] Lakshminarayanan，B。；Pritzel，A。；Blundell，C.，《使用深度集合进行简单且可扩展的预测不确定性估计》（2016），arXiv预印本arXiv:1612.01474 [56] 尼克斯·D.A。；Weigend，A.S.，估计目标概率分布的平均值和方差，（1994年Ieee神经网络国际会议论文集，第1卷）。1994年Ieee神经网络国际会议论文集，第1卷，ICNN’94（1994），Ieee），55-60 [57] 范德波尔（Van der Pol，B.），《关于“弛缓振荡”》，伦敦。爱丁堡。都柏林菲洛斯。科学杂志。，2, 11, 978-992 (1926) [58] 卡普兰，D。；Glass，L.，《理解非线性动力学》，240-244（1997），Springer Science&Business Media [59] 冠军K。；Lusch，B。；库茨，J.N。；Brunton，S.L.，坐标和控制方程的数据驱动发现，Proc。国家。阿卡德。科学。，116，45222445-22451（2019）·Zbl 1433.68396号 [60] Floryan，D。；Graham，M.D.，数据驱动的内在动力学发现，Nat.Mach。智力。，4, 12, 1113-1120 (2022) [61] Angot，P。；文莱，C.-H。；Fabrie，P.，考虑不可压缩粘性流中障碍物的惩罚方法，数值。数学。，81, 4, 497-520 (1999) ·Zbl 0921.76168号 [62] Chorin，A.J.，Navier-Stokes方程的数值解，数学。公司。，22, 104, 745-762 (1968) ·Zbl 0198.50103号 [63] Mohan，A.T。；吕贝尔斯，N。；利维斯库，D。；Chertkov，M.，《在3D湍流的神经网络粗粒度中嵌入硬物理约束》（2020），arXiv预印本arXiv:2002.0021 [64] Chatzimanolakis，M。；韦伯，P。；Koumoutsakos，P.，CubismAMR-一个用于分布式块结构自适应网格细化的C++库（2022），arXiv预打印arXiv:2206.07345 [65] Chatzimanolakis，M。；韦伯，P。；Koumoutsakos，P.，《流体力学杂志》（J.Fluid Mech.），《平面流动模拟中的旋涡分离级联》。，953，R2（2022） [66] 拉希德，A。；圣马力诺。；Kvamsdal，T.，《数字孪生兄弟：从建模角度来看的价值、挑战和促成因素》，IEEE Access，821980-22012（2020） [67] Kapteyn，M.G。；比勒陀利亚，J.V。；Willcox，K.E.，《支持大规模预测数字双胞胎的概率图形模型基础》，Nat.Compute。科学。，1, 5, 337-347 (2021) [68] 维努萨，R。；Brunton，S.L。；McKeon，B.J.，《流体力学实验中机器学习的变革潜力》（2023），arXiv预印本arXiv:2303.15832 [69] Kingma，D.P。；Welling，M.，自动编码变分贝叶斯（2013），arXiv预打印arXiv:1312.6114 [70] Girin，L。；莱格莱夫，S。；毕，X。；迪亚德·J。；Hueber，T。；Alameda Pineda，X.，动态变分自动编码器：综合综述（2020），arXiv预印本arXiv:2008.12595 [71] 希尼，C.E。；李毅。；马塔尔，O.K。；Pain，C.C.，《将卷积神经网络应用于具有填充曲线的非结构化网格上的数据》（2020年），arXiv预印本arXiv：2011.14820 [72] G.Riegler，A.Osman Ulusoy，A.Geiger，Octnet：学习高分辨率的深度3D表示，摘自《IEEE计算机视觉和模式识别会议论文集》，2017年，第3577-3586页。 [73] M.Tatarcenko，A.Dosovitskiy，T.Brox，《八叉树生成网络：高分辨率3D输出的高效卷积结构》，载于《IEEE国际计算机视觉会议论文集》，2017年，第2088-2096页。 [74] Fukami，K。；Nakamura，T。；Fukagata，K.，基于卷积神经网络的分层自动编码器，用于流场数据的非线性模式分解，Phys。流体，32，9，第095110条pp.（2020） [75] 施，X。；陈，Z。；Wang，H。；Yeung，D.-Y。；Wong，W.-K。；Woo，W.c.，卷积LSTM网络：降水预报的机器学习方法，高级神经信息处理。系统。，28 (2015) [76] 刘，Y。；库茨，J.N。；Brunton，S.L.，多尺度微分方程时间步进器的分层深度学习，Phil.Trans。R.Soc.A，380，2229，第20210200条pp.（2022） [77] 帕瓦尔，S。；拉赫曼，S。；瓦迪雷迪，H。；圣马力诺。；拉希德，A。；Vedula，P.，《流体流动非侵入降阶建模的深度学习促成因素》，Phys。流体，31，8，第085101条pp.（2019） [78] Wu，H。；徐，J。；Wang，J。；Long，M.，Autoformer：用于长期序列预测的自相关分解变压器，高级神经信息处理。系统。，34, 22419-22430 (2021) [79] Moerland，T.M。；Broekens，J。；Jonker，C.M.，基于模型的强化学习：一项调查（2020），arXiv预印本arXiv:2006.16712 [80] de Mathelin，A。；Deheeger，F。；穆杰特，M。；Vayatis，N.，深度反正则系综提供可靠的分布外不确定性量化（2023），arXiv预印本arXiv:2304.04042 [81] 瓦尔登格罗·托罗，M。；Mori，D.S.，《对任意和认知不确定性解纠缠的深入研究》，（2022年IEEE/CVF计算机视觉和模式识别研讨会会议，2022年EEE/CVF计算机视觉与模式识别研讨会，CVPRW（2022），IEEE），1508-1516 [82] Lakshminarayanan，B。；Pritzel，A。；Blundell，C.，使用深度集成进行简单且可扩展的预测不确定性估计，高级神经信息处理。系统。，30 (2017) [83] 尼克松，J。；Lakshminarayanan，B。；Tran，D.，为什么自举的深度合奏没有更好？，（“我不敢相信它没有更好！”NeurIPS 2020研讨会（2020）） [84] 埃盖勒，R。；Maulik，R。；Raghavan，K。；Lusch，B。；盖恩，I。；Balaprakash，P.，Autodeuq：带不确定性量化的自动深度集成，（2022年第26届国际模式识别会议，2022年国际模式识别大会，ICPR（2022），IEEE），1908-1914 [85] Hochreiter，S。；Schmidhuber，J.，长短期记忆，神经计算。，9, 8, 1735-1780 (1997) [86] Kingma，D.P。；Ba，J.，Adam：随机优化方法（2014），arXiv预印本arXiv:1412.6980 [87] 古德费罗，I.J。；Shlens，J。；Szegedy，C.，《解释和利用对抗性示例》（2014），arXiv预印本arXiv:1412.6572 [88] 雅各布，W。；莱茵兰德，J。；摩尔多瓦，D.，pybind11——C++11和Python之间的无缝可操作性（2017），https://github.com/pybind/pybind11 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。