Schneider，Tapio公司;安德鲁·斯图尔特（Andrew M.Stuart）。;吴金龙 从时间平均数据中稀疏学习动力系统的集成卡尔曼反演。 （英语） Zbl 07599603号 J.计算。物理学。 470，文章ID 111559，31 p.（2022）. 摘要：在学习中实施稀疏结构在数据驱动的动态系统发现领域取得了重大进展。然而，这种方法不仅需要获得动力系统状态的时间序列，还需要获得时间导数。在许多应用中，数据仅以时间平均值的形式提供，如矩和自相关函数。我们提出了一种稀疏学习方法，仅使用时间平均统计来发现定义（可能是随机或偏）微分方程的向量场。这种稀疏学习形式自然会导致一个非线性逆问题，我们将集成卡尔曼反演（EKI）方法应用于该问题。之所以选择EKI，是因为它可以根据二次优化问题的迭代解进行公式化；然后很容易强加稀疏性。然后，我们将基于EKI的稀疏学习方法应用于由随机微分方程（噪声Lorenz 63系统）、常微分方程（Lorenz 96系统和合并方程）和偏微分方程（Kuramoto-Sivashinsky方程）控制的各种示例。结果表明，时间平均统计可以用于使用稀疏EKI的数据驱动微分方程发现。提出的稀疏学习方法将数据驱动微分方程发现的范围扩展到以前具有挑战性的应用程序和数据获取场景。 引用于4文件 MSC公司： 94轴 通信、信息 6200万 随机过程推断 65立方厘米 概率方法，随机微分方程 关键词：集合卡尔曼反演;稀疏学习;动力系统;时间平均数据 软件：合卡尔曼滤波;ARfit公司;ODEPACK代码包 PDF格式BibTeX公司 XML格式引用 \textit{T.Schneider}等人，J.Compute。物理学。470，文章ID 111559，31 p.（2022；Zbl 07599603） 全文： 内政部 arXiv公司 参考文献： [1] Donoho，D.L.，压缩传感，IEEE Trans。《信息论》，52，4，1289-1306（2006）·Zbl 1288.94016号 [2] 坎迪斯，E.J。；Romberg，J.K。；Tao，T.，从不完整和不准确的测量中恢复稳定信号，Commun。纯应用程序。数学。，59, 8, 1207-1223 (2006) ·邮编1098.94009 [3] 坎迪斯，E.J。；Wakin，M.B。；Boyd，S.P.，通过重加权最小化增强稀疏性，J.Fourier Ana。申请。，14, 5-6, 877-905 (2008) ·Zbl 1176.94014号 [4] 布鲁克斯坦，A.M。；Donoho，D.L。；Elad，M.，从方程组的稀疏解到信号和图像的稀疏建模，SIAM Rev.，51，1，34-81（2009）·Zbl 1178.68619号 [5] Santosa，F。；Symes，W.W.，带限反射地震图的线性反演，SIAM J.Sci。统计计算。，7, 4, 1307-1330 (1986) ·Zbl 0602.73113号 [6] Tibshirani，R.，《通过套索进行回归收缩和选择》，J.R.Stat.Soc.B，58，1，267-288（1996）·Zbl 0850.62538号 [7] Tibshirani，R.，《通过套索进行回归收缩和选择：回顾》，J.R.Stat.Soc.，Ser。B、 统计方法。，73, 3, 273-282 (2011) ·兹比尔1411.62212 [8] 古德费罗，I。；Y.本吉奥。；A.Courville，《深度学习》（2016），麻省理工学院出版社·Zbl 1373.68009号 [9] Brunton，S.L。；Proctor，J.L。；Kutz，J.N.，通过非线性动力系统的稀疏识别从数据中发现控制方程，Proc。国家。阿卡德。科学。美国，113，15，3932-3937（2016）·Zbl 1355.94013号 [10] 鲁迪，S.H。；Brunton，S.L。；Proctor，J.L。；Kutz，J.N.，偏微分方程的数据驱动发现，科学。高级，3，4，文章e1602614 pp.（2017） [11] 谢弗，H。；卡弗利施，R。；Hauck，C.D。；Osher，S.，偏微分方程的稀疏动力学，Proc。国家。阿卡德。科学。美国，110，17，6634-6639（2013）·Zbl 1292.35012号 [12] Schaeffer，H.，通过数据发现和稀疏优化学习偏微分方程，Proc。R.Soc.A，数学。物理学。工程科学。，473、2197，第20160446条pp.（2017）·Zbl 1404.35397号 [13] Tran，G。；Ward，R.，从高度损坏的数据中精确恢复混沌系统，多尺度模型。模拟。，15, 3, 1108-1129 (2017) [14] 谢弗，H。；Tran，G。；Ward，R.，《从有限数据中提取稀疏高维动力学》，SIAM J.Appl。数学。，78, 6, 3279-3295 (2018) ·Zbl 1405.62127号 [15] 佩雷拉，J。；易卜拉希米，M。；Montanari，A.，随机微分方程的学习网络，（神经信息处理系统的进展（2010）），172-180 [16] 博内塞尼亚，L。；纽斯克，F。；Clementi，C.，随机动力学方程的稀疏学习，J.Chem。物理。，148，24，第241723条pp.（2018） [17] 鲁丁，L.I。；Osher，S。；Fatemi，E.，基于非线性总变差的噪声去除算法，Physica D，60，1-4，259-268（1992）·Zbl 0780.49028号 [18] Chartrand，R.，噪声、非光滑数据的数值微分，ISRN应用。数学。(2011) ·Zbl 1242.65045号 [19] 萨曼，P。；Stine，R.A.，自回归系数估计的偏差，J.Am.Stat.Assoc.，83，403，842-848（1988）·Zbl 0663.62098号 [20] 马丁·R。；Openshaw，C.，向量空间中的自回归建模：窄带谱估计的应用，信号处理。，50, 3, 189-194 (1996) ·Zbl 0875.94067号 [21] Neumaier，A。；Schneider，T.，多元自回归模型的参数和特征模式估计，ACM Trans。数学。柔软。，27, 27-57 (2001) ·Zbl 1070.65503号 [22] 施耐德，T。；Neumaier，A.，算法808:ARfit–一个用于估计多元自回归模型参数和特征模式的Matlab包，ACM-Trans。数学。柔软。，27, 58-65 (2001) ·Zbl 1070.65504号 [23] Lütkepohl，H.，《多时间序列分析导论》（2013），施普林格科学与商业媒体 [24] Brockwell，P.J。；Davis，R.A。；Fienberg，S.E.，《时间序列：理论和方法》（1991），施普林格科学与商业媒体·Zbl 0709.62080号 [25] Krumscheid，S。；Pavliotis，G.A。；Kalliadasis，S.，多尺度扩散的半参数漂移和扩散估计，多尺度模型。模拟。，11, 2, 442-473 (2013) ·Zbl 1411.60085号 [26] Krumscheid，S。；普拉达斯，M。；Pavliotis，G。；Kalliadasis，S.，《数据驱动的粗粒化作用：复杂系统的建模和预测》，Phys。版本E，92，4，第042139条pp.（2015） [27] Kalliadasis，S。；Krumscheid，S。；Pavliotis，G.A.，从具有多尺度结构的时间序列中提取粗粒度模型的新框架，J.Compute。物理。，296, 314-328 (2015) ·Zbl 1352.62136号 [28] Klus，S。；纽斯克，F。；佩茨，S。；尼曼，J.-H。；克莱门蒂，C。；Schütte，C.，《Koopman生成器的数据驱动近似：模型简化、系统识别和控制》，Physica D，406，第132416条，pp.（2020）·Zbl 1485.93097号 [29] Schneider，T.公司。；Stuart，A.M。；Wu，J.-L.，使用集合卡尔曼反演学习随机闭包，Trans。数学。申请。，第5、1条，第tnab003页（2021）·Zbl 1478.60129号 [30] 布朗，B.G。；Katz，R.W。；Murphy，A.H.，《模拟和预测风速和风力的时间序列模型》，J.Clim。申请。美托洛尔。，23, 8, 1184-1195 (1984) [31] 夸斯尼克，F。；Lohmann，G.，《从古气候记录中推导动力学模型：冰川千年尺度气候变化的应用》，Phys。E版，80，6，第066104条，pp.（2009） [32] Evensen，G.，《数据同化：集成卡尔曼滤波器》（2009），施普林格科学与商业媒体·Zbl 1395.93534号 [33] 陈，Y。；Oliver，D.，作为迭代集成平滑器的集成随机最大似然方法，数学。地质科学。，44, 1, 1-26 (2002) [34] 埃莫里克，A。；Reynolds，A.，用简单水库模型研究基于集合的方法的采样性能，计算。地质科学。，17, 2, 325-350 (2013) ·Zbl 1382.86018号 [35] Evensen，G.，《使用蒙特卡罗方法预测误差统计的非线性准营养模型的序贯数据同化》，J.Geophys。海洋研究，99，C5，10143-10162（1994） [36] Van Leeuwen，P.J。；Evensen，G.，《概率公式中的数据同化和反演方法》，Mon。《天气评论》，124，12，2898-2913（1996） [37] Reich，S.，间歇数据同化的动力系统框架，BIT-Numer。数学。，51, 1, 235-249 (2011) ·Zbl 1216.93098号 [38] Iglesias，医学硕士。；法律，K.J。；Stuart，A.M.，反问题的集合卡尔曼方法，反问题。，第29、4条，第045001页（2013年）·Zbl 1311.65064号 [39] 席林斯，C。；Stuart，A.M.，《反问题的集合卡尔曼滤波器分析》，SIAM J.Numer。分析。，55, 3, 1264-1290 (2017) ·Zbl 1366.65101号 [40] Pulido，M。；坦迪欧，P。；博奎特，M。；卡拉西。；Lucini，M.，使用集合卡尔曼滤波和最大似然方法进行随机参数化识别，Tellus A，70，第1442099页，（2018） [41] 博奎特，M。；Brajard，J。；卡拉西。；Bertino，L.，通过合并数据同化、机器学习和期望最大化对混沌动力学进行贝叶斯推理，Found。数据科学。，2, 55-80 (2020) [42] 阿尔伯斯，D.J。；宾夕法尼亚州布兰克夸特。；莱文，M.E。；Seylabi，E.E。；Stuart，A.，带约束的集成卡尔曼方法，逆问题。，35，9，第095007条第（2019）页·Zbl 1422.93173号 [43] Iglesias，M.A.，PDE约束反问题的正则化迭代集合Kalman方法，反问题。，第32、2条，第025002页（2016年）·Zbl 1334.65110号 [44] 查达，新罕布什尔州。；Stuart，A.M。；Tong，X.T.，集成卡尔曼反演中的Tikhonov正则化，SIAM J.Numer。分析。，58, 2, 1263-1294 (2020) ·Zbl 1447.35337号 [45] 查达，新罕布什尔州。；席林斯，C。；Weissmann，S.，关于集合卡尔曼反演的箱约束合并，arXiv预印本 [46] 吴杰。；王建新。；Shadden，S.C.，《为贝叶斯反问题添加约束》（《AAAI人工智能会议论文集》，第33卷（2019年）），1666-1673 [47] 张，X。；Michelén-Ströfer，C。；Xiao，H.，反问题的正则集合卡尔曼方法，J.Compute。物理。，第109517条pp.（2020）·Zbl 1437.62116号 [48] 斯特罗夫，C.A.M。；张，X.-L。；Xiao，H。；Coutier-Delgosha，O.，在贝叶斯反演中对物理场实施边界条件，计算。方法应用。机械。工程，367，第113097条pp.（2020）·Zbl 1442.76047号 [49] Lee，Y.，集成卡尔曼反演的正则化，SIAM J.Sci。计算。，43、5、A3417-A3437（2021）·Zbl 1487.65062号 [50] 施耐德，T。；兰·S。；Stuart，A.M。；Teixeira，J.，《地球系统建模2.0：从观测和目标高分辨率模拟中学习的模型蓝图》，Geophys。Res.Lett.公司。，44, 24, 12-396 (2017) [51] Lorenz，E.N.，《确定性非周期流》，J.Atmos。科学。，20, 2, 130-141 (1963) ·Zbl 1417.37129号 [52] Mao，X.，随机微分方程及其应用（2007），爱思唯尔·Zbl 1138.60005号 [53] J.C.马丁利。；Stuart，A.M。；Higham，D.J.，SDE和近似的遍历性：局部Lipschitz向量场和退化噪声，Stoch。过程。申请。，101，2185-232（2002年）·Zbl 1075.60072号 [54] Lorenz，E.N.，《可预测性：部分解决的问题》（Proc.Seminar on Predictability，vol.1（1996）） [55] Fatkullin，I。；Vanden-Eijnden，E.，《应用于Lorenz 96模型的多尺度系统的计算策略》，J.Compute。物理。，200, 2, 605-638 (2004) ·Zbl 1058.65065号 [56] Burov，D。；Giannakis，D。；马诺哈尔，K。；Stuart，A.，《内核模拟预测：多尺度测试问题》，《多尺度模型》。模拟。，19, 2, 1011-1040 (2021) ·Zbl 1487.60088号 [57] 鲍尔，J.M。；卡尔·J。；Penrose，O.，Becker-Döring集团方程：解的基本性质和渐近行为，Commun。数学。物理。，104, 4, 657-692 (1986) ·Zbl 0594.58063号 [58] 鲍尔，J.M。；Carr，J.，《离散凝聚-碎片方程：存在性、唯一性和密度守恒》，J.Stat.Phys。，61, 1-2, 203-234 (1990) ·Zbl 1217.82050 [59] Pruppacher，H.R。；Klett，J.D.，《云和降水的微物理》（2010），斯普林格出版社 [60] 塞弗特，A。；Beheng，K.D.，混合相云的二阶云微物理参数化。第1部分：模型描述，Meteorol。大气。物理。，92, 45-66 (2006) [61] 吉布森，I。；Rosen，D.W。；Stucker，B.，《添加剂制造技术》，第17卷（2014年），Springer [62] 贝利，M。；O.邓巴。；德容，E.K。；Jaruga，A。；施耐德，T。；Bischoff，T.，《学习液滴碰撞核的有效贝叶斯方法：使用“Cloudy”（一种新的n矩体微物理方案）进行概念验证》，《地球空间科学》。开放式架构。，28（2022） [63] 霍兰德，M。；Melbourne，I.，Lorenz吸引子的中心极限定理和不变性原理，J.Lond。数学。Soc.，76，2，345-364（2007）·Zbl 1126.37006号 [64] 克利里，E。；加布诺·伊尼戈，A。；兰·S。；施耐德，T。；Stuart，A.M.，《校准、模拟、采样》，J.Compute。物理。，424，第109716条pp.（2021）·Zbl 07508438号 [65] 加布诺·伊尼戈，A。；霍夫曼，F。；李伟（Li，W.）。；Stuart，A.M.，《相互作用的朗之万扩散：梯度结构和集合卡尔曼采样器》，SIAM J.Appl。动态。系统。，19, 1, 412-441 (2020) ·Zbl 1447.65119号 [66] O.R.邓巴。；邓肯，A.B。；Stuart，A.M。；Wolfram，M.-T.，具有噪声和昂贵可能性的模型的集合推理方法，SIAM J.Appl。动态。系统。，21, 2, 1539-1572 (2022) ·Zbl 1493.62124号 [67] Kalnay，E.，《大气建模、数据同化和可预测性》（2003），剑桥大学出版社 [68] 爪哇马德，A。；Montanari，A.，《消除套索的偏倚：高斯设计的最佳样本量》，Ann.Stat.，46，6A，2593-2622（2018）·Zbl 1407.62270号 [69] 安徒生，M。；Dahl，J。；刘，Z。；范登伯格，L。；Sra，S。；Nowozin，S。；Wright，S.，《大规模锥规划的内点方法》，（机器学习优化（2011），麻省理工学院出版社），55-83，（第3章） [70] 博伊德，S。；北卡罗来纳州帕里赫。；Chu，E.，《通过乘数交替方向方法进行分布式优化和统计学习》（2011年），现出版公司。 [71] 戈尔茨坦，T。；Osher，S.，l1-正则化问题的分裂Bregman方法，SIAM J.成像科学。，2, 2, 323-343 (2009) ·Zbl 1177.65088号 [72] Lee，Y.，集合卡尔曼反演中的采样误差校正，arXiv预印本 [73] Anderson，J.L.，集合卡尔曼滤波数据同化中的定位和采样误差校正，孟买。Weather Rev.，140，7，2359-2371（2012年） [74] Tong，X.T。；Morzfeld，M.，局部化系综Kalman反演，arXiv预印本·Zbl 07682039号 [75] Petzold，L.，求解刚性和非刚性常微分方程组方法的自动选择，SIAM J.Sci。统计计算。，4, 1, 136-148 (1983) ·Zbl 0518.65051号 [76] Hindmarsh，A.C.，Odepack，ODE解算器的系统化集合，科学。计算。，55-64 (1983) [77] 考克斯，S.M。；Matthews，P.C.，刚性系统的指数时间差分，J.Compute。物理。，176, 2, 430-455 (2002) ·Zbl 1005.65069号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。