×

从数据中学习动态系统:一个简单的交叉验证视角。三: 不规则采样的时间序列。 (英语) Zbl 1510.37122号

摘要:从数据中学习动力系统的一种简单且易于理解的方法是用核插值其向量场。特别是,当使用内核流(KF)对内核进行数据自适应时,此策略非常高效(在准确性和复杂性方面)[H.Owhadi(奥瓦迪)G.R.Yoo先生,J.计算。物理学。389, 22–47 (2019;Zbl 1452.65028号)](它使用基于梯度的优化来学习一个核,前提是如果一半的数据用于插值,那么如果没有显著的精度损失,那么一个核是好的)。尽管以前取得了成功,但当观测到的时间序列没有定期采样时,这种策略(基于插值驱动动力系统的向量场)就失效了。在这项工作中,我们建议通过在(KF)数据自适应核中合并观测值之间的时间差来近似动力学系统流图的泛化来解决这个问题。我们将该方法与经典方法在不同基准动态系统上进行了比较,结果表明,该方法在保持简单、快速和鲁棒性的同时,显著提高了预测精度。
第一部分见[B.哈姆齐H.Owhadi(奥瓦迪)《物理学D 421》,文章ID 132817,10 p.(2021;Zbl 1509.68217号)].

MSC公司:

37M10个 动力系统的时间序列分析
68T05型 人工智能中的学习和自适应系统

软件:

GRU-ODE支架
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 盒子,G.E.P。;詹金斯,G.M.,《时间序列分析:预测与控制》(1970),《霍尔顿日:旧金山霍尔顿日》·兹比尔0249.62009
[2] Bollerslev,Tim,广义自回归条件异方差,计量经济学杂志,31,3,307-327(1986)·Zbl 0616.62119号
[3] 霍克莱特,塞普;Schmidhuber,Jürgen,长短期记忆,神经计算。,9, 8, 1735-1780 (1997)
[4] 简·南希·叶苏达斯;尼希米亚、坎娜·哈里坎德兰;Arputharaj,Kannan,《用于分类不均匀间隔临床数据的时间挖掘框架:构建有效临床决策系统的方法》,Appl。临床。通知。,7, 1, 1-21 (2016)
[5] Edward De Brouwer;Thijs Becker;伊夫·莫罗(Yves Moreau);Eva Kubala Haverdova;玛丽亚·特洛伊亚诺;萨拉·埃肖;Ozakbas,Serkan;马可·奥诺夫吉(Marco Onofrj);皮埃尔·格拉蒙德;Kuhle,Jens,MS患者轨迹的纵向机器学习建模提高了对残疾进展的预测,计算机。方法生物识别程序。,208,第106180条pp.(2021)
[6] Edward De Brouwer;雅克·西姆;阿兰尼(Adam Arany);Moreau,Yves,纵向患者轨迹分类的深度系综张量因子分解(2018),arXiv预印本arXiv:1811.10501
[7] 宋贞贤;德普拉多,马科斯·洛佩兹;霍斯特·D·西蒙。;吴克胜,通过非均匀快速傅里叶变换探索不规则时间序列,(高性能计算国际会议论文集(2014),IEEE)
[8] Smith-Bounner,L.T。;Constable,C.G.,《具有不便间隙的地球物理时间序列的谱估计》,《地球物理学》。《国际期刊》,190,3,1404-1422(2012)
[9] Holt,C.E.,通过指数加权平均值预测季节和趋势,Office Nav。决议(1957年)
[10] Winters,P.R.,通过指数加权移动平均值预测销售额,管理。科学。,6, 3, 323-342 (1960) ·Zbl 0995.90562号
[11] 詹姆斯·德宾;Koopman,Siem Jan,《状态空间方法的时间序列分析》(2001),牛津大学出版社·Zbl 0995.62504号
[12] 维奥·R。;Diaz-Trigo,M。;Andreani,P.,《天文学中的不规则时间序列和Lomb-Scargle周期图的使用》,Astron。计算。,1, 5-16 (2013)
[13] 李倩婷;Xu,Yong,VS-GRU:用于具有大量缺失值的多元时间序列的变量敏感门控递归神经网络,应用。科学。,9, 15, 3041 (2019)
[14] Edward De Brouwer;雅克·西姆;阿兰尼(Adam Arany);Moreau,Yves,GRU-ODE-Bayes:偶发观测时间序列的连续建模(神经信息处理系统进展,第32卷)。神经信息处理系统进展,第32卷,NeurIPS(2019))
[15] Edward De Brouwer、Adam Arany、Jaak Simm、Yves Moreau,《潜在收敛交叉映射》,收录于:2020年国际学习代表大会。
[16] Edward De Brouwer;哈维尔·冈萨雷斯;Stephanie Hyland,用不确定性神经微分方程预测治疗随时间的影响,(国际人工智能与统计会议(2022年),PMLR),4705-4722
[17] Yulia Rubanova、Ricky T.Q.Chen、David Duvenaud,《不规则采样时间序列的潜在ODE》,第33届神经信息处理系统会议,2019年,2019。
[18] 陈一凡;巴马达·侯赛尼;奥哈迪,胡曼;Stuart,Andrew M.,用高斯过程求解和学习非线性偏微分方程,J.Compute。物理。,447 (2021) ·Zbl 07516428号
[19] Owhadi,Houman,计算图补全,研究数学。科学。,9, 27 (2021) ·Zbl 1497.68464号
[20] Felipe Cucker;Steve Smale,《关于学习的数学基础》,布尔。阿默尔。数学。Soc.,39,1-49(2002)·Zbl 0983.68162号
[21] Jake Bouvrie;Hamzi,Boumediene,再生核Hilbert空间中非线性控制系统的平衡约简,(第48届Allerton通信、控制和计算年会论文集(2010)),294-301,https://arxiv.org/abs/1011.2952
[22] Haasdonk,B。;哈姆齐,B。;Santin,G。;Wittwar,D.,中心流形近似的Greedy核方法,(2018年ICOSAHOM会议记录,国际光谱和高阶方法会议(2018)),https://arxiv.org/abs/1181.11329 ·Zbl 1523.34046号
[23] Haasdonk,B。;哈姆齐,B。;Santin,G。;Wittwar,D.,中心流形逼近的核方法和中心流形定理的弱数据版本,Physica D(2021)·Zbl 1523.34046号
[24] 吉斯尔,P。;哈姆齐,B。;拉斯穆森,M。;韦伯斯特,K.,《从噪声数据中近似Lyapunov函数》,J.Compute。动态。(2019), https://arxiv.org/abs/1601.01568
[25] 安德烈亚斯·比特拉彻;克鲁斯、斯特凡;Hamzi,Boumediene;佩特尔·科尔泰;Schütte,Christof,通过转移流形的核嵌入降低复杂亚稳态系统的维数(2019),https://arxiv.org/abs/1904.08622 ·Zbl 1466.37068号
[26] 克鲁斯、斯特凡;菲利克斯·努斯克;Hamzi,Boumedine,基于核的koopman生成器和薛定谔算子近似,熵,22(2020),https://www.mdpi.com/1099-4300/22/7/722
[27] 克鲁斯、斯特凡;纽斯克,费利克斯;塞巴斯蒂安·佩茨;Jan-Hendrik Niemann;塞西莉亚·克莱门蒂;Schütte,Christof,《Koopman生成器的数据驱动近似:模型简化、系统识别和控制》,Physica D,406,第132416条,pp.(2020)·Zbl 1485.93097号
[28] 罗密欧·亚历山大;Giannakis,Dimitrios,Operator-用核模拟技术预测非线性时间序列的理论框架,Physica D,409,Article 132520 pp.(2020)·Zbl 1496.37085号
[29] Jake Bouvrie;Hamzi,Boumediene,随机强迫非线性系统的经验估计:可观测性、可控性和不变测度,(2012年美国控制会议(2012)公报),294-301,https://arxiv.org/abs/1204.0563v1
[30] Jake Bouvrie;Hamzi,Boumedine,非线性系统近似的核方法,SIAM J.控制优化。(2017), https://arxiv.org/abs/1108.20903 ·兹比尔1368.93248
[31] 加布里埃尔·桑廷;Haasdonk,Bernard,代理建模的内核方法(2019),https://arxiv.org/abs/1907.105566 ·Zbl 07445319号
[32] Hamzi,Boumediene;Owhadi,Houman,《从数据学习动力系统:一个简单的交叉验证视角》,第一部分:参数核流,Physica D(2021)·Zbl 1509.68217号
[33] 奥哈迪,胡曼;Yoo,Gene Ryan,《从数据中学习内核到深渊》,J.Compute。物理。,389, 22-47 (2019) ·Zbl 1452.65028号
[34] Hamzi,Boumediene;Romit Maulik;Owhadi,Houman,《简单、低成本和准确的数据驱动地球物理预测与学习内核》,Proc。R.Soc.A数学。物理学。工程科学。,477, 2252 (2021) ·Zbl 1509.68217号
[35] Sai Prasanth;Ziad S.哈达德。;朱尼·苏西洛托;Amy J.Braverman。;奥哈迪,胡曼;Hamzi,Boumediene;赫里斯托瓦·韦列娃(Hristova-Veleva),Svetla M。;Turk、Joseph和Kernel从卫星被动微波观测(2021年)推断对流风暴的结构,预印本
[36] 达西,M。;哈姆齐,B。;苏西洛托,J。;Braverman,A。;Owhadi,H.,《从数据学习动力系统:一个简单的交叉验证视角》,第二部分:非参数核流(2021年),(提交出版)·Zbl 1509.68217号
[37] 达西,M。;Tavallali,P。;Denevi,G。;哈姆齐,B。;Owhadi,H.,《从数据学习动力系统:一个简单的交叉验证视角》,第四部分:金融中的SDE(2021年),预印本
[38] 克里斯蒂亚尼尼,内洛;Shawe-Taylor,John,《支持向量机和其他基于内核的学习方法简介》(2000),剑桥大学出版社·Zbl 0994.68074号
[39] 奥哈迪,胡曼;Sovel、Clint、Operator-aDapted Wavelet、Fast Solvers和Numerical Homogenization:From a Game Theory Approach To Numerical Approximation and Algorithm Design(2019),剑桥应用与计算数学专著。剑桥大学出版社·兹比尔1477.65004
[40] Yoo,Gene Ryan;Owhadi,Houman,《利用核流对神经网络内层进行深度正则化和直接训练》(2020年),https://arxiv.org/abs/2002.08335 ·Zbl 1515.68273号
[41] 陈一凡;奥哈迪,胡曼;Stuart,Andrew,层次参数估计的经验贝叶斯和核流的一致性,数学。压缩机。(2021) ·Zbl 1472.62012年
[42] 玛丽亚姆·帕佐基(Maryam Pazouki);Robert Schaback,《基于内核的空间的基础》,J.Compute。申请。数学。,236,4,575-588(2011),多元逼近和插值应用国际研讨会(MAIA 2010)·Zbl 1234.41003号
[43] Aronszajn,N.,《再生核理论》,译。美国数学。Soc.,68,3,337-404(1950)·Zbl 0037.20701号
[44] 吴宗民;Schaback,Robert,分散数据径向基函数插值的局部误差估计,IMA J.Numer。分析。,13, 13-27 (1992) ·Zbl 0762.41006号
[45] Owhadi,Houman,贝叶斯数值均匀化,多尺度模型。模拟。,13, 3, 812-828 (2015) ·Zbl 1322.35002号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。