×

卷积自动编码器和条件随机场混合用于预测时空混沌。 (英语) Zbl 1429.37047号

摘要:我们提出了一种数据驱动的预测空间扩展系统生成的高维混沌时间序列的方法。该算法使用卷积自动编码器进行降维和特征提取,并结合在特征空间中运行的概率预测方案,该特征空间由条件随机场组成。使用反馈回路和迭代预测预测空间扩展系统的未来演化。使用Lorenz-96系统和不同大小的Kuramoto-Sivashinsky方程生成不同维数和复杂度的时间序列,说明并评估了该方法的优良性能。
©2019美国物理研究所

MSC公司:

37M10个 动力系统的时间序列分析
62M10个 统计学中的时间序列、自相关、回归等(GARCH)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Abadi,M.,Agarwal,A.,Barham,P.,Brevdo,E.,Chen,Z.,Citro,C.,Corrado,G.S.,Davis,A.,Dean,J.,Devin,M.版本,I.、Talwar,K.、Tucker,P.、Vanhoucke,V.、Vasudevan,V.,Viégas,F.、Vinyals,O.、Warden,P.,Wattenberg,M.、Wicke,M..、Yu,Y.和Zheng,X.,“TensorFlow:异构系统上的大规模机器学习”(2015),见。
[2] Abebe,A.J。;Solomatine,D.P。;Venneker,R.G.W.,《自适应模糊规则模型在缺失降水事件重建中的应用》,《水文学》。科学。J.、。,45, 425-436 (2000)
[3] 盒子,G.E.P。;Jenkins,G.,《时间序列分析、预测和控制》(1990年)
[4] Cheng,Z.、Sun,H.、Takeuchi,M.和Katto,J.,“基于深度卷积自动编码器的有损图像压缩”,《2018年图像编码研讨会》,PCS 2018-Proceedings(电气与电子工程师学会,2018),第253-257页。
[5] Chollet,F.等人,参见“Keras”(2015年)。
[6] 考克斯,S。;Matthews,P.,刚性系统的指数时间差分,J.Compute。物理。,176, 430-455 (2002) ·Zbl 1005.65069号
[7] Dong,C.、Loy,C.、He,K.和Tang,X.,“学习用于图像超分辨率的深度卷积网络”,载于《计算机视觉ECCV 2014》,由D.Fleet、T.Pajdla、B.Schiele和T.Tuytelaars编辑(施普林格国际出版公司,Cham,2014),第184-199页。
[8] 高,S。;布雷克尔曼斯,R。;斯蒂格,G.V。;A.高尔斯蒂安。
[9] Hahnlosser,R.H。;Sarpeshkar,R。;Mahowald,医学硕士。;道格拉斯·R·J。;Seung,H.S.,《数字选择和模拟放大共存于皮质醇激励的硅电路》,《自然》,405, 947 (2000)
[10] He,K.,Zhang,X.,Ren,S.和Sun,J.,“图像识别的深度剩余学习”,2016年IEEE计算机视觉和模式识别会议(CVPR)(IEEE,2016),第770-778页;请参见。
[11] 赫尔佐格,S。;沃格特,F。;Parlitz,U.,《可激发介质中复杂时空动力学的数据驱动建模和预测》,Front。申请。数学。斯达。,4, 60 (2018)
[12] 希金斯,I。;Matthey,L.公司。;格洛洛特,X。;Pal,A。;尤里亚,B。;布伦德尔,C。;穆罕默德,S。;A.勒克纳。
[13] 辛顿,G.E。;Salakhutdinov,R.R.,《利用神经网络降低数据维数》,《科学》,313, 504-507 (2006) ·Zbl 1226.68083号
[14] 洛夫,S。;塞格迪,C。
[15] Isensee,J。;Datseris,G。;Parlitz,U.,《使用降维局部状态预测时空时间序列》,《非线性科学杂志》·Zbl 1441.37089号
[16] Jaderberg,M。;达利巴德,V。;Osindero,S。;Czarnecki,W.M。;Donahue,J。;Razavi,A。;葡萄酒,O。;格林,T。;邓宁,I。;Simonyan,K。;费尔南多,C。;Kavukcuoglu,K。
[17] Kaplan,J.L.和Yorke,J.A.,《多维差分方程的混沌行为》,载于泛函微分方程和不动点近似,由H.O.Peitgen和H.O.Walther编辑(Springer,Berlin,1979),第204-227页·Zbl 0448.58020号
[18] 金玛,D.P。;Ba,J。
[19] 科勒,D。;Friedman,N.,概率图形模型:原理和技术(自适应计算和机器学习系列)(2009)·Zbl 1183.68483号
[20] Krizhevsky,A.、Sutskever,I.和Hinton,G.E.,“利用深度卷积神经网络进行Imagenet分类”,载于《第25届神经信息处理系统国际会议论文集》第1卷,系列和编号NIPS'12(Curran Associates Inc.,2012),第1097-1105页。
[21] Kuramoto,Y.,反应系统中的扩散诱导混沌,Prog。西奥。物理。补充。,64,346-367(1978)
[22] Lafferty,J.、McCallum,A.和Pereira,F.,“条件随机场:分割和标记序列数据的概率模型”,载于《第18届机器学习国际会议论文集》(Morgan Kaufmann Publishers Inc.,2001),第282-289页。
[23] LeCun,Y.,Boser,B.E.,Denker,J.S.,Henderson,D.,Howard,R.E.,Hubbard,W.E.,and Jackel,L.D.,“利用反向传播网络进行手写数字识别”,摘自D.S.Touretzky编辑的《神经信息处理系统进展2》(Morgan-Kaufmann,1990),第396-404页。
[24] Lorenz,E.,“可预测性:一个部分解决的问题”,发表于1995年9月4日至8日的可预测性研讨会,ECMWF(ECMWF,Shinfield Park,Reading,1995),第1卷,第1-18页。
[25] Lorenz,E.N.,《确定性非周期流》,J.Atmos。科学。,20, 130-141 (1963) ·Zbl 1417.37129号
[26] Maas,A.L.、Hannun,A.Y.和Ng,A.Y.,“整流器非线性改善神经网络声学模型”,《第30届机器学习国际会议论文集》(佐治亚州亚特兰大,2013);另请参见:。
[27] McCallum,A.,“条件随机场的有效诱导特征”,载于《第十九届人工智能不确定性会议论文集》,系列和编号UAI'03(Morgan Kaufmann Publishers Inc.,加利福尼亚州旧金山,2003),第403-410页。
[28] Nassar,J.、Linderman,S.、Bugallo,M.和Park,I.M.,“用于多尺度建模的树结构递归切换线性动力学系统”,发表于国际学习表征会议(国际学习表征大会,2019年)。
[29] Paraschos,A.、Daniel,C.、Peters,J.R.和Neumann,G.,“概率运动原语”,摘自《神经信息处理系统进展》26,由C.J.C.Burges,L.Bottou,M.Welling,Z.Ghahramani和K.Q.Weinberger编辑(Curran Associates,Inc.,2013),第2616-2624页。
[30] 美国帕里茨。;Merkwirth,C.,基于重建局部状态的时空时间序列预测,Phys。修订稿。,84, 1890-1893 (2000)
[31] Pathak,J。;亨特,B。;Girvan,M。;卢,Z。;Ott,E.,《从数据对大型时空混沌系统进行无模型预测:水库计算方法》,Phys。修订稿。,120, 024102 (2018)
[32] Pavlovski,M.、Zhou,F.、Arsov,N.、Kocarev,L.和Obradovic,Z.,“面向平衡偏差和方差的泛化软件结构化回归”,载于第二十七届国际人工智能联合会议论文集,IJCAI-18(国际人工智能组织联合会议,2018),第2616-2622页。
[33] 潘科夫斯基,B。;波特,X。;雅克,M。;较大,L。;Brunner,D.,耦合非线性时滞系统作为深度卷积神经网络,Phys。修订稿。,123, 054101 (2019)
[34] Petzold,L.,求解刚性和非刚性常微分方程组方法的自动选择,SIAM J.Sci。统计计算。,4, 136-148 (1983) ·Zbl 0518.65051号
[35] 皮涅罗,F.R。;van Leeuwen,P.J。;Parlitz,U.,《时间延迟同步的集成框架》,Q.J.R.Meteorolog。Soc.公司。,144, 305-316 (2018)
[36] Quattoni,A。;王,S。;莫伦西,L。;柯林斯,M。;Darrell,T.,《隐藏条件随机场》,IEEE Trans。模式分析。机器。智力。,29, 1848-1852 (2007)
[37] 雷伊,D。;埃尔德里奇,M。;科斯图克,M。;阿巴巴内尔,H.D。;舒曼·比肖夫,J。;Parlitz,U.,《具有稀疏观测的非线性系统中的精确状态和参数估计》,Phys。莱特。A、,378, 869-873 (2014) ·Zbl 1293.93722号
[38] van Rossum,G。;Drake,F.L.,《Python语言参考手册》(2011)
[39] Selvaraju,R.R。;Cogswell,M。;Das,A。;韦丹坦,R。;Parikh,D。;D.巴特拉。
[40] Sivashinsky,G.,层流火焰中流体动力不稳定性的非线性分析——i.基本方程的推导,Acta。宇航员。,4, 1177-1206 (1977) ·Zbl 0427.76047号
[41] Sivashinsky,G.I.,《化学计量条件下的火焰传播》,SIAM J.Appl。数学。,39, 67-82 (1980) ·Zbl 0464.76055号
[42] 西瓦辛斯基,G.I。;Michelson,D.M.,《液体薄膜沿垂直平面不规则波浪流》,Progr。西奥。物理。,63, 2112-2114 (1980)
[43] 北斯利瓦斯塔瓦。;辛顿,G。;Krizhevsky,A。;Sutskever,I。;Salakhutdinov,R.,《辍学:防止神经网络过度拟合的简单方法》,J.Mach。学习。物件。,15, 1929-1958 (2014) ·Zbl 1318.68153号
[44] 萨顿,C。;McCallum,A.,《条件随机场导论》,Found。趋势马赫数。学习。,4, 267-373 (2012) ·Zbl 1253.68001号
[45] Tschannen,M。;Bachem,O。;M.卢西克。
[46] Vemuri,V.,《人工神经网络:理论概念》,计算机社会出版社技术系列:神经网络(IEEE计算机社会出版社,1988年)。
[47] 弗拉查斯,P。;再见,W。;Yi Wan,Z。;Sapsis,T.P。;Koumoutsakos,P.,用长短期记忆网络对高维混沌系统进行数据驱动预测,Proc。R.Soc.A数学。物理学。工程科学。,474,1(2018)·兹比尔1402.92030
[48] 张伟。;王,B。;Ye,Z。;Quan,J.,基于非线性气动降阶模型的极限循环颤振分析的有效方法,AIAA J。,50, 1019-1028 (2012)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。