×
王和山;Wu，Q.M.Jonathan乔纳森;王东书;辛、建斌;杨益民;于昆杰

带有用于时间序列分类的全局可逆自动编码器的回波状态网络。 （英语） Zbl 07768989号

信息科学。 570, 744-768 (2021).
摘要：回声状态网络（z）可以为预测时间序列问题提供有效的动态解决方案。然而，在大多数情况下，ESN模型用于预测而非分类。ESN在时间序列分类（TSC）问题中的应用尚待充分研究。此外，传统的随机生成ESN不太可能是最优的，因为随机生成的输入和水库权重并不总是最优的。随机生成所有层权重是不合适的，因为纯随机层可能会破坏有用的功能。为了克服这一缺点，本研究基于自动编码器（AE）理论为TSC任务提供了一种新的ESN输入权重建立框架。提出了一种全局可逆AE（GRAE）算法来重建ESN的随机初始化输入权重。在现有的ESN-AE中，编码过程中获得的输出权重直接重用为初始输入权重。相比之下，在GRAE中，具有可逆激活功能的储层是通过将解码层输出拉回来并注入储层来计算的。因此，通过附加信息丰富了特征学习，从而提高了性能。编码层的当前权重被解码层迭代地替换，以确保GRAE的输出与输入数据显著相关。对大量UCR时间序列数据集的输入权值进行可视化分析和实验表明，所提出的GRAE方法可以显著改进原有的基于ESN的两层分类器，并且与传统的最新TSC分类器相比，所提GRAE-ESN分类器具有更好的性能。此外，与三种深度学习分类器相比，该方法可以提供相当的性能和更快的训练速度。

MSC公司：

68T05型 人工智能中的学习和自适应系统

关键词：

回波状态网络;循环神经网络;全局可逆自动编码器;时间序列分类
PDF格式BibTeX公司 XML格式引用
\textit{H.Wang}等人，《信息科学》。570744-768（2021年；兹bl 07768989）
全文： 内政部

参考文献：

[1] 巴格纳尔，A。；Lines，J。；Hills，J.，《COTE的时间序列分类：基于转换的集成的集合》，IEEE Trans。知识。数据工程，27，9，2522-2535（2015）
[2] Ballard，D.H.，《神经网络中的模块化学习》，（第六届AAAI会议论文集，西雅图，华盛顿州，美国（1987）），279-284
[3] 巴蒂斯塔，G.E。；Keogh，E.J。；Tataw，O.M.，CID：时间序列的有效复数不变距离，Data Min.Knowl。光盘。，28, 3, 634-669 (2014) ·Zbl 1294.62188号
[4] Baydogan，M.G。；Runger，G。；Tuv，E.，《对时间序列进行分类的特征框架》，IEEE Trans。模式分析。机器。智力。，35, 11, 2796-2802 (2013)
[5] Baydogan，M.G。；Runger，G.，基于局部自动模式的时间序列表示和相似性，Data Min.Knowl。光盘。，30, 2, 476-509 (2016) ·Zbl 1411.68093号
[6] 塞廷，M.S。；Mueen，A。；Calhoun，V.D.，多维时间序列的Shapelet集成，（2015年SIAM国际数据挖掘会议论文集，工业和应用数学学会（2015）），307-315
[7] Chaovalitwingse，W.A。；Pottenger，R.S。；王守义；雅居范；Iasemidis，L.D.，《用于改善大脑诊断的多通道医学数据信号的基于模式和网络的分类技术》，IEEE Trans。系统。，伙计，赛本-A部分：系统。Hum.，41，5，977-988（2011）
[8] Y.Chen，E.Keogh，B.Hu，等，UCR时间序列分类档案，（2015）<https://www.cs.ucr.edu/eamonn/time_series_data/>。
[9] N.Chouikhi，B.Ammar，A.M.Alimi，《用于高效数据表示的基本和多层回声状态网络递归自动编码器的起源》。arXiv预印本arXiv，（2018），1804.08996。
[10] 科尔特斯·伊瓦涅斯，J.A。；González，S。；瓦莱·阿隆索，J.J。；Luengo，J。；南卡罗来纳州加西亚。；Herrera，F.，《时间序列的预处理方法：工业世界应用案例研究》，《信息科学》。，514, 385-401 (2020)
[11] 盖，T。；Hart，P.，最近邻模式分类，IEEE Trans。Inf.理论，13，1，21-27（1967）·Zbl 0154.44505号
[12] 邓，H。；Runger，G。；Tuv，E。；弗拉基米尔，M.，《用于分类和特征提取的时间序列森林》，《信息科学》。，239, 142-153 (2013) ·兹比尔1321.62068
[13] 费尔斯，C。；帕帕尼科劳，Y。；Naidoo，K.J.，去噪自动编码器自组织映射（DASOM），神经网络，105，112-131（2018）
[14] Gharebaghi，A。；Lindén，M.，使用时间增长神经网络分类生物信号循环时间序列的深度机器学习方法，IEEE Trans。神经网络学习。系统。，29, 9, 4102-4115 (2017)
[15] Górecki，T。；Łuczak，M.，使用DTW的时间序列分类中的非计量变换，Knowl-基于系统。，61, 98-108 (2014)
[16] Górecki，T。；Łuczak，M.，《在时间序列分类中使用导数》，Data Min.Knowl。光盘。，26, 2, 310-331 (2013)
[17] Górecki，T.，使用最长公共子序列差异性度量中的导数进行时间序列分类，模式识别。莱特。，45, 99-105 (2014)
[18] J·格拉博卡。；席林，N。；Wistuba，M.，学习时间序列形状，（第20届ACM SIGKDD知识发现和数据挖掘国际会议论文集（2014）），392-401
[19] Hills，J。；Lines，J。；Baranauskas，E。；Mapp，J。；Bagnall，A.，通过shapelet变换对时间序列进行分类，Data Min Knowl。光盘。，28, 4, 851-881 (2014) ·Zbl 1298.62098号
[20] Hochreiter，S。；Schmidhuber，J.，长短期记忆，神经计算。，1735-1780年9月8日（1997年）
[21] Jaeger，H。；Haas，H.，《利用非线性：预测混沌系统和无线通信节能》，《科学》，304，5667，78-80（2004）
[22] Jeong，Y.-S。；Jeong，M.K。；Omitaomu，O.A.，时间序列分类的加权动态时间扭曲，模式识别。，44, 9, 2231-2240 (2011)
[23] 卡里姆，F。；马久姆达尔，S。；Darabi，H。；Harford，S.，时间序列分类的多元lstm-fcns，神经网络，116，237-245（2019）
[24] Kate，R.J.，使用动态时间扭曲距离作为改进时间序列分类的特征，Data Min.Knowl。光盘。，30, 2, 283-312 (2016) ·Zbl 1411.62255号
[25] Längkvist，M。；Loutfi，A.，使用成本相关的稀疏自动编码器学习特征表示，Int.J.Neural Syst。，25，01，第1450034条pp.（2015）
[26] 林，J。；Khade，R。；Li，Y.，《使用纸袋表示法的时间序列中的旋转不变相似性》，J.Intell。信息系统。，39, 2, 287-315 (2012)
[27] Lines，J。；Bagnall，A.，《弹性距离测度集合的时间序列分类》，Data Min.Knowl。光盘。，29, 3, 565-592 (2015) ·Zbl 1405.68295号
[28] 马，Q。；沈，L。；Chen，W。；Wang，J。；魏杰。；Yu，Z.，时间序列分类的功能回波状态网络，信息科学。，373, 1-20 (2016) ·Zbl 1429.68256号
[29] 马，Q。；庄，W。；沈，L。；Cottrell，G.W.，《利用回声记忆网络进行时间序列分类》，神经网络，117225-239（2019）·Zbl 1441.62239号
[30] Marteau，P.-F.，《时间扭曲编辑距离与时间序列匹配刚度调整》，IEEE Trans。模式分析。机器。智力。，31, 2, 306-318 (2009)
[31] 森喜朗，美国。；Mendiburu，A。；米兰达，I.M。；Lozano，J.A.，《使用多目标优化技术对时间序列进行早期分类》，《信息科学》。，492, 204-218 (2019) ·Zbl 1451.62102号
[32] Orsenigo，C。；Vercellis，C.，将离散支持向量机和固定基数扭曲距离相结合用于多元时间序列分类，模式识别。，43, 11, 3787-3794 (2010) ·兹比尔1209.68422
[33] Ozturk，M.C。；徐，D。；Príncipe，J.C.，回波状态网络的分析和设计，神经计算。，19, 1, 111-138 (2007) ·Zbl 1125.68102号
[34] Rahhal，医学硕士。；Bazi，Y。；AlHichri，H。；阿拉伊兰，N。；Melgani，F。；Yager，R.R.，心电图信号主动分类的深度学习方法，Inf.Sci。，345, 340-354 (2016)
[35] Rakthanmanon，T。；Keogh，E.，《快速形状：发现时间序列形状的可扩展算法》（Fast shapelets:a scalable algorithm for discovery time series shapelets），（2013年SIAM国际数据挖掘会议论文集，工业与应用数学学会（2013）），668-676
[36] 罗丹，A。；Tino，P.，最小复杂度回波状态网络，IEEE Trans。神经网络，22,1131-144（2011）
[37] Schäfer，P.，The BOSS关注的是存在噪声的时间序列分类，Data Min Knowl。光盘。，29, 6, 1505-1530 (2015) ·Zbl 1405.68305号
[38] Schrauwen，B。；Verstraeten，D。；Van Campenhout，J.，《油藏计算概述：理论、应用和实现》（第15届欧洲人工神经网络研讨会论文集（2007）），471-482
[39] Seyfoglu，M.S。；Ozbayoglu，A.M。；Gurbuz，S.Z.，基于雷达的类似辅助和非辅助人类活动分类的深度卷积自动编码器，IEEE Trans。Aerosp.航空公司。电子。系统。，54, 4, 1709-1723 (2018)
[40] Wan，Y。；Si，Y.-W.，《金融时间序列中图表模式分类的正式方法》，《信息科学》。，411, 151-175 (2017)
[41] 王，Z。；Yan，W。；Oates，T.，《利用深度神经网络从头开始的时间序列分类：强大的基线》（2017年国际神经网络联合会议（2017）），1578-1585
[42] Wang，H。；Yan，X.，用敏感迭代剪枝算法改进简单确定性构建的循环水库网络，神经计算，145，353-362（2014）
[43] Wang，H。；镍，碳。；Yan，X.，基于互信息优化回声状态网络，用于建模分批进料生物过程，神经计算，225，111-118（2017）
[44] Wang，H。；吴庆明。；Wang，J。；Wu，W。；Yu，K.，用冗余单元修剪自动编码器算法优化简单确定性构建的循环水库网络，神经计算，356184-194（2019）
[45] Wang，L。；王，Z。；Liu，S.，一种使用回声状态网络和自适应差分进化算法的有效多元时间序列分类方法，专家系统。申请。，43, 237-249 (2016)
[46] Werbos，P.J.，《穿越时间的反向传播：它做什么和如何做》，Proc。IEEE，78，10，1550-1560（1990）
[47] 肖，X.i。；李，R。；郑海涛。；Ye，R。；KumarSangaiah，A。；Xia，S.，新型网络流量动态多重分类系统，信息科学。，479, 526-541 (2019)
[48] 于斯。；Príncipe，J.C.，用信息论概念理解自动编码器，神经网络，117，104-123（2019）·Zbl 1458.68197号
[49] 周，P。；韩，J。；Cheng，G。；Zhang，B.，学习用于高光谱图像分类的紧凑型和区分性堆叠自动编码器，IEEE Trans。地质科学。遥感，57，7，4823-4833（2019）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。