×

一种用于时间序列分类和检索的深度多任务表示学习方法。 (英语) Zbl 1484.62110号

时间序列分类和检索是时间序列分析的两项重要任务。现有的方法分别解决这两个任务,忽略了不同任务之间的共享信息。本文提出了一种用于时间序列分类和检索的深度多任务表示学习方法(MTRL),该方法利用了相关的监督和非监督信息。具体来说,分类任务的监督表示学习试图最大化类间变化和最小化类内变化。检索任务的无监督表示学习旨在保持两两动态时间偏差(DTW)距离。这两个任务可以通过共享网络相互受益,共享网络由深度小波分解网络和残差网络组成。与传统的卷积神经网络相比,这些网络可以提取隐藏在不同时域和频域中的信息,并且可以实现从最低层到最高层的更容易的信息流。此外,我们还提出了一种距离加权采样策略,该策略侧重于更具区分性的样本,以实现较高的收敛速度和精度。在UCR数据集上的大量实验表明,MTRL优于最先进的方法。

MSC公司:

62M10个 统计学中的时间序列、自相关、回归等(GARCH)
62H30型 分类和区分;聚类分析(统计方面)
68T07型 人工神经网络与深度学习
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] F.J.巴尔丹。;Benítez,J.M.,《分布式快速Shapelet变换:大数据时间序列分类算法》,《信息科学》。,496, 451-463 (2019)
[2] 比安奇,F.M。;利维,L。;Mikalsen,K。;Kampffmeyer,M。;Jenssen,R.,带缺失数据的多元时间序列的学习表示,模式识别。,96,第106973条pp.(2019)
[3] 布鲁内尔,A。;帕斯克特,J。;帕斯克特,J。;罗德里格斯,N。;Comby,F。;Fouchez博士。;Chaumont,M.,美国有线电视新闻网(CNN)改编自超新星分类的时间序列,电子图像。,14 (2019)
[4] P.Chatigny,J.-M.Patenaude,S.Wang,《金融时间序列表征学习》。arXiv预印arXiv:2003.12194(2020)。
[5] Z.Che,X.He,K.Xu,Y.Liu,DECADE:多元时间序列的深度度量学习模型,in:Proc。KDD工作坊模拟学习。《时间序列》,2017年,pp。
[6] Chen,L。;丁,Y。;Lyu,D。;刘,X。;Long,H.,基于深度多任务学习的城市空气质量指数建模,ACM Interact。暴徒。可穿戴的无所不在技术。,3, 1, 1-17 (2019)
[7] G.Dai,J.Xie,Y.Fang,暹罗CNN-BiLSTM三维形状表示学习架构,Proc。国际联合协调条款。智力。,2018年,第670-676页
[8] H.A.Dau,E.Keogh,K.Kamgar,C.-C.M.Yeh,Y.Zhu,S.Gharghabi,C.A.Ratanamahatana,Y.Chen,B.Hu,N.Begum,A.Bagnall,A.Mueen,G.Batista,UCR时间序列分类档案。https://www.cs.ucr.edu/eamonn/time_series_data_2018/。(2018).
[9] 杜,B。;熊,W。;吴杰。;张,L。;张,L。;Tao,D.,用于特征表示的堆叠卷积去噪自动编码器,IEEE Trans。赛博。,47, 4, 1017-1027 (2016)
[10] 伊莱亚斯一世。;Rubio,J.D.J。;马丁内斯,D.I。;Vargas,T.M。;加西亚,V。;Mujica-Vargas,D。;Meda-Campaña,J.a。;帕切科,J。;古铁雷斯,G.J。;Zacarias,A.,用于电力消耗建模的径向基映射网络遗传算法,应用。科学。,10, 12, 4239 (2020)
[11] V.Fortuin,M.Hüser,F.Locatello,H.Strathmann,G.Rätsch,SOM-VAE:时间序列上的可解释离散表示学习,在:Proc。国际会议学习。代表,2019年,pp。
[12] J.-Y.Franceschi,A.Dieuleveut,M.Jaggi,《多元时间序列的无监督可扩展表示学习》,摘自:Proc。国际会议学习。2019年,第页
[13] 龚,Z。;陈,H。;袁,B。;Yao,X.,时间序列分类模型空间中的多目标学习,IEEE Trans。赛博。,49, 3, 918-932 (2019)
[14] Harutyunyan,H。;Khachatrian,H。;卡尔,哥伦比亚特区。;Ver Steeg,G。;Galstyan,A.,《临床时间序列数据的多任务学习和基准测试》,科学。数据,6,1,1-18(2019年)
[15] Heil,C.E。;胡桃木,D.F.,连续和离散小波变换,SIAM Rev.,31,4,628-666(1989)·Zbl 0683.42031号
[16] 埃尔南德斯,G。;萨莫拉,E。;Sossa,H。;Téllez,G。;Furlán,F.,用于大数据分类的混合神经网络,神经计算,390,327-340(2020)
[17] Q.Lei,J.Yi,R.Vaculin,L.Wu,I.S.Dhillon,时间序列聚类的相似保持表征学习,in:Proc。国际联合协调条款。智力。,2017年,pp
[18] Lines,J。;泰勒,S。;Bagnall,A.,《HIVE-COTE时间序列分类:基于转换的信号群的层次投票集合》,ACM Trans。知识。光盘。数据,12,5,52(2018)
[19] X.Liu,J.Gao,X.He,L.Deng,K.Duh,Y.-Y Wang,使用多任务深度神经网络进行语义分类和信息检索的表示学习,在:Proc。Conf.北美分会。关联公司。凌:人类语言技术,2015,pp
[20] A.Lods,S.Malinowski,R.Tavenard,L.Amsaleg,《学习DTW-保存形状》,摘自:Proc。国际交响乐团。智力。数据分析,2017年,第198-209页
[21] Meda-Campaña,J.a.,关于具有参数不确定性和噪声输出的非线性系统的估计和控制,IEEE Access,631968-31973(2018)
[22] Nikzad-Langeroi,R。;Zellinger,W。;Saminger-Platz,S。;Moser,B.A.,《Beer-Lambert定律下回归的领域适应》,Knowl-基于系统。,210,第106447条pp.(2020)
[23] H.Oh Song,Y.Xiang,S.Jegelka,S.Savarese,通过提升结构化特征嵌入的深度度量学习,在:Proc。IEEE配置。视觉模式识别。,2016年,第4004-4012页
[24] 潘,S.J。;Yang,Q.,迁移学习调查,IEEE Trans。知道。数据工程,22,10,1345-1359(2009)
[25] W.Pei,D.M.Tax,L.Van Der Maaten,用暹罗递归网络建模时间序列相似性。arXiv预印arXiv:1603.04713(2016)。
[26] 彭,L。;Chen,L。;Ye,Z。;Zhang,Y.,AROMA:基于深度多任务学习的简单和复杂人类活动识别方法,使用可穿戴传感器,ACM Interact。暴徒。可穿戴的无所不在技术。,2, 2, 1-16 (2018)
[27] T.Peng,M.Boxberg,W.Weichert,N.Navab,C.Marr,组织病理学图像分类和检索的深度k最近邻网络的多任务学习。生物Rxiv。(2019) 661454
[28] C.Raffel,D.P.Ellis,《优化基于DTW的音频到MIDI对齐和匹配》,摘自:Proc。IEEE国际协调委员会意见。语音符号处理。,2016年,第81-85页
[29] T.Rakthanmanon,B.Campana,A.Mueen,G.Batista,B.Westover,Q.Zhu,J.Zakaria,E.Keogh,《在动态时间扭曲下搜索和挖掘万亿时间序列子序列》,摘自:Proc。ACM SIGKDD国际咨询知识。光盘。数据挖掘,2012年,第262-270页
[30] F.Schroff,D.Kalenichenko,J.Philbin,《Facenet:人脸识别和聚类的统一嵌入》,摘自:Proc。IEEE配置。视觉模式识别。,2015年,第815-823页。
[31] K.Sohn,用多类n对损失目标改进深度度量学习,in:Proc。高级神经信息处理。系统。,2016年,第1857-1865页
[32] D.Song,N.Xia,W.Cheng,H.Chen,D.Tao,多元时间序列检索的秩监督联合二进制嵌入的深rth根,in:Proc。ACM SIGKDD国际咨询知识。光盘。数据挖掘,2018年,第2229-2238页
[33] Van Der Maaten,L.,使用基于树的算法加速t-SNE,J.Mach。学习。研究,15,1,3221-3245(2014)·Zbl 1319.62134号
[34] J.Wang,Z.Wang,J.Li,J.Wu,可解释时间序列分析的多级小波分解网络,收录于:Proc。ACM SIGKDD国际咨询知识。光盘。数据挖掘,2018年,第2437-2446页
[35] Z.Wang,W.Yan,T.Oates,用深度神经网络从头开始的时间序列分类:一个强大的基线,in:Proc。国际联合会议。净值。,2017年,第1578-1585页
[36] Weigend,A.S.,《时间序列预测:预测未来和理解过去》(2018年),劳特利奇出版社
[37] C.-Y.Wu,R.Manmatha,A.J.Smola,P.Krähenbühl,《深度嵌入学习中的抽样问题》,摘自:Proc。国际竞争对手。愿景,2017年,pp
[38] 吴,Z。;李强。;Xia,X.,基于多任务学习和回波状态网络方法的太阳辐射多时间尺度预测,IEEE Trans。工业信息(2020)
[39] H.Xu,W.Chen,N.Zhao,Z.Li,J.Bu,Z.Li,Y.Liu,Y.Zhao,D.Pei,Y.Feng,通过变分自动编码器对web应用程序中的季节性KPI进行无监督异常检测,在:Proc。2018年万维网大会,第187-196页
[40] Xu,X。;Yoneda,M.,基于LSTM自动编码器模型的多任务空气质量预测,IEEE Trans。赛博。(2019)
[41] Yan,W。;孙,Q。;Sun,H。;李毅,用于图像集分类的联合降维和度量学习,信息科学。,516, 109-124 (2020) ·Zbl 1457.68243号
[42] 杨,J。;Bai,Y。;林,F。;刘,M。;Hou,Z。;Liu,X.,一种基于堆叠稀疏自动编码器和softmax回归的新型心电图心律失常分类方法,Int.J.Mach。学习。网络。,9, 10, 1733-1740 (2018)
[43] Zellinger,W。;Grubinger,T。;Zwick,M。;Lughofer,E。;施纳,H。;Natschläger,T。;Saminger-Platz,S.,《周期制造中时间序列的多源转移学习》,J.Intell。制造,31,3777-787(2020)
[44] Zellinger,W。;莫瑟,B.A。;Grubinger,T。;Lughofer,E。;Natschläger,T。;Saminger-Platz,S.,《通过力矩对齐实现神经网络的鲁棒无监督域自适应》,《信息科学》。,483174-191(2019)·Zbl 1448.68383号
[45] C.Zhang、S.Li、H.Zhang,Y.Chen,VELC:一种新的基于变分自动编码器的时间序列异常检测模型。arXiv预印本arXiv:1907.01702(2019)。
[46] R.Zheng,Z.Luo,B.Yan,利用时间序列图像到图像的转换来扩展野生动物栖息地分析的范围,摘自:Proc。AAAI Conf.Artif.公司。智力。,2019年,第825-832页
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。