伊米尔·梅基宁;Juho Kanniainen;蒙塞夫·加布吉;亚历山德罗斯，爱索菲迪斯 预测股票价格的跳跃到达：使用限制订单数据的新的基于注意力的网络架构。 （英语） Zbl 1441.91071号 数量。财务 2033-2050年第12号第19页（2019年）. 摘要：现有文献提供了证据表明，限价订单数据可以用于预测股票市场的短期价格波动。本文提出了一种新的神经网络结构，用于预测具有高频极限订单数据的股票市场提前一分钟到达的收益跳跃。这种基于卷积长短时记忆和注意的新体系结构被引入，用于应用带记忆的时间序列表示学习，并将预测注意力集中在最重要的特征上，以提高性能。注意机制的使用使得分析包含限制订单簿数据和其他输入变量的重要性成为可能。我们使用了这种机制的架构，并将其与现有的深度学习架构进行了比较，这些架构的数据集由18个月内五支美国流动股票的订单数据组成。我们提供的证据表明：（i）具有注意力模型的新体系结构优于现有体系结构，（ii）根据基础股票的不同，使用限制订单簿数据可以明显或略微提高拟议模型在跳跃预测方面的性能。这表明，限价订单市场中的路径依赖性是股票特有的特征。此外，我们发现，带有注意机制的该方法优于多层感知器网络、卷积神经网络和长短期记忆模型。 引用于2文件 MSC公司： 91G10型 投资组合理论 62P05号 统计学在精算科学和金融数学中的应用 关键词：回跳;限制订单簿数据;神经网络;卷积网络;长短期记忆;注意机制 软件：TensorFlow公司;亚当;AlexNet公司;OverFeat（覆盖特征）;ImageNet公司;凯拉斯 PDF格式BibTeX公司 XML格式引用 \textit{Y.Mäkinen}等人，Quant。财务19，第12期，2033-2050（2019；Zbl 1441.91071） 全文： 内政部 arXiv公司 链接 参考文献： [1] Abadi，M.、Agarwal，A.、Barham，P.、Brevdo，E.、Chen，Z.、Citro，C.、Corrado，G.、Davis，A.、Dean，J.、Devin，M.，Ghemawat，S.、Goodfellow，I.、Harp，A.、Irving，G.，Isard，M。，O.维尼亚尔、P.典狱长、M.威克、Yu、Y.和X.郑。，TensorFlow：异构分布式系统上的大规模机器学习, 2015. [2] 阿伊特·萨哈利亚，Y.和杰科德，J。，等。，测试跳跃活动是有限的还是无限的。Ann.统计。, 2011, 39, 1689-1719. doi:10.1214/11-AOS873·Zbl 1234.62117号 ·doi:10.1214/11-AOS873 [3] Andersen，T.G.、Bollerslev，T.和Dobrev，D.，受杠杆效应、跳跃和iid噪声影响的连续时间波动率模型的非随机半鞅限制：理论和可测试的分布含义。《经济学杂志》。, 2007, 138, 125-180. doi:10.1016/j.jeconom.2006.05.018·Zbl 1418.62371号 ·doi:10.1016/j.jeconom.2006.05.018 [4] Bahdanau，D.，Cho，K.和Bengio，Y。，联合学习对齐和翻译的神经机器翻译arXiv:1409.04732014年。 [5] Barndorff-Nielsen，O.E.，《随机波动和跳跃的功率和双功率变化》。J.财务。经济学。, 2004, 2, 1-37. doi:10.1093/jjfinec/nbh001·doi:10.1093/jjfinec/nbh001 [6] Bates，D.S.，《跳跃与随机波动：德意志马克期权隐含的汇率过程》。财务版次。螺柱。, 1996, 9, 69-107. doi:10.1093/rfs/9.1.69·doi:10.1093/rfs/9.1.69 [7] Bradley，D.，Clarke，J.，Lee，S.和Ornthanaai，C.，分析师的建议是否有信息？关于时间戳延迟影响的日间证据。J.金融, 2014, 69, 645-673. doi:10.1111/jofi.12107·doi:10.1111/jofi.12107 [8] Cheadle，C.，Vawter，M.P.，Freed，W.J.和Becker，K.G.，使用Z得分转换分析微阵列数据。。摩尔诊断杂志。，2003年，573-81。doi:10.1016/S1525-1578（10）60455-2·doi:10.1016/S1525-1578（10）60455-2 [9] Chiarella，C.，He，X.Z.和Wei，L.，《极限订单市场中的学习、信息处理和订单提交》。《经济学杂志》。动态。控制, 2015, 61, 245-268. doi:10.1016/j.jedc.2015.09.013·Zbl 1401.91574号 ·doi:10.1016/j.jedc.2015.09.013 [10] Cholet，F.和其他，凯拉斯, 2015. [11] Chorowski，J.、Bahdanau，D.和Serdyuk，D.，语音识别的基于注意的模型。在神经信息处理系统进展综述第577-585页，2015年。 [12] Cohen，J.，标称量表的一致系数。心理测量教育。精神病。测量。, 1960, 20, 37-46. doi:10.1177/001316446002000104·doi:10.1177/001316446002000104 [13] Cont，R.，高频金融数据的统计建模。电气与电子工程师协会。信号处理。磁。, 2011, 28, 16-25. doi:10.1109/MSP.2011.941548·doi:10.1109/MSP.2011.941548 [14] Cont，R.和De Larrard，A.，《流动市场中的指令簿动力学：极限定理和扩散近似》。SSRN工作文件，2012年。 [15] Cont，R.，Stoikov，S.和Talreja，R..，订单动态的随机模型。操作。物件。, 2010, 58, 549-563. doi:10.1287/opre.1090.0780·Zbl 1232.91719号 ·doi:10.1287/opre.1090.0780 [16] Cont，R.和Tankov，P。，具有跳跃过程的财务建模2003年第2卷（CRC出版社）·Zbl 1052.91043号 [17] Copeland，T.和Galai，D.，《信息对垃圾扩散的影响》。J.金融, 1983, 38, 1457-1469. doi:10.1111/j.1540-6261.1983。tb03834.x·doi:10.1111/j.1540-6261.1983。tb03834.x [18] Corsi，F.、Pirino，D.和Reno，R.，阈值双幂变化和跳跃对波动性预测的影响。《经济学杂志》。, 2010, 159, 276-288. doi:10.1016/j.econom.2010.07.008·Zbl 1441.62656号 ·doi:10.1016/j.jeconom.2010.07.008 [19] Di Persio，L.和Honchar，O.，《股票价格预测的人工神经网络架构：比较与应用》。国际电路系统杂志。信号处理。，2016年，10403-413。 [20] 迪克西特·A.K.、迪克西特·R.K.、平迪克·R.S.和平迪克。，不确定性投资1994年（普林斯顿大学出版社：新泽西州普林斯顿）。 ·doi:10.1515/9781400830176 [21] Dixon，M.，使用递归神经网络对极限序簿进行序列分类。计算科学J.计算。科学。, 2018, 24, 277-286. [22] Dixon，M.，监督学习的高频交易执行模型。高频，即将推出。 [23] Eraker，B.，股票价格和波动率会跳吗？从现货和期权价格中核对证据。J.金融, 2004, 59, 1367-1403. 数字对象标识代码：10.1111/j.1540-6261.2004.00666.x·数字对象标识代码：10.1111/j.1540-6261.2004.00666.x [24] Fleiss，J.、Levin，B.和Cho Paik，M。，费率和比例的统计方法2003年（John Wiley&Sons：新泽西州霍博肯）·Zbl 1034.62113号 ·doi:10.1002/0471445428 [25] Foucaut，T.、Moinas，S.和Theissen，E.，匿名性在电子限额订单市场中重要吗？财务版次。螺柱。, 2007, 20, 1707-1747. doi:10.1093/rfs/hhm027·doi:10.1093/rfs/hhm027 [26] Gers，F.A.，Schmidhuber，J.和Cummins，F.，《学会忘记：LSTM的持续预测》。神经系统。计算。, 2000, 12, 2451-2471. doi:10.1162/089976600300015015·doi:10.1162/089976600300015015 [27] Giles，C.L.，Lawrence，S.和Tsoi，A.C.A.，使用递归神经网络和语法推理进行噪声时间序列预测。机器。学习。, 2001, 44, 161-183. doi:10.1023/A:1010884214864·Zbl 0983.68163号 ·doi:10.1023/A:1010884214864 [28] 格雷夫斯，A。，基于递归神经网络的监督序列标记，2012年第385卷·Zbl 1235.68014号 [29] 格雷夫斯，A。，用递归神经网络生成序列.arXiv预印arXiv:1308.08502013。 [30] Greff，K.、Srivastava，R.K.、KoutníK，J.、Steunebrink，B.R.和Schmidhuber，J.，LSTM:搜索空间冒险。神经网络和学习系统汇刊IEEE。事务处理。神经系统。Netw公司。学习。系统。, 2017, 28, 2222-2232. doi:10.1109/TNNLS.2016.2582924·doi:10.1109/TNNLS.2016.2582924 [31] Heston，S.L.，具有随机波动性的期权的封闭式解决方案，应用于债券和货币期权。财务版次。研究，1993年，6327-343页。doi:10.1093/rfs/6.2.327·Zbl 1384.35131号 ·doi:10.1093/rfs/6.2.327 [32] G.E.欣顿、N.斯利瓦斯塔瓦、A.克里兹夫斯基、I.萨茨克弗和R.R.萨拉赫特丁诺夫。，通过防止特征检测器的联合自适应改进神经网络arXiv预印本arXiv:1207.0580，第1-18页，2012年。 [33] Hochreiter，S.和Schmidhuber，J.，《长期短期记忆》。神经计算。, 1997, 9, 1735-1780. doi:10.1162/neco.1997.9.8.1735·doi:10.1162/neco.1997.9.8.1735 [34] Hu，B.，Lu，Z.，Li，H.和Chen，Q.，用于匹配自然语言句子的卷积神经网络架构。在神经信息处理系统进展第2042-2050页，2014年。 [35] Huang，X.和Tauchen，G.，跳跃对总价格方差的相对贡献。J.财务。经济。, 2005, 3, 456-499. ·doi:10.1093/jjfinec/nbi025 [36] Jefferson，M.，Pendleton，N.，Lucas，S.，Horan，M.和Tarassenko，L。，神经网络, 1995. [37] Kanniainen，J.，适当折扣的项目能遵循几何布朗运动吗？数学。方法操作。物件。, 2009, 70, 435. doi:10.1007/s00186-008-0275-0·Zbl 1178.91214号 ·doi:10.1007/s00186-008-0275-0 [38] Kanniainen，J.和Yu，Y.，新闻的到来和股价的上涨。SSRN工作文件，2017年。 [39] Kara，Y.、Acar，M.和Kaan。，使用人工神经网络和支持向量机预测股价指数走势的应用专家系统：伊斯坦布尔证券交易所的样本。专家系统。申请。，2011年，385311-5319。doi:10.1016/j.eswa.2010.10.027·doi:10.1016/j.eswa.2010.10.027 [40] Kercheval，A.N.和Zhang，Y.，用支持向量机建模高频极限订单动态。数量。财务, 2015, 15, 1315-1329. doi:10.1080/14697688.2015.1032546·Zbl 1406.91511号 [41] Kingma，D.P.和Ba，J。，Adam：一种随机优化方法arXiv预印本arXiv:1412.69802014。 [42] Krizhevsky，A.，Sutskever，I.和Hinton，G。，基于深度卷积神经网络的ImageNet分类, 2012. [43] Landis，J.R.和Koch，G.G.，分类数据的观察者一致性的测量。生物计量学, 1977, 33, 159. doi:10.2307/2529310·Zbl 0351.62039号 ·doi:10.2307/2529310 [44] Längkvist，M.、Karlsson，L.和Loutfi，A.，时间序列建模的无监督特征学习和深度学习综述。模式识别。莱特。, 2014, 42, 11-24. doi:10.1016/j.patrec.2014.01.008·doi:10.1016/j.patrec.2014.01.008 [45] LeCun，Y.和Bengio，Y.，图像、语音和时间序列的卷积网络。脑理论神经网络手册。, 1995, 3361, 255-258. [46] Lee，S.，《金融市场中的跳跃和信息流动》。财务版次。螺柱。, 2012, 25, 439-479. doi:10.1093/rfs/hhr084·doi:10.1093/rfs/hhr084 [47] Lee，S.S.和Hannig，J.，从Levy跳跃扩散过程中检测跳跃。J.财务。经济。, 2010, 96, 271-290. doi:10.1016/j.jfineco.2009.12.009·doi:10.1016/j.jfineco.2009.12.009 [48] Lee，S.S.和Mykland，P.A.，《实时金融市场中的跳跃：一种新的非参数测试和跳跃动力学》。财务版次。螺柱。, 2008, 21, 2535-2563. doi:10.1093/rfs/hhm056·doi:10.1093/rfs/hhm056 [49] Lipton，Z.C.，Elkan，C.和Naryanaswamy，B.，分类器的最佳阈值以最大化F1测度。在欧洲机器学习和数据库知识发现联合会议记录，第8725卷，第225-239页（LNAI），2014年。 [50] Maas，A.L.、Hannun，A.Y.和Ng，A.Y.Rectifier非线性改进了神经网络声学模型。程序。第30届国际会议机器学习。, 2013, 28, 6. [51] Mikolov，T.、Karafiat，M.、Burget，L.、Cernocky，J.和Khudanpur，S.，基于递归神经网络的语言模型。在国际言语交际协会年会记录第1045-1048页，2015年。 [52] Ntakaris，A.、Magris，M.、Kanniainen，J.、Gabbouj，M.和Iosifidis，A.，限价订单簿数据的中间价格预测基准数据集。J.预测。，即将推出。 [53] Passalis，N.、Tsantekidis，A.、Tefas，A.、Kanniainen，J.、Gabbouj，M.和Iosifidis，A.，使用神经袋特征的时间序列分类。在2017年第25届欧洲信号处理会议（EUSIPCO）会议记录第301-305页，2017年。 [54] Passalis，N.、Tefas，A.、Kanniainen，J.、Gabbouj，M.和Iosifidis，A。，利用限价订单数据进行价格预测的深度自适应输入归一化arXiv预印本arXiv:1902.078922019。 [55] Rosenblatt，F.，感知器-感知和识别自动机。技术报告，1957年。 [56] Scherer，D.、Müller，A.和Behnke，S.，对象识别卷积体系结构中池操作的评估。在人工神经网络ICANN 2010，2010年。 [57] Schöbel，R.和Zhu，J.，《Ornstein-Uhlenbeck过程的随机波动性：扩展》。欧洲金融。版次。, 1999, 3, 23-46. doi:10.1023/A:1009803506170·Zbl 1028.91026号 ·doi:10.1023/A:1009803506170 [58] Sermanet，P.、Eigen，D.、Zhang，X.、Mathieu，M.、Fergus，R.和LeCun，Y。，OverFeat:使用卷积网络的集成识别、定位和检测.arXiv预印本arXiv，2013年。 [59] Shore，J.E.和Johnson，R.W.，最大熵原理和最小交叉熵原理的公理推导。IEEE传输。Inf.理论, 1980, 26, 26-37. doi:10.1109/TIT.1980.1056144·Zbl 0429.94011号 ·doi:10.1109/TIT.1980.1056144 [60] Siikanen，M.、Kanniainen，J.和Valli，J.，《关于定期和非定期公告的限制指令簿和流动性：纳斯达克北欧的经验证据》。财务。Res.Lett公司。2017a，21，264-271。doi:10.1016/j.frl.2016.12.016·doi:10.1016/j.frl.2016.12.016 [61] Siikanen，M.、Kanniainen，J.和Luoma，A.，是什么驱动了限额订单对公司公告到达的敏感性？经济。莱特。，2017b，159，65-68。doi:10.1016/j.econlet.2017.07.018·Zbl 1398.91694号 ·doi:10.1016/j.econlet.2017.07.018 [62] Sirignano，J.A.，《限额订单的深度学习》。数量。财务, 2018, 19,1-22. [63] Sirignano，J.和Cont，R.，《金融市场价格形成的普遍特征：深度学习的视角》。SSRN工作文件，2018年·兹比尔1420.91433 [64] Toth，B.，Palit，I.，Lillo，F.和Farmer，J.D.，为什么股票订单流如此持久？《经济学杂志》。动态。控制, 2015, 51, 218-239. doi:10.1016/j.jedc.2014.10.007·Zbl 1402.91179号 ·doi:10.1016/j.jdc.2014.10.007 [65] Tran，D.T.、Magris，M.、Kanniainen，J.、Gabbouj，M.和Iosifidis，A.，用于价格变化预测的高频金融数据中的张量表示法。在2017 IEEE计算智能（SSCI）系列研讨会论文集2017年第1-7页。 [66] Tran，D.T.、Iosifidis，A.、Kanniainen，J.和Gabbouj，M.，《金融时间序列数据分析的时间注意力增强双线性网络》。在IEEE神经网络和学习系统汇刊，即将推出。 [67] Tsantekidis，A.、Passalis，N.、Tefas，A.、Kanniainen，J.、Gabbouj，M.和Iosifidis，A.，《使用卷积神经网络从限额订单中预测股票价格》。在2017年IEEE第19届商业信息学会议记录第1卷，第7-12页，2017a。 [68] Tsantekidis，A.，Passalis，N.，Tefas，A.，Kanniainen，J.，Gabbouj，M.和Iosifidis，A.，使用深度学习检测金融市场中的价格变化迹象。在2017年第25届欧洲信号处理会议（EUSIPCO）会议记录第2511-251512017b页。 [69] A.R.韦伯和K.D.科普赛。，统计模式识别2011年（约翰·威利父子公司：奇切斯特）·Zbl 1237.68006号 ·doi:10.1002/9781119952954 [70] Werbos，P.J.，应用于循环天然气市场模型的反向传播推广。神经网络。, 1988, 1, 339-356. doi:10.1016/0893-6080（88）90007-X·doi:10.1016/0893-6080（88）90007-X [71] Xingjian，S.、Chen，Z.、Wang，H.、Yeung，D.Y.、Wong，W.K.和Woo，W.C.，卷积LSTM网络：降水预报的机器学习方法。在神经信息处理系统进展第802-810页，2015年。 [72] Yang，H.和Kanniainen，J.，《标准普尔500指数的跳跃和波动动力学：来自股票和期权市场的无限活动跳跃和非仿射波动动力学的证据》。财务版次。, 2017, 21, 811-844. doi:10.1093/rof/rfw001·Zbl 1402.91822号 ·doi:10.1093/rf/rfw001 [73] Yang，J.，Nguyen，M.N.，San，P.P.，Li，X.和Krishnaswamy，S.，人类活动识别的多通道时间序列深度卷积神经网络。在国际JCAI会议记录第3995-4001页，2015年。 [74] Zhou，P.，Shi，W.，Tian，J.，Qi，Z.，Li，B.和Hao，H.，用于关系分类的基于注意的双向长短期记忆网络。在计算语言学协会第54届年会论文集（第2卷：短文）, 2016. 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。