×

多元随机过程预测的因果推理。 (英语) Zbl 1447.62063号

摘要:许多重要的现实世界系统被建模为具有延迟和变化因果关系的模拟连续随机过程集。然而,研究它们的动态往往变得很困难,因为这涉及到在给定的背景下,随着时间的推移,感知、理解和预测相互依赖的随机变量系统。在目前的工作中,我们开发了系统、严格和有效的框架,以灵活的方式从结构上描述和预测此类系统。特别地,我们使用基于最大生成树方法的图方法来捕获基于有向信息理论的因果依赖结构。为此,我们解决了信息因果关系估计中的稀疏性问题,并提出了一种识别和消除冗余计算的新方法。为了根据推断出的因果父节点预测子节点,我们使用了一个线性模型,旨在获取函数关系的最接近近似值。我们通过添加改进子节点估计的链接,使用因果条件信息进一步说明依赖性。正如我们在合成数据集和实际数据集上所演示的那样,其结果是一种全面而灵活的方法,可以理解和预测大量相互依赖的窄带过程。

MSC公司:

62甲12 多元分析中的估计
62M20型 随机过程推断和预测
60G25型 预测理论(随机过程方面)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿卜杜拉,S.A。;Plumbley,医学博士。;Mary,Q.,《信息动力学:音乐感知中的期望和惊喜模式》,《康涅狄格州科学》。,21, 2, 89-117 (2009)
[2] 阿卜杜拉,S.A。;Plumbley,医学博士。;Mary,Q.,《预测信息、多信息和约束信息》,技术报告(2010),技术报告C4DMTR-10-10,伦敦玛丽女王大学
[3] Al-Khassaweneh,M。;Aviyente,S.,《两种定向信息度量之间的关系,信号处理》。莱特。IEEE,15,801-804(2008)
[4] Amblard,P.-O。;Michel,O.J.,《关于有向信息理论和格兰杰因果图》,计算机科学杂志。神经科学。,30, 1, 7-16 (2011) ·Zbl 1446.94035号
[5] Amblard,首席执行官。;Michel,O.J.,《格兰杰因果关系和定向信息理论之间的关系:综述》,《熵》,第15、1、113-143页(2012年)·Zbl 06346067号
[6] Amblard,首席执行官。;Michel,O.J.J.,《格兰杰因果关系和定向信息理论之间的关系:综述》,《熵》,第15、1、113页(2013年)·Zbl 06346067号
[7] 阿什利·R。;格兰杰,C.W。;Schmalensee,R.,《广告与总消费:因果关系分析》,《计量经济学》,1149-1167(1980)·Zbl 0442.90012号
[8] 巴卡拉,洛杉矶。;Sameshima,K.,《部分定向相干:神经结构测定中的一个新概念》,Biol。赛博。,84, 6, 463-474 (2001) ·Zbl 1160.92306号
[9] Chikhaoui,B。;王,S。;熊,T。;Pigot,H.,从事件序列中基于模式的因果关系发现,用于建模普遍存在环境中的行为用户配置文件,《信息科学》。,285, 204-222 (2014)
[10] 盖,T.M。;Thomas,J.A.,《信息理论的要素》(2012),John Wiley&Sons
[11] Darbellay,G.A。;Tichavsky,P.,通过直接估计互信息进行独立成分分析,ICA-2000,芬兰赫尔辛基,69-74(2000)
[12] Darbellay,G.A。;Vajda,I.,通过观测空间的自适应分割估计信息,信息论IEEE Trans。,45, 4, 1315-1321 (1999) ·Zbl 0957.94006号
[13] Eichler,M.,多元时间序列的图形建模,Probab。理论关联。菲尔德,153,1,233-268(2011)·Zbl 1316.60049号
[14] Frenzel,S。;Pompe,B.,多元时间序列耦合分析的部分互信息,Phys。修订稿。,99, 204101 (2007)
[15] 格雷·R·M。;Kiefer,J.C.,《度量空间中的相互信息率、失真和量化》,IEEE Trans。Inf.理论,26,4(1980)·Zbl 0452.94010号
[16] 克拉瓦·科娃-辛德勒,K。;巴卢斯,M。;韦杰梅尔卡,M。;Bhattacharya,J.,《基于时间序列分析中信息理论方法的因果关系检测》,Phys。众议员,441,1,1-46(2007)
[17] 焦,J。;Permuter,H.H。;赵,L。;Kim,Y.-H。;Weissman,T.,定向信息的通用估计,IEEE Trans。通知。理论,59,10,6220-6242(2013)·兹比尔1364.94239
[18] Jonas,E。;Kording,K.P.,神经科学家能理解微处理器吗?,PLoS计算机。生物学,13,1-24(2017)
[19] Kramer,G.,《反馈渠道指导信息》(1998年),苏黎世瑞士联邦理工学院(ETH)博士论文
[20] Kraskov,A。;Stögbauer,H。;Grassberger,P.,《估计相互信息》,Phys。E版,69,066138(2004)
[21] 刘,Y。;Aviyente,S.,使用定向信息度量的定向网络推理,声学语音和信号处理(ICASSP),2010年IEEE国际会议,513-516(2010),IEEE
[22] 刘,Y。;Aviyente,S.,《量化脑电图、信号、系统和计算机因果神经交互作用的信息论方法》(ASILOMAR),2010年第四十四届ASILOMAR会议会议记录,1380-1384(2010),IEEE
[23] 刘,Y。;Aviyente,S.,时间标记定向信息,声学,语音和信号处理(ICASSP),2011年IEEE国际会议,3864-3867(2011)
[24] 刘,Y。;Aviyente,S.,使用定向信息测量量化大脑中的有效连接,计算。数学。方法医学,2012(2012)·Zbl 1239.92016年9月
[25] 刘,Y。;阿维延特,S。;Al-khassaweneh,M.,《使用数据相关分区的高维定向信息估计》,统计信号处理,2009年。IEEE/SP第15次研讨会,606-609(2009),IEEE
[26] Lütkepohl,H.,《多时间序列分析新导论》(2007),施普林格出版社
[27] Marko,H.,《双向传播理论——信息理论的概括》,Commun。IEEE传输。,21, 12, 1345-1351 (1973)
[28] Massey,J。;Massey,P.,《相互信息和定向信息的守恒》,信息理论,2005年。ISIT 2005。诉讼程序。157-158年国际研讨会(2005)·Zbl 1334.94019号
[29] J.L.Massey,因果、反馈和定向信息,1990年。;J.L.Massey,因果关系、反馈和定向信息,1990年。
[30] McGill,W.J.,《多元信息传递》,《心理测量学》,19,2,97-116(1954)·Zbl 0058.35706号
[31] Neumaier,A。;Schneider,T.,多元自回归模型的参数和特征模式估计,ACM Trans。数学。软质。,27, 1, 27-57 (2001) ·Zbl 1070.65503号
[32] Pál,D。;Póczos,B。;Szepesvári,C.,基于广义最近邻图的Rényi熵和互信息估计,(Lafferty,J.D.;Williams,C.K.I.;Shawe-Taylor,J.;Zemel,R.S.;Culotta,A.,《神经信息处理系统进展》23(2010),Curran Associates,Inc.),1849-1857
[33] Permuter,H。;Kim,Y.-H。;Weissman,T.,投资组合理论、数据压缩和假设检验中定向信息的解释,信息论IEEE Trans。,57, 6, 3248-3259 (2011) ·兹比尔1365.94128
[34] 奎因,C。;科尔曼,T。;Kiyavash,北。;Hatsopoulos,N.,《估计定向信息以推断集合神经棘波序列记录中的因果关系》,J.Compute。神经科学。,30, 17-44 (2011) ·兹比尔1446.92071
[35] 奎因,C.J。;Kiyavash,N。;Coleman,T.P.,计算有向信息图最优树近似的有效方法,IEEE Trans。信号处理。,61, 12, 3173-3182 (2013)
[36] 伦格,J。;海茨格,J。;北卡罗来纳州马尔旺。;Kurths,J.,《量化因果耦合强度:与传递熵相关的多变量时间序列的lag-specific度量》,Phys。E版,86,061121(2012)
[37] 伦格,J。;海茨格,J。;佩图霍夫,V。;Kurths,J.,《在估计多元传递熵时逃离维数灾难》,Phys。修订稿。,108, 258701 (2012)
[38] 齐藤,Y。;原岛,H。;山口,N。;Fujisawa,K.,《脑电图和肌电图数据处理的最新进展》,第章,多通道脑电图记录中的信息跟踪——脑电图因果分析,133-146(1981)
[39] N.Slonim、G.S.Atwal、G.Tkăcik、W.Bialek,《大型网络中的相互信息和多信息估算》,arXiv预印本cs/0502017;N.Slonim、G.S.Atwal、G.Tkăcik、W.Bialek,《大型网络中的相互信息和多信息估算》,arXiv预印本cs/0502017
[40] Spirtes,P。;格雷摩尔,C.N。;Scheines,R.,因果、预测和搜索(2000),麻省理工出版社
[41] Sun,J。;泰勒,D。;Bollt,E.M.,通过最佳因果熵进行因果网络推断,SIAM J.Appl。动态。系统。,14, 1, 73-106 (2015) ·Zbl 1376.37123号
[42] 陶,D。;李,X。;吴,X。;Maybank,S.J.,子空间选择的几何平均值,IEEE Trans。模式分析。机器。智力。,31, 2, 260-274 (2009)
[43] 陶,D。;唐,X。;李,X。;Wu,X.,图像检索中基于支持向量机的相关反馈的非对称打包和随机子空间,IEEE Trans。模式分析。机器。智力。,28, 7, 1088-1099 (2006)
[44] The MathWorks Inc,MATLAB and Statistics Toolbox Release 2012b,美国马萨诸塞州纳蒂克(2012)
[45] Verdes,P.F.,《从多元时间序列评估因果关系》,Phys。E版,72026222(2005)
[46] 维托,S.D。;Massera,E。;Piga,M。;马丁诺托。;Francia,G.D.,《城市污染监测场景中苯估算用电子鼻的现场校准》,Sens.Actuator,B,129,2,750-757(2008)
[47] Watanabe,S.,多元相关性的信息理论分析,IBM J.Res.Dev.,4,1,66-82(1960)·兹比尔0097.35003
[48] 肖,C。;Zheng,Y.R。;Beaulieu,N.,wss-Jakes衰落信道模拟器的二阶统计特性,Commun。IEEE传输。,50, 6, 888-891 (2002)
[49] 张,Q。;Benveniste,A.,小波网络,神经网络。IEEE传输。,3, 6, 889-898 (1992)
[50] Zografos,K。;Nadarajah,S.,多元分布的Rényi和Shannon熵表达式,Stat.Probab。莱特。,71, 1, 71-84 (2005) ·Zbl 1058.62008号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。