×

熵和互信息的几何k近邻估计。 (英语) Zbl 1391.94586号

摘要:互信息的非参数估计被广泛用于科学问题中,以量化变量之间的相关性。(k)-最近邻(knn)方法是一致的,因此有望在大样本量下很好地工作。这些方法使用几何规则的局部体积元素。这种做法允许体积元素的最大定位,但也可能由于对潜在概率测度的局部几何形状的不良描述而引起偏差。我们引入了一类新的knn估计,称为几何knn估计(g-knn),它使用更复杂的局部体积元素来更好地建模概率测度的局部几何。作为这类估计的一个例子,我们基于椭圆体元开发了熵和互信息的g-knn估计,捕获了广泛的动力系统吸引子所共有的局部拉伸和压缩。一系列基础分布厚度和样本大小不同的数值示例表明,当局部几何效应无法通过数据的全局预处理消除时,局部几何是Kraskov-Stögbauer-Grasberger估计等knn方法的问题根源。尽管对局部几何体进行了操作,但g-knn方法仍表现良好。此外,示例表明,g-knn估计量对于系统较大但数据大小有限的应用程序特别相关。{
©2018美国物理研究所}

MSC公司:

94甲17 信息的度量,熵
62B10型 信息论主题的统计学方面
62G05型 非参数估计
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Sun,J。;泰勒,D。;Bolt,E.M.,SIAM J.应用。动态。系统。,14, 73, (2015) ·Zbl 1376.37123号 ·数字对象标识代码:10.1137/140956166
[2] Lord,W.M。;Sun,J。;新墨西哥州瓦莱特。;博尔特,E.M.,IEEE Trans。分子,生物。多尺度公共。,2, 107, (2016) ·doi:10.1109/TMBMC.2016.2632099
[3] 斯托维尔,D。;Plumbley,M.D.,IEEE信号处理。莱特。,16, 537, (2009) ·doi:10.1109/LSP.2009.2017346
[4] Darbellay,G.A。;瓦伊达,I.,IEEE Trans。信息理论,45, 1315, (1999) ·Zbl 0957.94006号 ·doi:10.1109/18.761290
[5] 贝兰特,J。;杜德维茨,E.J。;Györfi,L。;Van der Meulen,E.C.,国际数学杂志。统计科学。,6, 17, (1997) ·Zbl 0882.62003号
[6] Joe,H.、Ann.Inst.Stat.Math.、。,41, 683, (1989) ·Zbl 0698.62042号 ·doi:10.1007/BF00057735
[7] Kozachenko,L。;Leonenko,N.N.,问题。Peredachi公司。,23, 9, (1987)
[8] 克拉斯科夫,A。;Stögbauer,H。;格拉斯伯格,P.,Phys。版次E,69, 066138, (2004) ·doi:10.1103/PhysRevE.69.066138
[9] 卡尔萨维里尼,R.S。;Vicente,R.,欧洲。莱特。,88, 68003, (2009) ·doi:10.1209/0295-5075/88/68003
[10] Giraudo,M.T。;Sacerdote,L。;Sirovich,R.,熵,15, 5154, (2013) ·Zbl 1338.62083号 ·doi:10.3390/e15125154
[11] 辛格,H。;Misra,N。;Hnizdo,V。;Fedorowicz,A。;Demchuk,E.,Am.J.数学。管理。科学。,23, 301, (2003) ·doi:10.1080/01966324.2003.10737616
[12] 高,W。;哦,S。;维斯瓦纳特,P.,1267-1271,(2017)
[13] Ott,E.,动力系统中的混沌,(2002),剑桥大学出版社·兹比尔1006.37001
[14] Golub,G.H。;Van Loan,C.F.,矩阵计算,3,(2012),JHU出版社
[15] 朱,J。;J.-J.贝朗格。;Shu,H。;杨,C。;Jeannès,R.L.B.,《物理学》。版次E,90, 052714, (2014) ·doi:10.1003/PhysRevE.90.052114
[16] 沃兹尼亚克,P。;Kruszewski,A.,《天文学报》。,62, 409, (2012)
[17] 高,S。;Ver Steeg,G。;加尔斯蒂安,A.,277-286,(2015)
[18] 克鲁兹,T。;Mormann,F。;Andrzejak,R.G。;Kraskov,A。;Lehnertz,K。;Grassberger,P.,Physica D,225, 29, (2007) ·Zbl 1114.37052号 ·doi:10.1016/j.physd.2006.09.039
[19] 马哈拉诺比斯,P.C.,Proc。国家。科学研究所。印度,1936, 49 ·Zbl 0015.03302号
[20] 安科斯特,M。;Breunig,M.M。;Kriegel,H.-P。;Sander,J.,ACM Sigmod Record,28,49-60,(1999),ACM
[21] 格拉本,P.B。;Sellers,K.K。;Fröhlich,F。;赫特,A.,Europhys。莱特。,114, 38003, (2016) ·doi:10.1209/0295-5075/114/38003
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。