×

ε-熵和二次Rényi熵的统计推断。 (英语) Zbl 1193.94046号

摘要:熵及其各种推广广泛应用于数理统计、通信理论、物理和计算机科学中,用于表征概率分布中的信息量。我们考虑了二次Rényi熵的估计量以及离散和连续概率分布的一些相关特征,这些特征是基于相应独立和同分布样本中重合(或\(ε\)-接近)向量观测的数量。我们证明了这些估计量的一些渐近性质(例如,相合性和渐近正态性)。这些估计量可以用于数理统计和计算机科学中的各种问题(例如,分布识别问题、随机数据库的平均案例分析、生物信息学中的近似模式匹配、密码学)。

MSC公司:

94甲15 信息论(总论)
6220国集团 非参数推理的渐近性质
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 尤·巴里什尼科夫。;彭罗斯,M。;Yukich,J.E.,广义间距的高斯极限,Ann.Appl。可能性。,19, 158-185 (2009) ·Zbl 1159.60315号
[2] 贝兰特,J。;杜德维茨,E.J。;Gyorfi,L。;van der Meulen,E.C.,非参数熵估计:综述,国际。数学杂志。统计师。科学。,6, 17-39 (1997) ·Zbl 0882.62003号
[3] Bennett,Ch.H。;布拉萨尔,G。;克雷珀,C。;Maurer,U.M.,《广义隐私放大》,IEEE Trans。通知。理论,411915-1923(1995)·Zbl 0856.94018号
[4] Bickel,P.J。;Ritov,Y.,《估计积分平方密度导数:收敛估计的尖锐最佳阶》,Sankhya Ser。A、 50381-393(1988年)·Zbl 0676.62037号
[5] Dereich,S.,高斯测度随机中心周围的小球概率及其在量化中的应用,J.Theoret。可能性。,16, 427-449 (2003) ·Zbl 1031.60003号
[6] Evans,D。;琼斯,A.J。;Schmidt,W.M.,《最近邻密度估计的渐近矩》,Proc。R.Soc.伦敦。序列号。A、 数学。物理学。工程科学。,458, 2839-2849 (2002) ·兹比尔1054.60010
[7] 吉内,E。;Nickl,R.,密度积分平方的简单自适应估计器,伯努利,14,47-61(2008)·Zbl 1155.62025号
[8] 海德,C.C。;Leonenko,N.N.,学生流程,高级应用程序。可能性。,37, 342-365 (2005) ·Zbl 1081.60035号
[9] Jammalamadaka,S.R。;Janson,S.,(U)-统计量三角格式的极限定理及其在点间距中的应用,Ann.Probab。,14, 1347-1358 (1986) ·Zbl 0604.60023号
[10] 吉梅内斯,R。;Yukich,J.E.,《基于Voronoi细分的统计距离的渐近性》,J.Theoret。可能性。,15, 503-541 (2002) ·Zbl 1011.62021号
[11] O.约翰逊。;Vignat,Ch.,关于最大Rényi熵分布的一些结果,Ann.Inst.H.PoincaréProbab。统计人员。,43, 339-351 (2007) ·Zbl 1135.94317号
[12] Kapur,J.N.,《科学与工程中的最大熵模型》(1989),威利:威利纽约·Zbl 0746.00014号
[13] 卡普尔,J.N。;香港凯萨文,《熵优化原理及其应用》(1992),学术出版社:纽约学术出版社·Zbl 0718.62007号
[14] 科尔莫戈罗夫,A.N.,《信息传输理论》,美国。数学。Soc.翻译服务。2, 33, 291-321 (1963) ·Zbl 0141.16801号
[15] Kolmogorov,A.N.,关于完全有界度量空间的某些渐近特征,Dokl。阿卡德。瑙克SSSR,108,385-388(1956年),(俄语)·Zbl 0070.11501号
[16] 科罗尔朱克,V.S。;Yu Borovskich。V.,《(U)统计学理论》(1994),Kluwer:Kluwer London·Zbl 0785.60015号
[17] Kozachenko,L.F。;Leonenko,N.N.,《关于随机向量熵的统计估计》,《问题信息》。传输。,23, 95-101 (1987) ·Zbl 0633.62005号
[18] Kuelbs,J。;Li,W.V.,度量熵和高斯测度的小球问题,J.Funct。分析。,116, 133-157 (1993) ·兹比尔0799.46053
[19] Learnd-Miller,E。;Fisher,J.,ICA使用熵的间距估计,J.Mach。学习。第4号决议,1271-1295(2003年)·Zbl 1061.62007年
[20] Lee,A.J.,(U)-《统计学:理论与实践》(1990),马塞尔·德克尔:马塞尔·戴克尔纽约·Zbl 0771.62001号
[21] Leonenko,N。;Pronzato,L。;Savani,V.,多维密度的一类Rényi信息估计,Ann.Statist。,36, 2153-2182 (2008) ·Zbl 1205.94053号
[22] 刘振杰。;Rao,C.R.,基于二次熵和自举的统计的渐近分布,J.Stat.Plan。推理,43,1-18(1995)·Zbl 0812.62016号
[23] Luczak,T。;Szpankowski,W.,基于近似模式匹配的次优有损数据压缩,IEEE Trans。通知。理论,41,1439-1451(1997)·Zbl 0953.94012号
[24] 波斯纳,E.C。;罗德米奇,E.E。;Rumsey,H.,高斯过程的ε熵,《数学年鉴》。《统计》,第40卷,第1272-1296页(1969年)·Zbl 0192.55903号
[25] 于普罗霍洛夫。五、。;于罗扎诺夫。A.,概率论(1969),施普林格:施普林格纽约·Zbl 0186.49701号
[26] Ranneby,B。;Jammalamadaka,S.R。;Teterukovskiy,A.,《多元观测的最大间距估计》,J.Stat.Plan。推理,129427-446(2005)·Zbl 1087.62004号
[27] C·雷蒙德。;Yukich,J.E.,具有幂加权边的欧几里德泛函的渐近性,随机过程。申请。,61289-304(1996年)·Zbl 0849.60030号
[28] Rényi,A.,《关于熵和信息的测量》,(第四届伯克利数学与统计研讨会,第一卷(1961年),加州大学出版社:加州大学出版社伯克利分校),547-561·Zbl 0106.33001号
[29] Rényi,A.,《概率论》(1970),北伦敦:北伦敦·Zbl 0206.18002号
[30] 塞莱兹涅夫,O。;Thalheim,B.,数据库问题中的平均案例分析,Methodol。计算。申请。可能性。,5, 395-418 (2003) ·Zbl 1045.62124号
[31] 塞莱兹涅夫,O。;Thalheim,B.,具有近似记录匹配的随机数据库,Methodol。计算。申请。普罗巴伯。(2008年),(或印刷品12(2010年)63-89)·Zbl 1182.62010年
[32] Serfling,R.J.,《数理统计的逼近定理》(2002),威利出版社,纽约·Zbl 1001.62005号
[33] Shannon,C.E.,《通信数学理论》,贝尔系统。《技术期刊》,27,379-423(1948),623-656·兹比尔1154.94303
[34] 西尔弗曼,B。;Brown,T.,《短距离、平面三角形和泊松极限》,J.Appl。可能性。,15, 815-825 (1978) ·Zbl 0396.60029号
[35] Szpankowski,W.,序列算法的平均案例分析(2001),威利:威利纽约·Zbl 0969.00028号
[36] Thalheim,B.,《实体关系建模》。《数据库技术基础》(2000年),柏林施普林格出版社·Zbl 0976.68046号
[37] Tsallis,C.,Boltzmann-Gibbs统计的可能推广,J.Stat.Phys。,52, 479-487 (1988) ·兹比尔1082.82501
[38] Tsybakov,A.B。;Van der Meulen,E.C.,无界支持下密度熵的根一致估计,Scand。统计学杂志。,23, 75-83 (1996) ·Zbl 0866.62004号
[39] 瓦图丁,V.A。;Michailov,V.G.,具有大量结果的离散随机变量熵的统计估计,Uspeh。数学。瑙克,50,121-134(1995),(俄语)·Zbl 0851.62009号
[40] Zografos,K.,关于皮尔逊II型和VII型多变量分布的最大熵表征,J.multivariate Anal。,71, 67-75 (1999) ·兹比尔0951.62040
[41] Zografos,K.,《论Mardia和Song对椭圆分布峰度的测量》,《多元分析杂志》。,99, 858-879 (2008) ·Zbl 1133.62329号
[42] Zografos,K。;Nadarajah,S.,多元分布的Rényi和Shannon熵表达式,统计学。普罗巴伯。莱特。,71, 71-84 (2005) ·Zbl 1058.62008号
[43] Zyczkowski,K.,香农熵的Rényi外推,开放系统。Inf.Dyn.公司。,10, 297-310 (2003) ·Zbl 1030.94022号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。