×

多数化、Csiszár分歧和Zipf-Mandelbrot定律。 (英语) Zbl 1369.94404号

小结:在本文中,我们展示了香农熵是如何与控制论相联系的。它们都与系统的无序程度有关。然而,支配理论通常给出比熵不等式更强的准则。利用Csiszár(f\)-散度给出了多数化不等式的一些推广结果。将这种散度应用于一些特殊的凸函数,减少了Shannon熵形式的控制不等式和Kullback-Leibler散度的结果。我们使用Zipf-Mandelbrot定律给出了几个应用。

MSC公司:

94甲15 信息论(总论)
94甲17 信息的度量,熵
26页51 一元实函数的凸性,推广
第26天15 和、级数和积分不等式
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Boltzmann,L:Ubber die Beziehung zwischen dem Hauptsatze der mechanische Warmetheorie und der Wahrscheinlicjkeitsrechnung repective den Satzen uber das Warmeglichgewicht.(左波尔兹曼)。维恩。Ber.公司。自然科学。Kunst昆斯特76,373-435(1877)
[2] Akaike,H:预测与熵。施普林格,纽约(1985)·Zbl 0576.62009号
[3] 香农,CE:传播数学理论。贝尔系统。《技术期刊》27、379-423和623-656(1948)·Zbl 1154.94303号 ·doi:10.1002/j.1538-7305.1948.tb01338.x
[4] Kullback,S,Leibler,RA:关于信息和充分性。安。数学。《美国联邦法律大全》第22(1)卷,第79-86页(1951年)·Zbl 0042.38403号 ·doi:10.1214/aoms/1177729694
[5] 马蒂奇,M。;CEM皮尔斯;佩查里奇,J。;Rassias,TM(编辑),信息论中的Shannon不等式和相关不等式,127-164(2000),Norwell·Zbl 1031.94004号
[6] Mitrinović,DS,Pečarić,J,Fink,AM:分析中的经典不等式和新不等式。Kluwer Academic,多德雷赫特(1993)·Zbl 0771.26009号 ·doi:10.1007/978-94-017-1043-5
[7] RJ McEliece:信息与编码理论。艾迪森·韦斯利,雷丁(1977)·Zbl 0376.94011号
[8] Matić,M,Pearce,CEM,Pečarić,J:信息论中熵测度的一些界的改进。数学。不平等。申请。1, 295-304 (1998) ·Zbl 0898.94005号
[9] Matić,M,Pearce,CEM,Pečarić,J:关于概率分布熵的不等式。数学学报。挂。85, 345-349 (1999) ·兹比尔0958.28015 ·doi:10.1023/A:1006711805568
[10] Matić,M,Pearce,CEM,Pečarić,J:Shannon不等式的一些改进。《ANZIAM J.43,493-511》(2002年)·Zbl 1007.94009号
[11] Pećarić,J,Proschan,F,Tong,YL:凸函数,偏序和统计应用。纽约学术出版社(1992)·Zbl 0749.26004号
[12] Marshall,AW,Olkin,I,Arnold,BC:不等式:多数化理论及其应用,第二版。统计学中的斯普林格系列。施普林格,纽约(2011)·Zbl 1219.26003号 ·doi:10.1007/978-0-387-68276-1
[13] Fuchs,L:Hardy-Littlewood-Polya不等式的新证明。数学。蒂德斯克,53-54(1947)·Zbl 0030.02703号
[14] 尼古列斯库,CP,佩尔松,LE:凸函数及其应用,当代方法。CMS数学书籍,第23卷。施普林格,纽约(2006)·Zbl 1100.26002号 ·doi:10.1007/0-387-31077-0
[15] Csiszár,I:概率分布差异和间接观测的信息型度量。科学研究所。数学。挂。2, 299-318 (1967) ·Zbl 0157.25802号
[16] Csiszár,I.,《信息测量:批判性调查》,73-86(1978),布拉格·Zbl 0401.94010号
[17] Horváth,L,Pečarić,Ð,Pećari nch,J:通过使用Jensen不等式的循环细化来估计f和Rényi发散。牛市。马来人。数学。科学。Soc.(2017)。doi:10.1007/s40840-017-0526-4·Zbl 1428.26040号 ·doi:10.1007/s40840-017-0526-4
[18] 阿迪尔·汗,M,佩查里奇,Ð,佩查里奇,J:香农熵和齐普夫·曼德尔布罗特熵的界限。数学。方法应用。科学。出现·Zbl 1381.26027号
[19] Silagadze,ZK:引文和Zipf-Mandelbrot定律。复杂系统。11, 487-499 (1997) ·Zbl 0956.68541号
[20] 李,W:随机文本呈现出齐普夫定律的词频分布。IEEE传输。《信息论》38(6),1842-1845(1992)·数字对象标识代码:10.1109/18.165464
[21] 乔治亚州米勒:语言与沟通。麦克劳·希尔,纽约(1951年)·doi:10.1037/11135-000
[22] Diodato,V:文献计量学词典。哈沃斯出版社,纽约(1994)
[23] Egghe,L,Rousseau,R:信息计量学导论。图书馆、文献和信息科学中的定量方法。Elsevier,纽约(1990)
[24] MEJ纽曼:幂律、帕累托分布和齐普夫定律。arXiv:cond-mat/0412004
[25] 曼德尔布罗特,B。;Lazafeld,P.(编辑);Henry,N.(编辑),《信息理论和心理语言学:词频理论》(1966年),剑桥
[26] 蒙特默罗,马萨诸塞州:《数量语言学中超越Zipf-Mandelbrot定律》(2001年)。arXiv:cond-mat/0104066v2·Zbl 0978.68126号
[27] Mouillot,D,Leprete,A:引入相对丰度分布(RAD)指数,根据等级频率图(RFD)估算,以评估群落多样性的变化。环境。莫尼特。评估。63(2), 279-295 (2000) ·doi:10.1023/A:1006297211561
[28] 布尔加斯,CJC;摇晃,T。;伦肖,E。;Lazier,A。;契约,M。;北卡罗来纳州汉密尔顿。;Hallender,G.,《学习使用梯度下降法排名》,89-96(2005)
[29] 曹,Z。;秦,T。;刘,TY;蔡,MF;李浩,《学习排名:从成对方法到列表方法》,129-136(2007)
[30] Jaochims,T.,多变量绩效评估的支持向量方法,377-384(2005)
[31] 夏,F。;刘,TY;Wang,J。;张伟。;Li,H.,Listwise学习排名理论和算法的方法,1192-1199(2008)
[32] Rennie,J。;Srebro,N.,协作预测的快速最大裕度矩阵分解,713-719(2005)
[33] Herbrich,R,Minka,TP,Graepel,T:TrueSkillTM:贝叶斯技能评级系统。高级神经信息处理。系统。19, 569-576 (2007)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。