话题
搜索

Rényi熵


Rényi熵定义为:

 H_α(p_1,p_2,…,p_n)=1/(1-α)ln(总和_(i=1)^np_i^α),

哪里alpha>0,阿尔法=1.

作为α->1,H_α(p_1,p_2,…,p_n)收敛到H(p_1,p_2,…,p_n),这是香农的熵度量。

Rényi测度满足

 H_α(p_1,p_2,…,p_n)<=H_(α^')

对于α<=α^'.


另请参见

此条目由贡献那拉扬巴米迪帕蒂

与Wolfram一起探索| Alpha

工具书类

Karmeshu,J.(编辑)。熵测度、最大熵原理和新兴应用。纽约:Springer-Verlag,2003年。Rényi,A.“关于熵的度量和信息。"程序。伯克利第四交响乐团。数学。统计和概率,第1卷。加州伯克利:加利福尼亚大学出版社,第547-561页,1961

参考Wolfram | Alpha

Rényi熵

引用如下:

巴米迪帕蒂,纳拉扬·L·。“Rényi熵”摘自数学世界--Wolfram Web资源,已创建通过埃里克·韦斯特因.https://mathworld.wolfram.com/RenyiEntropy.html

主题分类