物理学。Rev.E 69，066138（2004）-估算相互信息

免费阅读

估计相互信息

亚历山大·克拉斯科夫（Alexander Kraskov）、哈拉尔德·施特鲍尔（Harald Stögbauer）和彼得·格拉斯伯格（Peter Grassberger）

物理学。版本E69，066138–2004年6月23日出版；勘误表物理学。版本E83, 019903 (2011)

收藏中的一篇文章：PRE里程碑和物理审查E25周年纪念里程碑

摘要

我们提出了两类改进的互信息估计 $米 (X（X）, Y（Y）)$ ，根据联合概率密度分布的随机点样本 $μ (x个, 年)$ 。与基于binnings的传统估计不同，它们基于来自 $k个$ -最近邻距离。这意味着它们具有数据效率（ $k个 = 1$ 我们将结构分解到尽可能小的尺度）、自适应（在数据较多的地方分辨率较高）和最小偏差。事实上，潜在熵估计值的偏差主要是由于最小分辨率下密度的不均匀性，给出了典型的系统误差，该误差随 $k个 ∕ N个$ 对于 $N个$ 点。从数值上看，我们发现这两个家族准确的对于独立分布，即估计量 $\hat{米} (X（X）, Y（Y）)$ 消失（直至统计波动），如果 $μ (x个, 年) = μ (x个) μ (年)$ 这适用于所有测试的边际分布和 $x个$ 和 $年$ 此外，我们给出了两个以上随机变量之间冗余的估计。我们将我们的算法与现有算法进行了详细的比较。最后，我们证明了我们的估计器在评估从独立分量分析（ICA）获得的分量的实际独立性、改进ICA以及估计盲源分离的可靠性方面的有用性。

13更多

收到日期：2003年5月28日

内政部：https://doi.org/10.103/PhysRevE.69.066138

勘误表

勘误表：估计相互信息[Phys.Rev.E69, 066138 (2004)]

亚历山大·克拉斯科夫（Alexander Kraskov）、哈拉尔德·施特鲍尔（Harald Stögbauer）和彼得·格拉斯伯格（Peter Grassberger）

物理学。版本E83，019903（2011）

本文出现在以下集合中：

PRE里程碑

物理审查E2015年9月发表了第50000篇论文。为了庆祝这一点，该杂志推出了自1993年创办以来发表的一系列里程碑式论文。这是一个折衷的论文集，对编辑选择的领域做出了重大贡献。每周将添加一个新的里程碑。

物理审查E25周年纪念里程碑

2018年是物理审查E为了庆祝该杂志的丰富遗产，在接下来的一年里，我们重点介绍了一系列对其领域做出重要贡献的论文。这些里程碑式的文章由物理审查E与杂志编辑合作。这25篇里程碑式的文章，包括1993年至2017年每个日历年的一篇文章，涵盖该杂志的所有主要主题领域，将按时间顺序公布，并将在该杂志网站上发布。