大卫·J·C·麦凯。 信息理论、推理和学习算法。 （英语） Zbl 1055.94001号 剑桥：剑桥大学出版社（ISBN 0-521-64298-1/hbk）。xii，628页。(2003). 本教材面向工程、科学、数学和计算机科学的高水平本科生和研究生。学生使用本书的先决条件是具备良好的微积分、概率论和线性代数的实用知识。这本教科书不仅仅是任何关于信息理论的教科书。除了信息论传统课程中涵盖的常见主题（香农理论、通信问题的实用解决方案等）外，本文还介绍了贝叶斯数据建模、蒙特卡罗方法、变分方法、聚类算法和神经网络。作者认为信息理论和机器学习是一个有机的整体。他通过不断地展示看似无关的话题之间的联系，成功地说服了读者的这种观点。正如鲍勃·麦克利埃塞（Bob McEliece）所说，“一本经典的速成书……你会想要两本这本令人惊叹的书，一本放在办公室，一本在家里的壁炉边。”在一些介绍性章节之后，作者转向数据压缩，研究源代码定理、符号和流代码以及整数代码。噪声信道编码是下一个感兴趣的主题，其中包括对相关随机变量及其与通信的关系的详细讨论。信息理论中的其他主题，如散列码、二进制码和消息传递，也包括在内。学生们当然不想错过第19章，题为“为什么性爱？”第四部分讨论概率和推理，使用精确方法、确定性近似和蒙特卡罗方法解决信息论中的各种问题（解码、从数据推断簇、通过噪声数据插值、对给定标记示例的模式进行分类）。这为第五部分的神经网络奠定了基础。作者提出了一些来自简单学习算法的基本模型，以激发读者对进一步独立阅读的兴趣。包括Hopfield网络、Boltzmann机器和多层网络。本部分最后讨论了图像去噪。最后一部分处理稀疏图代码。读者将了解以下用于纠错的代码：LDPC（或Gallager）、卷积、turbo、重复累加，以及用于擦除纠错的数字喷泉代码。在对这些代码进行了讨论后，作者得出结论，解决通信问题的最佳方法是“将简单的伪随机代码与消息传递解码器结合起来”。在书的末尾可以找到关于符号、一些物理（即相变）和一些数学（有限场、特征向量和微扰理论的简要回顾）的附录。审核人：凯瑟琳·罗格纳（柏林） 引用于1审查引用于389文件 MSC公司： 94年1月 关于信息与传播理论的介绍性说明（教科书、教程论文等） 62英尺10英寸 点估计 62H30型 分类和区分；聚类分析（统计方面） 6800万 计算机系统组织 68页30 编码和信息理论（压缩、压缩、通信模型、编码方案等）（计算机科学方面） 软件：低密度聚乙烯 PDF格式BibTeX公司 XML格式引用 \textit{D.J.C.MacKay}，信息理论，推理和学习算法。剑桥：剑桥大学出版社（2003；Zbl 1055.94001）