×

最大熵原理。 (英语) Zbl 0563.94008号

作者指出,“最大熵原理”可以看作是一个变分原理,它在统计力学、决策理论、模式识别和时间序列分析中都有应用。他们解释这一原理如下:从所有概率分布的集合(例如,系统的可能微观状态)与一个或多个随机变量的一个或几个平均值兼容(例如,宏观能量,即与每个微观状态相关的随机变量能量的平均值),选择最大化香农熵的能量。特别是,在给定均值的离散随机变量的情况下,给出了最大熵原理与Gibbs(正则)分布和Laplace的不充分理由原理的联系。
审核人:W.桑德

MSC公司:

94甲17 信息的度量,熵
62B10型 信息理论主题的统计方面
49J99型 变分法中的存在性理论与最优控制
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Boltzmann,L.,Vorlesungenüber Gastotherie(1896),莱比锡:J.A.Barth,莱比西
[2] Born,M.,原子物理学。(第8版)(1969年),伦敦-格拉斯哥:Blakie&Son有限公司,伦敦-格拉斯哥
[3] 坎贝尔,L.L.,高斯原理的等价性和概率的最小判别信息估计,《数学年鉴》。统计人员。,41, 1011-1015 (1970) ·Zbl 0198.23501号 ·doi:10.1214/aoms/1177696977
[4] Gibbs,J.W.,《统计力学的基本原理,特别参考热力学的理性基础》(1902年),康涅狄格州纽黑文:耶鲁大学出版社·doi:10.5962/bhl.title.32624
[5] Guiašu,S.,《信息理论与应用》(1977年),纽约-隆登·杜塞尔多夫:麦格劳-希尔,纽约-隆登·杜塞尔多夫·Zbl 0379.94027号
[6] 圭亚那州立大学。;Ky,T.Nguyen,关于模式识别的熵算法的平均长度,《组合数学、信息与系统科学杂志》,7203-211(1982)·Zbl 0549.68086号
[7] 圭亚那州立大学。;勒布朗,R。;Reischer,C.,《最小相互依赖原则》,《信息与优化科学杂志》,3149-172(1982)·Zbl 0497.60016号 ·网址:10.1080/02522667.1982.10698726
[8] Jaynes,E.T.,信息理论和统计力学,物理学。修订版,106,620-630(1957)·Zbl 0084.43701号 ·doi:10.1103/PhysRev.106.620
[9] Khinchin,A.I.,《信息理论的数学基础》(1957),纽约:多佛出版社,纽约·兹伯利0088.10404
[10] Kullback,S.,《信息理论与统计》(1959年),纽约:Wiley出版社。伦敦:查普曼和霍尔,纽约:威利。伦敦·Zbl 0088.10406号
[11] Parzen,E.,自回归谱密度的最大熵解释,统计学与概率字母,1,7-11(1982)·Zbl 0502.62080号
[12] Shannon,C.E.,《沟通的数学理论》。贝尔系统,技术期刊,27379-423(1948)·Zbl 1154.94303号
[13] Watanabe,S.,《知道与猜测》(1969),纽约:威利出版社,纽约·Zbl 0206.20901号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。