×

关于具有无穷余熵的隐马尔可夫过程。 (英语) Zbl 1296.60187号

作者考虑了离散平稳隐马尔可夫过程,对于该过程,过去和未来之间的互信息(用过剩熵衡量)是无限的。假设可观测状态的数目是有限的,而隐藏状态的数目则是可数无穷的。作者证明,在这些条件下,隐马尔可夫过程的块互信息是由隐状态分布的尾部指数决定的幂律上界的。考虑了三个过程示例。前两个示例是非正则的,块之间的互信息以块长度的对数为界(在第一个示例中),并遵守幂律(在第二个示例中,)。第三个例子是遍历的,具有互信息的幂律。

理学硕士:

60J10型 马尔可夫链(离散状态空间上的离散时间马尔可夫过程)
94甲17 信息的度量,熵
37A25型 遍历性、混合、混合速率
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bialek,W.,Nemenman,I.,Tishby,N.:通过非外延实现复杂性。物理学。A 302,89-99(2001)·Zbl 0979.37042号 ·doi:10.1016/S0378-4371(01)00444-7
[2] Blackwell,D.:有限状态马尔可夫链函数的熵。收录于:《第一届布拉格信息理论会议汇刊,统计决策函数,随机过程》,第13-20页。捷克斯洛伐克科学院,布拉格(1956年)·Zbl 1080.94006号
[3] Bradley,R.C.:关于强混合和弱伯努利条件。Z.Wahrsch公司。版本。盖布。50, 49-54 (1980) ·Zbl 0396.60038号 ·doi:10.1007/BF00533816
[4] Bułatek,W.,Kamiñski,B.:关于平稳随机场的超额熵。普罗巴伯。数学。《统计》第29卷,第353-367页(2009年)·兹比尔1187.94016
[5] Crutchfield,J.P.,Feldman,D.P.:观察到的不可见随机性规则:熵收敛层次。《混沌》第15期、第25-54期(2003年)·Zbl 1080.94006号 ·数字对象标识代码:10.1063/1.1530990
[6] Crutchfield,J.P.,Young,K.:推断统计复杂性。物理学。修订稿。63, 105-108 (1989) ·doi:10.1103/PhysRevLett.63.105
[7] de Marcken,C.G.:无监督语言习得。马萨诸塞理工学院博士论文(1996年)·Zbl 0396.60038号
[8] Dębowski,Ł.:条件信息的一般定义及其在遍历分解中的应用。统计概率。莱特。79, 1260-1268 (2009) ·Zbl 1162.94326号 ·doi:10.1016/j.spl.2009.01.016
[9] Dębowski,Ł.:双边渐近平均平稳测度的变长编码。J.西奥。普罗巴伯。23, 237-256 (2010) ·Zbl 1193.60050号 ·doi:10.1007/s10959-009-0264-0
[10] Dębowski,Ł.:基于语法代码的词汇和文本的逻辑一致性。IEEE传输。通知。理论574589-4599(2011)·Zbl 1365.68430号 ·doi:10.1109/TIT.2011.2145170
[11] Dębowski,Ł.:自然语言中的过度熵:现状与展望。《混沌》21,037105(2011)·Zbl 1317.68243号 ·数字对象标识代码:10.1063/1.3630929
[12] Dębowski,Ł.:块之间信息快速增长的混合、遍历和非遍历过程。IEEE传输。通知。理论58,3392-3401(2012)·Zbl 1365.37006号 ·doi:10.1109/TIT.2012.2190708
[13] Ebeling,W.:用LRO预测非线性动力系统和符号序列的熵。物理学。D 109,42-45(1997)·兹伯利0925.58087 ·doi:10.1016/S0167-2789(97)00157-7
[14] Ebeling,W.,Pöschel,T.:文学英语中的熵和长期相关性。欧罗普提斯。莱特。26, 241-246 (1994) ·doi:10.1209/0295-5075/26/4/001
[15] Ellison,C.J.、Mahoney,J.R.、Crutchfield,J.P.:预测、追溯和当前存储的信息量。《统计物理学杂志》。136, 1005-1034 (2009) ·Zbl 1177.82054号 ·doi:10.1007/s10955-009-9808-z
[16] Ephraim,Y.,Merhav,N.:隐马尔可夫过程。IEEE传输。通知。理论481518-1569(2002)·Zbl 1061.94560号 ·doi:10.1109/TIT.2002.1003838
[17] Feldman,D.P.,Crutchfield,J.P.:二维模式中的结构信息:熵收敛和过剩熵。物理学。版本E 67,051104(2003)·doi:10.1103/PhysRevE.67.051104
[18] 芬奇,P.D.:关于自回归和移动平均模型的协方差行列式。生物特征47,194-211(1960)·Zbl 0092.36902号 ·doi:10.1093/biomet/47.1-2.194
[19] Gramss,T.:临界圆映射符号序列的熵。物理学。版本E 502616-2620(1994)·Zbl 1062.37505号 ·doi:10.103/物理版本E.50.2616
[20] Grenander,U.,Szegő,G.:Toeplitz形式及其应用。加州大学伯克利分校出版社(1958)·Zbl 0080.09501号
[21] Herdan,G.:数量语言学。巴特沃斯,伦敦(1964年)·Zbl 0143.20905号
[22] Hilberg,W.:Shannonschen实验的文本解释中的冗余苯并菲信息?频率44243-248(1990)·doi:10.1515/FREQ.19044.9-10.243
[23] Löhr,W.:统计复杂性泛函HMM和部分确定性HMM的特性。熵11,385-401(2009)·Zbl 1179.82099号 ·doi:10.3390/e110300385
[24] Mahoney,J.R.、Ellison,C.J.、Crutchfield,J.P.:信息可访问性和神秘过程。《物理学杂志》。A 42362002(2009年)·Zbl 1177.94162号 ·doi:10.1088/1751-8113/42/36/362002
[25] Shalizi,C.R.,Crutchfield,J.P.:计算力学:模式与预测,结构与简单性。《统计物理学杂志》。104, 819-881 (2001) ·Zbl 1100.82500元 ·doi:10.1023/A:1010388907793
[26] Travers,N.F.,Crutchfield,J.P.:具有可数状态发生器的无穷多熵过程。http://arxiv.org/abs/1111.3393v1 (2011). 2011年11月14日访问
[27] 杨荣文:信息理论第一课程。Kluwer,纽约(2002)·doi:10.1007/978-1-4419-8608-5
[28] 齐普夫,G.K.:《语言的心理生物学:动态语言学导论》。霍顿·米夫林(Houghton Mifflin),波士顿(1935)
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。