×

相依随机变量部分联合典型序列集合中包含的最大矩形子集。 (英语) Zbl 0547.94003号

作者考虑一个由两个独立信号发生器组成的系统。生成器1从(mathcal u^n)的子集(a)中等概率地选择并发射信号,生成器2从(mathcal v^n)子集(B)中等几率地选择并发送信号。要求对于任何一个信号对中的(u,v)的相对频率都足够接近规定的联合概率(p_{UV}(u,v)),其中,(u)和(v)是一些相关的随机变量,其值分别为(u)和(v)。如何构造足够大的子集(A)和(B)?此外,在多大程度上可以扩大这些子集?粗略地说,这个问题相当于找到一对随机变量U和V的联合典型序列集中包含的最大矩形子集。一对非负数((R_1,R_2)被称为(U,V)的可实现速率,如果对任意一个(epsilon>0)、(eta>0),(0<lambda<1)和足够大的(n_geqn_0(epsilen,eta,lambda),)存在子集(A_subset,mathcal U}^n)和子集(B_subseta_mathcal V}^n R_1-\eta,\quad(1/n)\log|B|\geq R_2-\eta\)和\(|(A\times B)\cap T^n_{\epsilon}(UV)|\geg(1-\lambda)|A|\cdot|B|,\),其中\(T^n_{\epsion}(紫外线)\)是联合\(epsilon\)-典型序列的集合。所有可实现速率的集合称为可实现速率区域,用\({\mathcal R}(UV)表示。\)
定理:({\mathcal R}(UV)=\cup_{Q\ in{\mathcal P}Q R_ 2 \leq H(V | Q))。Q范围的基数\(\|Q\|\)可以被限定为\(\| Q\|\leq\|U\|\cdot\|V\|+1.)
这个定理不仅与Wyner的公共信息概念有着深刻的联系,而且为证明I.Csiszar、J.Körner和K.Marton的熵表征问题的一个子类提供了一种最简单的初等方法。特别地,在(U,V)是二进制对称源的情况下,建立了可实现速率区域的显式解析形式。这些结果被推广到一个具有两个以上随机变量的更一般的系统,其中引入了部分联合典型序列的新概念,以证明本文所采用的技术的威力以及类似的好结果,在本文摘要中省略了对其的描述,因为它需要一个复杂的符号。然而,读者可以找到几个清晰的示例来帮助理解这个通用系统的一些本质上的新特性。

MSC公司:

94甲15 信息论(总论)
94甲17 信息的度量,熵

软件:

泰皮卡尔
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Csiszár,I。;Körner,J.,信息理论:离散无记忆系统的编码定理(1981),纽约:学术出版社,纽约·Zbl 0568.94012号
[2] Han,T.S。;Kobayashi,K.,通用类多端信源编码系统的统一可实现速率区域,IEEE Trans。Inf.理论,26,3,277-288(1980)·Zbl 0441.94009号 ·doi:10.1109/TIT.1980.1056192
[3] Eggleston,H.G.,《凸性》(1963),英国剑桥:英国剑桥大学出版社·Zbl 0086.15302号
[4] Wyner,A.D.,《两个相依随机变量的共同信息》,IEEE Trans。Inf.理论,21163-179(1975)·Zbl 0299.94014号 ·doi:10.1109/TIT.1975.1055346
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。