×
Khinchin，A.Ya。

概率论中熵的概念。（Wahrscheinlichkeitsrechnung的Der Begriff Der Entropie） （俄语） Zbl 0050.35404号

乌斯普。Mat.Nauk公司 8，第3号（55），3-20（1953）.
版本。dieser Arbeit的学生，die zum Teil referereden Charakter tragt，den Entropie-Begriffür diskrete（geräuschfreie）Kommunikationssysteme。Das Schwergewicht liegt hierbei auf den（hier wohl erstmalig strong durchgeführten）mathematischen Beweisen einiger原教旨主义者Eigenschaften der Entropie。软件工程研究所\[p_i\geq 0，\quad\sum_{i=1}^n p_i=1。\标记{1}\]Als Entropie der dadurch definitierten diskreten Wahrscheinlichkeitsverteilung（A）bezeichnet man公司\[H（p_1，\ldots，p_n）=H（A）=-\sum_{k=1}^n p_k\log p_k.\tag{2}\]【Für eine（allerdings nicht allen Anforderungen des Mathematikers genügende）zusammenfassende Kommunikation理论–auch in allgemeineren Fällen–und die Bedeutung der Entropie vgl.manC.E.香农[贝尔系统技术杂志27，379–423，623–656（1948；Zbl 1154.94303号)]. Dort sind auch alle Sätze der hier referenten Arbeit zu finden.]
Durch \（A，B）seien zwei zunächst voneinander unabhängige（diskrete）Wahrscheinlichkeitsuvertilungen符号学家\（AB）是符号für die verbundene Verteilung。曼齐格特·莱希特（H（AB）=H（A）+H（B））。Sind \（A，B）nicht voneinander unabhängig，是naheliegender Weise die bedingte Entropie \（H_A（B）\）bzw的定义人\（H_B（A）\）。Falls \（A，B\）unabhängig sind，gilt\（H_B（A）=H（A）\）und\（H_A（B）=H（B）\）。Die Entropie erfüllt foldende Eigenschaften公司：
1.\（H（p_1，\ldots，p_n）\leq H（1/n，\ldot，1/n）\），wobei die\（p_i\）（1）erfüllen。
2.（H（AB）=H（A）+H_A（B））。
3.（H（p_1，\ldots，p_n，0）=H（p_1，\ldot，p_n））。
Es wird bewiesen，daßjede stetige Funktion，死于1.–3。erfüllt，bis auf eine Konstante die Form（2）hat。（《创业者》）。
Für diskrete Markovsche Ketten mit u bergangswahrscheinlichkeiten \（p_{ik}\）\（（i，k=1，\ldots，n）\）und Anfangswahrscheinlichkeiten \\[H=-\sum_{i，k=1}^nP_ip_{ik}\log P_{ik}\]定义者。男子betrachete eine Ereigniskette（C）der Länge（s）mit Wahrscheinlichkeit（p（C）=p_{k1}p_{k_1k_2}\cdots p_{k_{s-1}平方公里}\)，\（1\leq k_i\leq n \）。Für die Entropie eines ergodischen diskreten项目镀金：
Zu jedem和kann man durch Wahl von（s）erreichen，\[\左|[s^{-1}\log 1/p（C）]-H\右|<\eta\]für jede Kette（C\）der Länge\（s\），abgesehen von einer Anzahl von Ketten（C\），für die（\sum p（C）<\varepsilon\）镀金。
Sei\（0<\lambda<1\）und\（N_s（\lambda）\）die größte Anzahl von Ketten der Länge\（s\）nach nicht wachsenden Wahrscheinlichkeiten geordnet，so da（\sump（C）\leq\lambada\）。Dann gilt\（s^{-1}\log N_s（\lambda）\ to H\）für \（s\ to \infty）。
阿尔贝特（Der letzte Satz Der Arbeit）在《罗勒的力量》（Begründung Der Rolle）一书中指出，在《弗什吕塞隆的理论》（Theorye Der Verschlüsselung von Nachrichten spielt）中，“熵”（Entropie）是不折不扣的。
{Bemerkung des参考文献：S.13，16。泽伊尔·冯·奥本·德鲁克菲勒。}
审核人：L.施梅特勒
页码：24/35−5 −4 −3 −2 −1 ±0 +1 +2 +3 +4 +5 显示扫描页面
扫描Zbl 0050.35404

引用于3评论
引用于16文件

MSC公司：

94甲17 信息、熵的度量
94A24型 编码定理（香农理论）

关键词：

熵;离散通信系统

引文：

Zbl 1154.94303号
PDF格式BibTeX公司 XML格式引用
\textit{A.Ya.Khinchin}，乌斯普邦。Mat.Nauk 8，No.3（55），3--20（1953；Zbl 0050.35404）
全文： MNR公司