跳到主要内容

带标签的问题[熵]

这个标签是关于数学熵的问题。如果您对热力学熵有疑问,请访问物理堆栈交换或化学堆栈交换。

1,669问题
筛选依据
排序依据
标记为
-2 投票
1 回答
35 意见

为什么离散分布和连续分布的熵不同,即使它们的分布收敛?

我正在努力理解熵的概念,因为它与离散和连续分布有关,我希望能对理解一个让我困惑的思维实验有所帮助。我想。。。
itchytoo的用户头像
  • 1
-1 投票
0 答案
21 意见

高斯熵[闭合]

高斯函数的熵公式是1/2*log(2πσ^2)+1/2。高斯函数的熵,比方说SIGMA^2=0.01,被计算为负数。但我不认为熵是负的。...
Studentskp的用户头像
0 投票
0 答案
22 意见

具有随机维数的离散随机变量的熵

假设我有一个离散随机变量$x=[x_1,\dots,x_m]$,其中每个$x_I$是$\{1,\dotes,N\}$中的离散随机变量,而$m$也是一个随机变量,其值在$\{1,\ dots。。。
KRL的用户头像
  • 1,250
投票
1 回答
75 意见

拓扑马尔可夫链:这种“熵”的计算是如何工作的?

我所说的一切都来自帕里的论文《内在马尔可夫链》。在提出问题之前,我试图总结一下其中的想法,以便于澄清。我们有一个整数$s$和有限集$\。。。
卡拉马多的用户头像
  • 1,659
0 投票
0 答案
14 意见

逆伽马分布的熵计算

我试图计算逆伽马分布的熵,结果总是为负。显然这是错误的,因为熵总是正的。维基百科有这个派生词。。。
杰夫·内斯特的用户头像
0 投票
0 答案
30 意见

logistic回归中的类别与二元交叉熵

假设我想调整这个例子,使其适应这样的情况,即考试结果为二分之一及格/不及格,我们有三个等级a、B、C(人们可以认为C是不及格的,B是及格的但不是很好的等级。。。
Pink和Floyd的用户头像
0 投票
0 答案
12 意见

独立Dirichlet多项式模型中人子集的和分布

我正在处理一个涉及多个实体的场景,例如$d$不同的人,每个人都有跨$L$类别的数据。模型结构如下:每个类别的计数是。。。
Sarah的用户头像
  • 371
1 投票
2 答案
23 意见

关于Kolmogorov-Sinai(测度理论)熵和测度收敛的参考文献

我想了解当我在某种意义上取极限时,Kolmogorov-Sinai熵(也称为测量理论熵)会发生什么变化:假设$(X,\mathfrak B)$-可测空间和$T:X\rightarrow X$-。。。
大椰子用户头像
  • 484
0 投票
0 答案
38 意见

香农熵的积分公式

我最近注意到,利用$I(t)=t\log{t}$是$1+\ln{t}美元的原语,$I\left(p\right)=\\int_{p}^{frac{1}{e}}\left。。。
佩德罗·佩娃的用户头像
1 投票
0 答案
43 意见

理解正态分布的熵

使用$H[p]$的标准定义,可以表明正态分布变量的熵为$$H(\mu,\sigma^2)=\frac{1}{2}\ln\left(2\pi\sigma^2 \right)+\frac{1}{2}$$单位。。。
Xander的用户头像
6 投票
答案
123 意见

信道容量与互信息之间的联系

我对以下问题感到困惑:以比特每秒为单位测量的信道容量如何等于以比特为单位测量的(最大)互信息?我很困惑。有人能。。。
罗纳德的用户头像
0 投票
0 答案
47 意见

证明偏微分方程的解满足熵条件

考虑守恒定律:\开始{方程式}ut+u^3 u_x=0,\quad x\in\mathbb{R},\t>0.\end{equation}确定柯西问题$u(x,0)=g(。。。
niccos7的用户头像
0 投票
1 回答
32 意见

联合离散和微分熵的界

我正在研究图集合的熵的边界,并遇到了以下问题:让$X=(X_{12},…,X_{(n-1)n})$是${0,1\}$相关随机变量的向量,并且$R=(R_1,。。。。。。
奥利的用户头像
  • 105
0 投票
0 答案
37 意见

基于概率分布熵的浓度不等式?

我有$n$bounded iid变量$X_I$。假设还有一个离散概率$p_i$和$1\lei\len$,我有一个熵的下限,称为$h$。有办法得到。。。
latbblets的用户头像
0 投票
0 答案
30 意见

可数动力学中的拓扑熵为零

拓扑熵设$X$是一个度量为$d$的紧致度量空间。设$f:X\至X$为连续函数。对于每个$n\in\mathbb{n}$define$$d_n(x,y)=最大{0\leqk\leqn-1}d(f^k(x),f^k$$...
Jhon Freddy Perez的用户头像

15 30 50 每页
1
2 4 5
112