蓝色估计器

通过

为什么是蓝色：

我们已经讨论过最小方差无偏估计（MVUE）在前面的一篇文章中。将MVUE应用于估算问题时，应考虑以下几点

  • MVUE是最佳估计器
  • 找到MVUE需要充分了解底层流程的PDF（概率密度函数）。
  • 即使PDF已知，也不能保证找到MVUE。
  • 如果PDF未知，则不可能使用以下技术找到MVUECramer-Rao下限（CRLB）
  • 在实践中，对PDF底层过程的了解实际上是未知的。

考虑到以上所有点，最好的解决方案是找到次优估计器。当我们求助于寻找次优估计器时

  • 我们可能无法确定我们损失了多少性能–因为我们无法找到基准测试的MVUE估计器（由于过程的基本PDF不可用）。
  • 如果次优估计器的方差符合规范限，我们可以接受它

寻找次优估计量的常用方法：

  • 限制估计器在数据中为线性
  • 求无偏且方差最小的线性估计量
  • 这导致最佳线性无偏估计（蓝色）
  • 要找到BLUE估计量，不需要对PDF有充分的了解。仅PDF的前两个矩（平均值和方差）就足以找到蓝色

蓝色的定义：

考虑一个数据集x[n]=\{x[0]，x[1]，\cdot，x[n-1]\} 其参数化PDFp（x；θ） 取决于未知参数\θ由于BLUE限制估计器在数据中是线性的，所以参数的估计可以写成具有一些权重的数据样本的线性组合a_n（名词）

\帽子{\theta}=\显示样式{\sum_{n=0}^{n}a_nx[n]=\textbf{a}^T\textbf{x}}\quad\quad\rightarrow（1）

在这里\文本框{a} 是一个常数向量，我们寻求其值以满足设计规范。因此，整个估算问题归结为寻找常数向量——\文本框{a} .上述方程可能会导致向量的多个解\文本框{a} 。但是，我们需要选择\文本bf｛a｝ ，它提供无偏且方差最小的估计。

因此，为\文本框{a}为了找到提供最小方差的BLUE估计量，必须满足以下两个约束

  1. 估计量在数据中必须是线性的
  2. 估算必须无偏

约束1：线性约束：

上面已经给出了线性约束。为了方便起见，这里重复了一遍。

\帽子{\theta}=\显示样式{\sum_{n=0}^{n}a_nx[n]=\textbf{a}^T\textbf{x}}\quad\quad（1）

约束2：无偏估计的约束：

为了使估计被认为是无偏的，估计的期望值（平均值）必须等于估计的真实值。

E[\hat｛\theta｝]=θ\ quad \ quad（2）

因此，

\显示样式{\sum_{n=0}^{n}a_nE\left（x[n]\right）=\theta}\quad\quad（3）

结合这两个约束(1)和(2)或(3),

E[\hat{\theta}]=\displaystyle{\sum_{n=0}^{n}a_nE\left（x[n]\right）=\textbf{a}^T\textbf{x}=\theta}\quad\quad（4）

现在，百万美元的问题是：“我们什么时候才能满足这两个约束？”x（n）形式为x[n]=s[n]\θ ，其中\θ是我们希望估计的未知参数。

考虑如下所示的数据模型，其中观察到的样本与待估计的参数呈线性关系。

x[n]=s[n]\theta+w[n]\quad\quad（5）

在这里，w[n]是零均值过程噪声，其PDF可以采用任何形式(制服,高斯,有色的等）。上述方程的平均值由下式得出

E（x[n]）=E（s[n]\theta）=s[n]\theta\tquad\quad（6）

衬底(6)英寸(4),

E[\hat{\theta}]=\显示样式{\sum_{n=0}^{n}a_n E\left（x[n]\right）=\theta\sum_{n=0.}^{n}a_ns[n]=\theta \textbf{a}^T\textbf{s}=\thetar}\quad\quad（7）

看看最后一组等式，

\theta\textbf{a}^T\textbf{s}=\theta\quad\quad（8）

只有满足以下条件，才能满足上述等式

\textbf{a}^T\textbf{s}=1\quad\quad（9）

如果满足此条件，下一步是最小化估计值的方差。最小化估计的方差，

\开始{aligned}var（\hat{\theta}）&=E\left[\left（\sum_{n=0}^{N} （_N）x[n]-E\左[\sum_{n=0}^{N} a_N（名词）x[n]\right]\ right）^2\right]\\&=E\ left[\ left（\textbf{a}^T\textbf{x}-\textbf{a}^T E[\textbv{x}]\ rift）^2\\right]\\&=E \ left[\ left{x}-E（\textbf{x}）\right]\right）^2\right]\\&=E\左[\textbf{a}^T\左[\textbf{x}-E（\textbf{x}）\right]\left[\textbf{x}-E（\textbf{x}）\right]^T\textbf{a}\right]\\&=E\left[\textbf{a}^T\text bf{C}\textbv{a}\ right]\\&=\textbf{a}^T\ttextbf}\C}\text bf{a}\end{aligned}\quad\quad（10）

寻找蓝色：

如上所述，为了找到给定数据集的BLUE估计量，必须满足两个约束条件——线性和无偏估计，估计的方差应最小。因此，目标是将\帽子{\theta}哪个是\textbf{a}^T\textbf{C}\textbf{a} 受约束\textbf｛a｝^T\textbf｛s｝=1 。这是一个典型的拉格朗日乘数↗问题，它可以被视为最小化以下关于\文本框{a}（记住！！！这是我们想要找到的）。

J=\textbf{a}^T\textbf{C}\textbf2{a}+\lambda（\textbf2{a}^T\text bf{s}-1）\quad\quad（11）

最小化J型关于\文本框{a}相当于设置J型水电阻温度\文本框{a}至零。

\开始{aligned}\frac{\partialJ}{\parial\textbf{a}}&=2\textbf{C}\textbf{a}+\lambda\textbf{s}=0\&\Rightarrow\boxed{a}=-\frac}\lambda}{2}\textbf{C}^{-1}\textbf{s}}\end{aligned}\quad\quad（12）

替换(12)在里面(9)

\textbf{a}^T\textbf{s}=-\frac{\lambda}{2}\textbf{s}^{T}\textbf{C}^{-1}\textbf{s}=1\右箭头\方框{-\frac{\lampda}{2}=\frac}1}{\textbf-s}^}

最后，来自(12)和(13)，BLUE估计器（加权数据样本的常数向量）的系数由下式给出

\方框{a=\frac{\textbf{C}^{-1}\textbf{s}}{\textbf{s}^{T}\textbf{C}^{-1{\textbof{s{}}\quad\quad\quid（14）

蓝色估计值和估计值的方差如下

\方框{\hat{\theta}_{BLUE}=\textbf{a}^{T}\textbf{x}=\frac{\textbf{C}^{-1}\textbf{s}\textbf{x}}{\textbf{s}^{T}\textbof{C}^{-1{\textbf{s}}\quad\quad（15）

\方框{var（\hat{\theta}）=\frac{1}{\textbf{s}^{T}\textbf{C}^{-1}\textbf{s{}}\quad\quad（16）

对此文章进行评分:可怜的低于平均水平平均很好杰出的(36平均票数：4.08（共5个）

类似主题

[1]估计理论导论
[2]估计量的偏差
[3]最小方差无偏估计（MVUE）
[4]最大似然估计
[5]最大似然解码
[6]概率与随机过程
[7]似然函数和最大似然估计（MLE）
[8]分数、费希尔信息和估计灵敏度
[9]Cramer-Rao下限（CRLB）简介
[10]标量参数估计的Cramer-Rao下界
[11]应用Cramer-Rao下界（CRLB）求最小方差无偏估计（MVUE）
[12]有效估计和CRLB
[13]相位估计的Cramer-Rao下限
[14]归一化CRLB——CRLB的一种替代形式及其与估计器灵敏度的关系
[15]向量参数估计的Cramer-Rao下限（CRLB）
[16]均方误差–为什么我们要将其用于估算问题
[17]如何使用普通最小二乘法（OLS）估计未知参数
[18]信号处理的基本初等矩阵代数
[19]为什么要进行Cholesky分解？示例案例：
[20]矩阵正定性的检验
[21]使用正向和反向替换求解三角形矩阵
[22]Cholesky因子分解-Matlab和Python
[23]随机信号的LTI系统模型–AR、MA和ARMA模型
[24]AR和ARMA模型的比较——平方误差最小化
[25]尤尔·沃克估计
[26]自相关（Correlogram）和持久性——时间序列分析
[27]线性模型-最小二乘估计（LSE）
[28]最佳线性无偏估计（蓝色）

作者的书籍

Matlab中的无线通信系统
Matlab中的无线通信系统
第二版（PDF）
可怜的低于平均水平平均很好杰出的(178平均票数：3.62（共5个）

使用Python的数字调制
使用Python的数字调制
（PDF电子书）
可怜的低于平均水平平均很好杰出的(131平均票数：3.57（共5个）

数字模块使用matlab图书封面
使用Matlab的数字调制
（PDF电子书）
可怜的低于平均水平平均很好杰出的(135平均票数：3.63（共5个）
人工挑选的通信工程最佳书籍
信号处理最佳书籍

发表您的宝贵意见！！！