总结
我们考虑了同方差非参数回归模型中噪声方差的估计问题。对于低维协变量t吨∈ ℝd日,d日=1,2,基于差分的估计量已经在一系列论文中进行了研究。对于这种估计量的给定长度,可以计算出使渐近均方误差最小的差分格式d日=1和d日=2.然而,从数值研究中可以看出,对于有限样本量,由于存在较大的有限样本偏差,这些估计器的性能可能不足。我们为这些发现提供了理论支持。特别地,我们表明随着维数的增加d日这变得更加激烈。如果d日这些估计值甚至不一致。讨论了一类不同的估计量,它们可以更好地控制偏差,并在以下情况下保持一致d日4.将这些估计量与核型估计量(渐近有效)进行了数值比较,并对何时需要使用它们给出了一些指导。
1.简介
最近,误差方差的估计在非参数回归模型中
(1)
受到了很多关注。信号估计本身需要方差的知识,例如计算置信带或带宽和其他平滑参数的最佳选择。此外,它的方差或变换在技术应用、图像恢复、金融时间序列分析等方面有着直接的意义。关于进一步的应用,我们参考Carroll和Ruppert(1988),凯(1988)哈德尔和茨巴科夫(1997). 特别是在一维预测器的情况下,t吨∈ ℝ1,已在文献中广泛讨论,并提出了各种估计值。这些估计中最流行的要追溯到冯·诺依曼(von Neumann)(1941),观测值的平方连续差的简单平均值,
(2)
赖斯也使用了该估算值(1984)并以各种方式修改为所谓的基于差分的估计量(Gasser等. (1986),凯(1988),霍尔等. (1990,1991)和汤普森等. (1991)等)。差分估值器仅适用于存在均匀噪声的情况,即误差方差不依赖于回归量t吨对于具有非均匀方差的回归模型,Müller和Stadtmüller提出了基于核的估计量(1987)、霍尔和卡罗尔(1989)、霍尔和马隆(1990)和诺依曼(1994)最近,Ruppert独立研究了局部多项式估计等。(1997)、哈德勒和茨巴科夫(1997)还有范和姚(1998).
尽管方差估计d日=1在文献中得到了广泛的治疗d日据我们所知,很少有人考虑=2d日3从未被明确处理过。这可能是基于一个诱人的推测,即原则上d日=1,2可以直接转移到高维情况。然而,我们将看到,对于基于差异的估计量,情况并非如此。
基于差异的估计量在实践中非常流行,因为它们很容易实现,特别是当协变量的维数大于1时。相比之下,平滑方法的计算复杂得多,数据驱动的平滑参数选择是一个困难的实际问题(Ruppert等。,1997). 特别是,当协变量为高维时,由于众所周知的“维数诅咒”,会出现额外的困难。正如霍尔所指出的那样,永不放弃等。(1990)差分估计量的渐近效率低于平滑方法,例如核估计量,其达到了渐近极小极大界(Hall和Marron,1990). 因此,在差分估计器类别中,选择通过最小化均方误差(MSE)获得的特定差分估计器是合理的目标。事实证明,这可以在最大观测次数(差分格式的长度)考虑计算这种估计所需的局部残差。霍尔利用了这个想法等。(1990)对于一维协变量并在Hall中扩展等。(1991)与案件有关d日=2.在这两种情况下,证明了具有规定长度的基于差分的估计类的偏差贡献是(渐近)可忽略的,因此仍然需要将方差最小化为MSE的渐近支配部分。结果估计值将被称为最优差分估计.
然而,在下文中,我们将说明d日∈ℕ类似的结果不再成立。更准确地说,我们证明了方差最小差分估计量的平方偏差是有序的O(运行)(N个−2/d日). 相反,差异是有序的O(运行)(N个−1/2),因此d日4对于渐近MSE,偏差不可忽略。更剧烈的是,如果d日4这意味着这些估计值不再√N个一致。这意味着冯·诺依曼的推广(1941)具有维数回归变量的估计量(2)d日4条引线至√N个-不一致估计。因此,相应的中心极限定理不成立。
这是众所周知的(霍尔等。,1991; 汤普森等。,1991)这个案子已经开始了d日=1,2最优基于差分的估计量可以提供相当大的有限样本偏差,尽管对于尖峰或快速变化的信号,渐近不相关克.汤普森等。(1991)通过使用边缘检测算法,去除图像发生快速变化的点上的观测值,获得了改进的性能。第3节将通过偏差的二阶展开来解释这一点。此外,这表明已经d日=1,2,3基于差分的估计量渐近的应用MSE时必须更加谨慎,协变量的维数增加得越多。
为了克服最优差分格式的这些缺点,请参阅第节三提出了一类特殊的基于差分的多项式加权差分估计。这些估计量的特征是估计σ2对任何人都是公平的d日-维多项式克达到特定程度。这扩展了凯的想法(1988)、汤普森等. (1991),塞弗特等. (1993)和Dette等. (1998). 结果表明,即使对于大维度,估计量也有足够小的偏差d日特别是,这些估计量保持一致,尽管它们的渐近效率不如核估计量。我们的发现与斯波科尼的极小极大结果有关(2002)世界卫生组织显示,对于两次可微回归函数,√N个-费率仅适用于d日8; 否则,最佳速率为N个−4/d日事实上,对他的证明进行了修改,得到了一个一次可微函数克√N个-费率d日4作为最小最大速率N个−2/d日如果d日>4.因此,我们的估计对于任何d日∈ℕ。要对此进行更详细的调查,请参见第节4我们推广了Hall和Marron的核估计(1990)与案件有关d日2,并将其与蒙特卡罗研究中的局部多项式和基于差分的估计进行比较。如有要求,可从作者处获得C++代码。我们的结果可以总结如下。实际上,在所有情况下,具有交叉验证带宽的核估计量都优于任何(渐近)最优差分估计量。除此之外,事实证明,局部线性估计器的额外改进是可以忽略不计的。对于波动信号,基于核的估计通常优于多项式加权估计。这种影响对于增加d日此外,基于核的估计量的计算量随着d日增加。相反,即使是大型d日,多项式加权估计量易于执行且在计算上可行。对于具有长度的多项式加权估计量,在偏差控制和小方差之间取得了很好的折衷第页4.对于非常平滑的信号,最优加权估值器或基于核的估值器可以获得显著的改进。总之,具有长度多项式加权方案的差分估计第页4是更有效但计算密集型内核估计器的有效替代方案。当无法排除时,应始终使用它们先验的信号克尖峰或起伏。
为了使论文更具可读性,我们将所有校样推迟到附录A。我们将从下一节开始,简要总结可用于该案例的基于差分的估计量的MSE结果d日=1.这将有助于更好地理解案件d日2
2.差分估值器d日=1
假设在本节中,我们观察到模型(1)中的独立数据,其中d日=1和E类[ɛ我]=0,和.让Y(Y)=(Y(Y)1,…,Y(Y)N个)′,并让tr(天)表示矩阵的迹天在本文中,对于设计点的三角形方案(t吨1,N个,…,t吨N个,N个)我们只需写(t吨1,…,t吨N个).
定义1。差分(或加权)排序方案第页∈ℕ是向量d日=(d日k)k=0,…,第页∈ ℝ第页+1这样的话
阶(或长度)的差分估计第页∈ℕ是随机二次型
(3)
哪里和
定理1(霍尔等人。,1990). 假设设计要点(t吨我)我=1,…,N个在单位间隔[0,1]内并满足条件
(4)
对于任何N个∈ℕ,其中(f)是[0,1]上远离零的密度。进一步假设,其中
那么在基于差分的阶估计类中最小化第页,当且仅当
(5)
对于1|k|第页.相应的重量(直至初始符号和反转顺序)唯一,且相应差分估计量的MSE具有一阶展开
(6)
定理1的证明可以在霍尔找到等. (1990). 我们提到,当用方案代替最小化问题时,可以得到更简单的证明(d日k)k=0,…,第页矩阵天在方程式中(三)在适当的类别中最小化(Munk,2002). 从定理1可知第页的渐近MSE减少。然而,如第节所述1这可以与有限样本MSE形成对比这主要取决于克和样本量N个.让C类(米)[0,1]是米乘以[0,1]上的连续可微函数。
定理2( 德特等。,1998).让并假设设计间距相等,即。t吨我=我/N个,我=1,…,N个.那么我们有,因为克∈C类(2)[0,1]带,
从这个结果可以明显看出,对于较大的║值克′║2和║克′′║2有限样本MSE变大。此外,MSE随着第页增加。回想一下,这与一阶展开式(6)相反,它表明我们选择第页尽可能大。对于一些示例和数值研究,我们参考汤普森等. (1991)或Dette等. (1998). 一类基于差分的估计量,允许将偏差减少到任何阶O(运行)(N个−米),米∈ℕ,由Kay介绍(1988)、汤普森等. (1991)和塞弗特等. (1993). 它由多项式差分格式给出
(7)
如果我们将相应的估计量表示为可以看出,对于克∈C类(2米)[0,1],
特别是,偏差是有序的O(运行)(N个−2米). 注意,当信号为多项式时,多项式差分格式(7)提供了方差的无偏估计米−1(汤普森等。,1991).
备注1。我们简要说明了如何将上述讨论转移到非等距或随机设计中。有关更多详细信息,请参阅Wagner(1999). 为了减少偏差O(运行)(N个−2米)在任何非等距设计模型中,通常有两种选择。一个是矩阵天根据差分法构造,类似于牛顿插值公式(参见斯托尔(1979)). 在这种情况下,产生的差分方案还取决于设计点t吨我,并且它生成所有多项式的无偏估计克在一定程度上,与等距情况完全相同(参见塞弗特等。(1993)).
另一种可能性是提出限制(f)∈C类(第页−1)密度[0,1](f)在条件(4)中生成设计点。在这种情况下,可以表明,与等距设计模型中相同的差分格式可以用于渐近实现相同阶的偏差。然而,请注意,对于回归多项式类,得到的估计量不再是无偏的。
按顺序减少随机设计模型中的偏差O(运行)(N个−2米),不依赖于设计点的差分方案不再有效。要了解这一点,请考虑第页=2和(d日0,d日1,d日2)=(1,−2,1)√6. 让克(x个)=x个并假设独立、相同分布的设计点X(X)我∼U型(0,1)与误差无关ɛ我在这种情况下,简单的计算表明方差估计器的偏差等于E类[X(X)(我+2)−X(X)(我+1)−(X(X)(我+1)−X(X)(我))]2/√6=2/{√6(N个+1)(N个+2) },因此是有序的O(运行)(N个−2),而不是订单O(运行)(N个−4)至于固定设计。然而,减少偏差的一种有效可能性是构成矩阵天作为函数的设计点与上述方法的区别。
3.更高的尺寸
现在我们来研究更高维的基于差分的估计量。特别是,本案d日=2发生在各种应用中(参见Bissantz和Munk(2002)对于天体物理学中的应用),并且对成像特别感兴趣,因为这里的模型(1)是数字图像处理的标准模型,其中图像的噪声版本克必须从数据中恢复。在这里,方差的知识对于平滑参数的选择以及作为结果图像质量的全局度量都很重要。早期推荐人为Lee(1981)和Kay(1988); 更多参考资料见汤普森等. (1991)或霍尔等. (1991). 赫尔曼等. (1995)考虑到所有可能的Delaunay三角网(Ripley,1981).
考虑模型(1),其中t吨我=(t吨我1,…,t吨我d日)′ ∈ ℝd日。我们假设观测值来自d日-尺寸网格,以便我k=1,…,n个k,k=1,…,d日。在下面的整个过程中,让
(8)
然后让
(9)
哪里(f)k,k=1,…,d日,是指远离零的设计密度。假设错误满足
(10)
概括Kay的想法(1988)、汤普森等. (1991)和霍尔等. (1991),我们引入了一类任意维的基于差分的估计量d日∈ℕ如下。
定义2。方差的广义差分格式估计σ2在回归模型中,(1)定义为
(11)
哪里由最后一个标识定义。这里是重量的总和μ我等于1,以及所谓的广义差分格式满足和.
此外,J型我⊂ℤd日表示某个索引集,该集对我由提供
哪里A类×B类表示两个集合的笛卡尔积A类和B类,以及n个对我表示基数#对我属于对我.
为了说明这个定义和符号,我们将考虑以下各种特殊情况。
3.1. 示例1(案例d日=2)
让n个1=n个2=n个。我们考虑以下配置。
- (a)
J型我={(0,0),(1,1),(2,2),(3,3)},对我={(我1,我2):我1,我2=1,…,n个−3}和n个对我=(n个−3)2.
- (b)
J型我={(0,0),(0,1),(0,2)},对我={(我1,我2):我1=1,…,n个,我2=1,…,n个−2}和n个对我=n个(n个−2).
- (c)
J型我={(0,0),(−1,1),(0,1),(1,1)},对我={(我1,我2):我1=2,…,n个−1,我2=1,…,n个−1}和n个对我=(n个−1)(n个−2).
在(a)和(b)中,设计点t吨我+k具有k∈J型我构成一条直线,而(c)中的设计点为“T形”(图。1).
备注2。我们提到,对于合理的配置,一般认为0∈J型我为所有人我=1,…,L(左),以及对我将主要由集合组成,除了O(运行)(n个d日−1)位于配置边缘的点,以便n个对我=N个+O(运行)(n个d日−1)=n个d日+O(运行)(n个d日−1). 此外,通常L(左)=d日虽然这并不总是我们将看到的最佳选择。
霍尔等. (1991)为显示d日=2在基于差分的估计类中,当局部残差在直线上且具有与d日=定理1中给出的1(或其断开的组合),即秒(我)∈ ℤ2残差支持于
(12)
类似的结果适用于d日=3,如我们将在定理3中所示。
3.2. 示例2(案例d日=3)
让n个1=n个2=n个三=n个.我们根据J型我={(0,0,0),(0,0,1),(0,0,−1),(0,1,0),(0,−1,0),(1,0,0),(−1,0,0)},对我={(我1,我2,我三):我1,我2,我三=2,…,n个−1}和n个对我=(n个−2)三(图。2).
定理3。让d日=1,2,3. 如果克∈唇[0,1]d日,γ>d日/4,那么在条件(1)和(9)下,对于方程中定义的任何差分估计量,我们都有(11),
(13)
定理3的一个变种与随机二次型deJong的中心极限定理(1987)也给出√N个-一致性只要d日3,即。是渐近中心法向,方差有限,如等式右侧所示(13).
然而,正如所指出的d日霍尔=2等. (1991)汤普森等. (1991)对于有限样本大小的直线上的配置,特别是当信号急剧波动时,偏置贡献可能会变得非常大。因此,在霍尔等. (1991)建议使用“紧凑”配置,而应避免使用“长线性”配置。这在下一个定理中得到了强调,该定理提供了对于任意d日∈ ℕ.
定理4。让d日∈ℕ并假设模型(1),这样克∈C类(2)[0,1]d日此外,假设条件(8)-(10)成立。那么,对于任何基于差分的估计量在方程式中定义(11)索引集上有残差J型我如方程式所示(12),我们有
(14)
哪里,表示偏导数向量和范数相对于设计密度.如果n个1=…=n个d日=n个,这简化为
连同定义(12),定理4的证明遵循与Dette中的计算类似的路线等. (1998),第755-756页。通过备注1,对于随机网格点的情况,可以得到类似的结果。
3.3. 示例3
在这种情况下d日=2,具有等距网格点(n个×n个)配置(用于L(左)=1)J型1={κ(1,0):κ=−2,…,2},以及配置(对于L(左)=2)和,将导致相同的渐进MSE,,但顺序的有限样本项O(运行)(n个−4)对于(长线性)配置J型1是九倍大(这里第页=4)比(紧凑)配置的和(此处第页=2),因为人们可以很容易地从定理4推导出。
如果d日增加时,偏差的一阶近似值变得更差,如下一示例所示。
3.4. 示例4
霍尔最优差分格式等. (1990)(适用于每个L(左)方向)我们获得C类(第页我)=(2第页我+1)(第页我+1)/12. 作为一个例子,我们考虑广义von Neumann(1941)估计器(另见Rice(1984)),第页=1,和L(左)=d日。这里是索引集J型我={0,电子我},其中电子我,我=1,…,d日,表示ℝ中的标准基础d日.假设n个1=…=n个d日=n个,μ我=d日−1.然后定理4得出
它的顺序并不比O(运行)(n个−4),前提是克不是恒定的。然而,对于任何差分格式,对MSE的方差贡献都是网格点数的倒数,O(运行)(n个−d日).
因此,从这个简单的例子可以看出,对于d日4,一般来说,与案例相比,偏倚将主导MSEd日3.这尤其意味着冯·诺依曼(1941)估计值不再√N个一致,如果d日4.为了纠正这种偏差,方程式中的多项式加权方案(7)将变得必要。
定理5。假设d日∈ℕ并假设克∈C类(米)[0,1]d日对于米=[d日/4]+1. (此处[x个]表示小于的最大整数x个∈ℝ.)在模型(1)和假设(9)下,基于多项式差分的估计量的加权方案(7)阶第页,因此第页米,MSE的渐近展开式(13)成立。此外,这些估计值为√N个一致。
我们已经看到,随着维度的增加d日偏差的控制成为基于差分估计的主要任务,特别是对于波动信号。这在定理4中得到了强调,在这些情况下,偏差的二阶项支配有限样本MSE。然而,如果信号只是缓慢波动,则一阶偏差项仍然是一个很好的近似值,对于以下情况,是否可以渐近地将MSE最小化可能是有意义的d日=1(定理1)。对于d日2由于差分方案的特殊配置(见定义2)可能会起作用,因此这项任务更为复杂。在下一个定理中,我们将确定使MSE渐近最小化的具体配置,前提是L(左)已修复。由于我们前面的讨论,有必要处理这些案例1d日3和d日4分开。然而,事实证明,对于这两种情况,考虑集合就足以使MSE最小化J型我,我=1,…,L(左),非平行直线,如方程式所示(12). 请注意,应用下一个定理时必须谨慎,因为它是基于一阶MSE的扩展,即渐近地有效,只要d日三。
定理6。让d日=2和d日=3,以及克∈唇[0,1]d日,使用和分别是。假设模型(1)具有条件(9)和(10)。在定义2中的方差估计类中L(左)∈ ℕ,第页我=#J型我−1,我=1,…,L(左),以及,渐近最优MSE
是针对差分估计器实现的它有形状的重量μ我=第页我/第页,我=1,…,L(左)、和J型我是非平行直线。广义差分格式与霍尔所描述的一维情况完全相同等. (1990),即它们满足一维渐近最优性准则如方程式所示(5)对于所有0≠k具有J型我(k)={j个∈J型我:我+k∈J型我}≠∅.
我们提到这一点是为了d日4可以得到类似的结果,但是,差分估计的类必须限制为阶多项式的无偏估计米=[d日/4] +1(见Wagner(1999)). 最后一个定理可以通过下面的例子来说明。
3.5. 示例5
假设d日=2和等距设计。在图中。三在这种情况下,给出了一个特定配置的示例L(左)=4,第页1=第页2=4(水平线和垂直线)和第页三=第页4=2(对角线)。在广义差分估计类中实现渐近最小均方误差,其中第页=12,
我们必须在第一步中根据定理6选择权重和第二步,霍尔最优差分格式等。(1990)必须用于第页=4和第页=2.注意这里d日≠L(左).
备注3。正如裁判所指出的,讨论L(左)在广义差分估计中。这在原则上非常困难,因为它不能与最佳长度问题分开第页我沿每个方向我一个全面的答案超出了本文的范围,但可以通过定理4给出一个定性的答案,前提是可以认为展开式(14)足够准确,这是振荡信号不太强烈的情况。然后,当方向秒(我)选择公式右侧的表达式(14)最小化。这是一个离散的最小化问题,并且可以达到最小值(如果克已知)通过选择L(左)=1和秒(1)∈ ℤd日作为然而,一般来说,偏倚扩展中的高阶项将涉及混合导数克,还有这里L(左)=1不一定是最佳选择。然而,定理4在一般配置中提供了理由,因此沿着下列方向计算残差:克很小。如果克在各个方向上剧烈波动,这只能通过少量的局部残差来实现第页我但是很大L(左).如果克沿特定方向的梯度较小,沿该方向的大量残差L(左)=1将给出一个好结果。这与汤普森的偏置微调算法一致等. (1991)(用于d日=2),因为这些算法在第一步中识别出了那些网格点,其中克预计将较大,并从进一步计算中排除这些因素。
最后,注意随着方差的增加σ2(噪声级)最佳估计值表现更好,因为偏差不取决于σ2(定理4)。然而,这一发现的实际优点是有限的,因为在这种情况下,估计值的整体质量会很差。
4.数值比较
4.1. 核估计量
在本节中,我们将基于差分的估计量与(渐近有效)d日-Hall和Marron的维数推广(1990)核估计和相应的局部线性估计。为了简洁起见,我们考虑产品内核订单的第页∈ℕ(此处x个=(x个1,…,x个d日)′ ∈ ℝd日)这样的话K(K)1:ℝ→\8477»对称,支架紧凑。此外,
最后,假设带宽矩阵是对角的,H(H)=诊断(小时1,…,小时d日).
定理7。考虑非参数回归模型(1)克∈C类(第页+1)[0,1]d日和设计要点t吨我∈ [0,1]d日,我=1,…,N个,在上d日-维度网格,所以条件(9)成立。对角线带宽矩阵H(H)它认为小时最小值:=最小值k=1,…,d日(小时k)>0,和λk,N个:=小时k/小时最小值→λk∈ (0,∞),k=1,…,d日,作为N个→∞. 让K(K)成为d日-维序核第页然后,方差估计量的MSE
(15)
具有和
由提供
在这里
函数的位置(f)∈C类(第页)[0,1]d日我们使用
证据被省略,原则上遵循霍尔和马隆发现的一维情况的模式(1990). 注意,由于产品内核的特殊选择,不涉及混合衍生产品C类2.
备注4。作为最后一个定理的副产品,我们得到了4第页>d日从形式的最优对角带宽矩阵H(H)=小时我d日,其渐近最小化MSE,作为
(16)
在这种情况下,使用小时0在方程式中(16),我们可以证明具有方差的渐近中心正态(γ4−1)σ4因此为√N个高效。
4.2. 模拟研究
在下文中,对这些案例进行了模拟研究d日=2,3,4将被呈现(见汤普森等. (1991),或Dette等. (1998),用于广泛的数值研究,当d日=1). 为此,我们假设了正态分布的误差;对于倾斜误差,也发现了类似的结果,但没有显示出来。考虑中的所有功能均在[0,1]中定义d日,采用等间距设计。对于核估计量,我们选择了由Epanechnikov核生成的乘积核,和带宽矩阵H(H)=小时我d日除了核估计量(15)外,还研究了具有相同核的局部线性估计量(Wand和Jones,1995). 这些估计器所需的带宽是通过交叉验证获得的。最后,对于每个设置,计算“oracle”估计值,即当真回归函数为克已知(汤普森的“理想”估计等. (1991)). 这是最佳估计器的基准。在每个模拟场景中,执行500(或1000)次运行,其中使用了来自数值算法组C++的随机生成器g05ddc(数值算法组,1998).
4.2.1. 这个案子d日=2
根据我们之前的讨论,可以预计信号的振荡和平滑度克将显著影响权重方案的有效选择。因此,我们考虑了以下回归函数(图。4):
(在x个-方向);
(在x个-方向);
(双向摆动);
(双向强烈振荡);
(多项式函数);
(单调函数);
(棋盘式功能);
(17)
(尖峰函数);
(18)
图4
功能(a)克三(x个,年),(b)克7(x个,年) (■,克7(x个,年)=1)和(c)克8(x个,年)
考虑了以下差异估计值:
- (a)
残差如图所示。5(a) ,其中每行上都有多项式差分格式(d日0,d日1,d日2)选择=(1,−2,1)/√6;
- (b)
残差如图所示。5(b) 多项式差分格式,如(a)所示;
- (c)
残差如图所示。5(c) 多项式差分格式,如(a)所示;
- (d)
残差如图所示。5(d) 和多项式差分格式(d日0,d日1,d日2,d日三,d日4)=(1,−4,6,−4,1)/√70;
- (e)
残差如图所示。5(e) 多项式差分格式,如(a)所示;
- (f)
残差如图所示。5(f) 多项式差分格式,如(d)所示。
此外,对于具有2阶最优差分格式的相同估计(d日0,d日1,d日2)=(0.809,−0.5,−0.309),顺序为4(d日0,d日1,d日2,d日三,d日4)=(0.2708,-0.0142,0.6909,-0.4858,-0.4617)(霍尔等。,1990). 结果估计值表示为。在下表中,我们使用符号4.222用于4.22×10−2等等。
在表中1,中强烈振荡信号的结果x个-方向(克1)显示,其中σ2=0.25,0.5. 注意这里年-方向是线性的。从表1可以得出结论,对于较大的样本量,沿x个-正如预期的那样,轴方向导致的偏差比多项式估计值大得多。当然,如果在年-方向,所得估计器的性能优于多项式加权方案,特别是对于样本大小,其中n个1,n个230.此外,在x个-当样本量增加时,方向导致MSE降低(n个1=n个2=100). 对于较小的样本大小(n个1,n个230)未观察到这种情况。注意,这与我们在定理4中的理论发现一致,其中偏差随着第页增加。对于较大的样本量,在大多数情况下,方差在这种设置中占主导地位。然而,对于沿x个-方差由平方偏差控制。用于沿着x个-方向上,多项式差分格式的性能优于相应的最优差分格式。此外,根据表1显然,对于多项式加权方案第页=2在大多数情况下优于第页=4,这是由于方差较小。这符合霍尔的建议等。(1991)使用短而紧凑的配置。最后,我们提到这些发现与噪声水平无关;类似结果适用于σ2=1(未显示)。
σ2. | (n个1,n个2). | 方差估计量. | 多项式差分格式的结果. | 最佳差异的结果. | 甲骨文公司. |
---|
第页=2. | 第页=4. | 第页=2. | 第页=4. |
---|
. | . | . | . | . | . | . | . |
---|
0.25 | (10,10) | 偏见2 | 2.491 | 1.435 | 6.601 | 3.695 | 4.512 | 1.214 | 7.382 | 5.974 | 9.136 |
| 方差 | 1.772 | 2.78三 | 4.442 | 4.95三 | 4.75三 | 1.81三 | 7.23三 | 2.32三 | 1.12三 |
(10,25) | 偏见2 | 2.341 | 5.446 | 6.211 | 1.092 | 4.132 | 4.746 | 6.722 | 1.975 | 3.517 |
| 方差 | 7.44三 | 1.09三 | 1.862 | 3.13三 | 1.85三 | 6.394 | 2.73三 | 6.804 | 4.844 |
(25,10) | 偏见2 | 1.02三 | 1.308 | 1.605 | 5.19三 | 2.922 | 6.185 | 5.972 | 4.564 | 1.297 |
| 方差 | 1.08三 | 1.15三 | 1.52三 | 1三 | 1.44三 | 7.534 | 2.29三 | 9.614 | 5.024 |
(30,30) | 偏见2 | 2.294 | 2.907 | 1.576 | 3.757 | 1.542 | 1.666 | 4.912 | 9.436 | 5.777 |
| 方差 | 2.964 | 2.744 | 4.034 | 3.994 | 3.134 | 1.814 | 5.554 | 1.774 | 1.404 |
(100,100) | 偏见2 | 1.609 | 2.188 | 19 | 5.238 | 1.684 | <1.012 | 1.36三 | 1.898 | 1.468 |
| 方差 | 2.485 | 2.255 | 3.415 | 3.075 | 1.605 | 1.535 | 1.515 | 1.425 | 1.225 |
0.5 | (10,10) | 偏见2 | 2.441 | 3.906 | 6.491 | 1.035 | 4.472 | 1.044 | 7.302 | 5.464 | 1.185 |
| 方差 | 4.242 | 1.152 | 1.011 | 1.852 | 1.342 | 7.50三 | 1.842 | 9.07三 | 5.25三 |
(10,25) | 偏见2 | 2.351 | 8.536 | 6.221 | 4.212 | 4.302 | 4.806 | 7.012 | 1.525 | 4.246 |
| 方差 | 1.602 | 4.51三 | 3.912 | 1.322 | 5.23三 | 2.71三 | 7.22三 | 2.59三 | 1.90三 |
(25,10) | 偏见2 | 1.05三 | 2.225 | 1.875 | 22 | 2.942 | 1.214 | 5.892 | 6.184 | 1.525 |
| 方差 | 4.35三 | 4.43三 | 5.94三 | 3.56三 | 4.52三 | 3.04三 | 6.22三 | 3.77三 | 2.27三 |
(30,30) | 偏见2 | 1.504 | 6.247 | 4.046 | 1.716 | 1.492 | 1.797 | 4.802 | 9.738 | 2.556 |
| 方差 | 1.15三 | 1.11三 | 1.65三 | 1.64三 | 1.06三 | 7.664 | 1.60三 | 7.204 | 5.864 |
(100,100) | 偏见2 | 3.509 | 2.037 | 1.318 | 2.877 | 1.764 | 3.248 | 1.37三 | 6.798 | 2.509 |
| 方差 | 1.014 | 9.365 | 1.404 | 1.314 | 5.965 | 6.045 | 5.515 | 5.455 | 4.615 |
σ2. | (n个1,n个2). | 方差估计量. | 多项式差分格式的结果. | 最佳差异的结果. | 甲骨文公司. |
---|
第页=2. | 第页=4. | 第页=2. | 第页=4. |
---|
. | . | . | . | . | . | . | . |
---|
0.25 | (10,10) | 偏见2 | 2.491 | 1.435 | 6.601 | 3.695 | 4.512 | 1.214 | 7.382 | 5.974 | 9.136 |
| 方差 | 1.772 | 2.78三 | 4.442 | 4.95三 | 4.75三 | 1.81三 | 7.23三 | 2.32三 | 1.12三 |
(10,25) | 偏见2 | 2.341 | 5.446 | 6.211 | 1.092 | 4.132 | 4.746 | 6.722 | 1.975 | 3.517 |
| 方差 | 7.44三 | 1.09三 | 1.862 | 3.13三 | 1.85三 | 6.394 | 2.73三 | 6.804 | 4.844 |
(25,10) | 偏见2 | 1.02三 | 1.308 | 1.605 | 5.19三 | 2.922 | 6.185 | 5.972 | 4.564 | 1.297 |
| 方差 | 1.08三 | 1.15三 | 1.52三 | 1三 | 1.44三 | 7.534 | 2.29三 | 9.614 | 5.024 |
(30,30) | 偏见2 | 2.294 | 2.907 | 1.576 | 3.757 | 1.542 | 1.666 | 4.912 | 9.436 | 5.777 |
| 方差 | 2.964 | 2.744 | 4.034 | 3.994 | 3.134 | 1.814 | 5.554 | 1.774 | 1.404 |
(100,100) | 偏见2 | 1.609 | 2.188 | 19 | 5.238 | 1.684 | <1.012 | 1.36三 | 1.898 | 1.468 |
| 方差 | 2.485 | 2.255 | 3.415 | 3.075 | 1.605 | 1.535 | 1.515 | 1.425 | 1.225 |
0.5 | (10,10) | 偏见2 | 2.441 | 3.906 | 6.491 | 1.035 | 4.472 | 1.044 | 7.302 | 5.464 | 1.185 |
| 方差 | 4.242 | 1.152 | 1.011 | 1.852 | 1.342 | 7.50三 | 1.842 | 9.07三 | 5.25三 |
(10,25) | 偏见2 | 2.351 | 8.536 | 6.221 | 4.212 | 4.302 | 4.806 | 7.012 | 1.525 | 4.246 |
| 方差 | 1.602 | 4.51三 | 3.912 | 1.322 | 5.23三 | 2.71三 | 7.22三 | 2.59三 | 1.90三 |
(25,10) | 偏见2 | 1.05三 | 2.225 | 1.875 | 22 | 2.942 | 1.214 | 5.892 | 6.184 | 1.525 |
| 方差 | 4.35三 | 4.43三 | 5.94三 | 3.56三 | 4.52三 | 3.04三 | 6.22三 | 3.77三 | 2.27三 |
(30,30) | 偏见2 | 1.504 | 6.247 | 4.046 | 1.716 | 1.492 | 1.797 | 4.802 | 9.738 | 2.556 |
| 方差 | 1.15三 | 1.11三 | 1.65三 | 1.64三 | 1.06三 | 7.664 | 1.60三 | 7.204 | 5.864 |
(100,100) | 偏见2 | 3.509 | 2.037 | 1.318 | 2.877 | 1.764 | 3.248 | 1.37三 | 6.798 | 2.509 |
| 方差 | 1.014 | 9.365 | 1.404 | 1.314 | 5.965 | 6.045 | 5.515 | 5.455 | 4.615 |
σ2. | (n个1,n个2). | 方差估计量. | 多项式差分格式的结果. | 最佳差异的结果. | 甲骨文公司. |
---|
第页=2. | 第页=4. | 第页=2. | 第页=4. |
---|
. | . | . | . | . | . | . | . |
---|
0.25 | (10,10) | 偏见2 | 2.491 | 1.435 | 6.601 | 3.695 | 4.512 | 1.214 | 7.382 | 5.974 | 9.136 |
| 方差 | 1.772 | 2.78三 | 4.442 | 4.95三 | 4.75三 | 1.81三 | 7.23三 | 2.32三 | 1.12三 |
(10,25) | 偏差2 | 2.341 | 5.446 | 6.211 | 1.092 | 4.132 | 4.746 | 6.722 | 1.975 | 3.517 |
| 方差 | 7.44三 | 1.09三 | 1.862 | 3.13三 | 1.85三 | 6.394 | 2.73三 | 6.804 | 4.844 |
(25,10) | 偏见2 | 1.02三 | 1.308 | 1.605 | 5.19三 | 2.922 | 6.185 | 5.972 | 4.564 | 1.297 |
| 方差 | 1.08三 | 1.15三 | 1.52三 | 1三 | 1.44三 | 7.534 | 2.29三 | 9.614 | 5.024 |
(30,30) | 偏见2 | 2.294 | 2.907 | 1.576 | 3.757 | 1.542 | 1.666 | 4.912 | 9.436 | 5.777 |
| 方差 | 2.964 | 2.744 | 4.034 | 3.994 | 3.134 | 1.814 | 5.554 | 1.774 | 1.404 |
(100,100) | 偏见2 | 1.609 | 2.188 | 19 | 5.238 | 1.684 | <1.012 | 1.36三 | 1.898 | 1.468 |
| 方差 | 2.485 | 2.255 | 3.415 | 3.075 | 1.605 | 1.535 | 1.515 | 1.425 | 1.225 |
0.5 | (10,10) | 偏见2 | 2.441 | 3.906 | 6.491 | 1.035 | 4.472 | 1.044 | 7.302 | 5.464 | 1.185 |
| 方差 | 4.242 | 1.152 | 1.011 | 1.852 | 1.342 | 7.50三 | 1.842 | 9.07三 | 5.25三 |
(10,25) | 偏见2 | 2.351 | 8.536 | 6.221 | 4.212 | 4.302 | 4.806 | 7.012 | 1.525 | 4.246 |
| 方差 | 1.602 | 4.51三 | 3.912 | 1.322 | 5.23三 | 2.71三 | 7.22三 | 2.59三 | 1.90三 |
(25,10) | 偏差2 | 1.05三 | 2.225 | 1.875 | 22 | 2.942 | 1.214 | 5.892 | 6.184 | 1.525 |
| 方差 | 4.35三 | 4.43三 | 5.94三 | 3.56三 | 4.52三 | 3.04三 | 6.22三 | 3.77三 | 2.27三 |
(30,30) | 偏见2 | 1.504 | 6.247 | 4.046 | 1.716 | 1.492 | 1.797 | 4.802 | 9.738 | 2.556 |
| 方差 | 1.15三 | 1.11三 | 1.65三 | 1.64三 | 1.06三 | 7.664 | 1.60三 | 7.204 | 5.864 |
(100,100) | 偏见2 | 3.509 | 2.037 | 1.318 | 2.877 | 1.764 | 3.248 | 1.37三 | 6.798 | 2.509 |
| 方差 | 1.014 | 9.365 | 1.404 | 1.314 | 5.965 | 6.045 | 5.515 | 5.455 | 4.615 |
σ2. | (n个1,n个2). | 方差估计量. | 多项式差分格式的结果. | 最佳差异的结果. | 甲骨文公司. |
---|
第页=2. | 第页=4. | 第页=2. | 第页=4. |
---|
. | . | . | . | . | . | . | . |
---|
0.25 | (10,10) | 偏见2 | 2.491 | 1.435 | 6.601 | 3.695 | 4.512 | 1.214 | 7.382 | 5.974 | 9.136 |
| 方差 | 1.772 | 2.78三 | 4.442 | 4.95三 | 4.75三 | 1.81三 | 7.23三 | 2.32三 | 1.12三 |
(10,25) | 偏见2 | 2.341 | 5.446 | 6.211 | 1.092 | 4.132 | 4.746 | 6.722 | 1.975 | 3.517 |
| 方差 | 7.44三 | 1.09三 | 1.862 | 3.13三 | 1.85三 | 6.394 | 2.73三 | 6.804 | 4.844 |
(25,10) | 偏见2 | 1.02三 | 1.308 | 1.605 | 5.19三 | 2.922 | 6.185 | 5.972 | 4.564 | 1.297 |
| 方差 | 1.08三 | 1.15三 | 1.52三 | 1三 | 1.44三 | 7.534 | 2.29三 | 9.614 | 5.024 |
(30,30) | 偏见2 | 2.294 | 2.907 | 1.576 | 3.757 | 1.542 | 1.666 | 4.912 | 9.436 | 5.777 |
| 方差 | 2.964 | 2.744 | 4.034 | 3.994 | 3.134 | 1.814 | 5.554 | 1.774 | 1.404 |
(100,100) | 偏见2 | 1.609 | 2.188 | 19 | 5.238 | 1.684 | <1.012 | 1.36三 | 1.898 | 1.468 |
| 方差 | 2.485 | 2.255 | 3.415 | 3.075 | 1.605 | 1.535 | 1.515 | 1.425 | 1.225 |
0.5 | (10,10) | 偏见2 | 2.441 | 3.906 | 6.491 | 1.035 | 4.472 | 1.044 | 7.302 | 5.464 | 1.185 |
| 方差 | 4.242 | 1.152 | 1.011 | 1.852 | 1.342 | 7.50三 | 1.842 | 9.07三 | 5.25三 |
(10,25) | 偏见2 | 2.351 | 8.536 | 6.221 | 4.212 | 4.302 | 4.806 | 7.012 | 1.525 | 4.246 |
| 方差 | 1.602 | 4.51三 | 3.912 | 1.322 | 5.23三 | 2.71三 | 7.22三 | 2.59三 | 1.90三 |
(25,10) | 偏见2 | 1.05三 | 2.225 | 1.875 | 22 | 2.942 | 1.214 | 5.892 | 6.184 | 1.525 |
| 方差 | 4.35三 | 4.43三 | 5.94三 | 3.56三 | 4.52三 | 3.04三 | 6.22三 | 3.77三 | 2.27三 |
(30,30) | 偏见2 | 1.504 | 6.247 | 4.046 | 1.716 | 1.492 | 1.797 | 4.802 | 9.738 | 2.556 |
| 方差 | 1.15三 | 1.11三 | 1.65三 | 1.64三 | 1.06三 | 7.664 | 1.60三 | 7.204 | 5.864 |
(100,100) | 偏见2 | 3.509 | 2.037 | 1.318 | 2.877 | 1.764 | 3.248 | 1.37三 | 6.798 | 2.509 |
| 方差 | 1.014 | 9.365 | 1.404 | 1.314 | 5.965 | 6.045 | 5.515 | 5.455 | 4.615 |
在表中2比较了各种回归函数。这里只有残差的短而紧凑的配置,如图5(a) 以及5(b) 已考虑。在大多数情况下,除了强振荡信号外,方差主导平方偏差(克4). 表2每一行的差异大多具有可比性。对于振荡和非平滑信号,多项式加权方案产生的偏差小于最佳加权方案,尤其是对于较大的样本量。很明显,对于基于差分的估计量,对于振荡不太强烈的光滑函数,星形配置往往优于十字配置。这是由于第一名估计员考虑的残差数量较多,导致方差减少。就MSE而言,多项式加权方案往往优于振荡函数的最优加权方案(克三和克4)和棋盘型函数克7一般来说,核估计量和局部线性估计量与基于差分的估计量相比具有可比性,甚至效率更高,但强振荡信号除外,其中应使用多项式差分估计量(克8). 然而,必须考虑到,由于带宽的交叉验证,核和局部线性估计器的计算时间远高于基于差分的估计器。例如,对于n个1,n个2=30在具有512 MB随机访问内存和1.8 GHz差分估计器的奔腾4计算机上,单个估计器需要15 ms,而核估计器大约需要15 s(1000倍)。
(n个1,n个2). | 回归函数. | 方差估计器. | . | . | . | . | . | . | 甲骨文公司. |
---|
(10,10) | 克2 | 偏见2 | 7.495 | 1.745 | 3.60三 | 2.08三 | 1.724 | 1.074 | 4.766 |
| 方差 | 8.52三 | 1.022 | 7.37三 | 7.60三 | 6.64三 | 6.77三 | 4.99三 |
克三 | 偏见2 | 3.94三 | 2.094 | 9.212 | 6.962 | 1.97三 | 1.31三 | 2.395 |
| 方差 | 8.48三 | 9.48三 | 1.182 | 1.142 | 7.24三 | 8.29三 | 4.63三 |
克4 | 偏见2 | 2.871 | 2.081 | 2.801 | 6.231 | 2.481 | 2.631 | 4.898 |
| 方差 | 2.562 | 2.472 | 2.242 | 4.262 | 1.622 | 1.662 | 4.77三 |
克5 | 偏见2 | 6.107 | 6.136 | 6.935 | 5.165 | 5.435 | 3.275 | 2.738 |
| 方差 | 9.53三 | 1.152 | 7.36三 | 8.32三 | 5.52三 | 5.44三 | 5三 |
克6 | 偏见2 | 1.046 | 1.767 | 4.796 | 2.598 | 6.455 | 2.025 | 7.936 |
| 方差 | 1.012 | 1.232 | 7.87三 | 8.63三 | 5.78三 | 5.49三 | 4.85三 |
克7 | 偏见2 | 1.672 | 8.20三 | 4.362 | 3.742 | 7.70三 | 8.48三 | 1.295 |
| 方差 | 1.342 | 1.592 | 1.312 | 1.402 | 8.69三 | 9.22三 | 5.38三 |
克8 | 偏见2 | 4.20三 | 2.28三 | 3.70三 | 1.80三 | 1.71三 | 1.82三 | 8.907 |
| 方差 | 1.192 | 1.232 | 8.41三 | 8.52三 | 6.63三 | 7.68三 | 4.99三 |
(30,30) | 克2 | 偏见2 | 3.597 | 18 | 4.675 | 2.105 | 1.845 | 2.735 | 1.128 |
| 方差 | 6.894 | 9.014 | 5.854 | 6.234 | 5.204 | 5.874 | 5.104 |
克三 | 偏见2 | 1.35三 | 6.224 | 5.63三 | 3三 | 2.11三 | 2.16三 | 7.107 |
| 方差 | 8.414 | 8.864 | 8.154 | 8.164 | 8.214 | 7.824 | 64 |
克4 | 偏见2 | 7.984 | 6.705 | 4.712 | 2.902 | 1.12三 | 9.624 | 1.676 |
| 方差 | 8.414 | 9.754 | 9.244 | 9.064 | 1.06三 | 9.934 | 64 |
克5 | 偏见2 | 1.826 | 1.766 | 4.867 | 1.016 | 6.378 | 2.809 | 6.037 |
| 方差 | 7.674 | 9.434 | 6.564 | 6.904 | 5.824 | 5.594 | 5.874 |
克6 | 偏见2 | 5.488 | 1.378 | 110 | 2.228 | 4.888 | 3.537 | 1.177 |
| 方差 | 7.804 | 9.474 | 7.014 | 7.364 | 6.284 | 5.414 | 5.704 |
克7 | 偏见2 | 5.686 | 6.566 | 1.97三 | 9.614 | 9.245 | 7.195 | 1.926 |
| 方差 | 7.504 | 8.914 | 6.664 | 7.144 | 6.204 | 6.654 | 5.514 |
克8 | 偏见2 | 7.984 | 6.705 | 4.712 | 2.902 | 1.12三 | 9.624 | 1.676 |
| 方差 | 8.414 | 9.754 | 9.244 | 9.064 | 1.06三 | 9.934 | 64 |
(n个1,n个2). | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
(10,10) | 克2 | 偏见2 | 7.495 | 1.745 | 3.60三 | 2.08三 | 1.724 | 1.074 | 4.766 |
| 方差 | 8.52三 | 1.022 | 7.37三 | 7.60三 | 6.64三 | 6.77三 | 4.99三 |
克三 | 偏见2 | 3.94三 | 2.094 | 9.212 | 6.962 | 1.97三 | 1.31三 | 2.395 |
| 方差 | 8.48三 | 9.48三 | 1.182 | 1.142 | 7.24三 | 8.29三 | 4.63三 |
克4 | 偏见2 | 2.871 | 2.081 | 2.801 | 6.231 | 2.481 | 2.631 | 4.898 |
| 方差 | 2.562 | 2.472 | 2.242 | 4.262 | 1.622 | 1.662 | 4.77三 |
克5 | 偏见2 | 6.107 | 6.136 | 6.935 | 5.165 | 5.435 | 3.275 | 2.738 |
| 方差 | 9.53三 | 1.152 | 7.36三 | 8.32三 | 5.52三 | 5.44三 | 5三 |
克6 | 偏见2 | 1.046 | 1.767 | 4.796 | 2.598 | 6.455 | 2.025 | 7.936 |
| 方差 | 1.012 | 1.232 | 7.87三 | 8.63三 | 5.78三 | 5.49三 | 4.85三 |
克7 | 偏见2 | 1.672 | 8.20三 | 4.362 | 3.742 | 7.70三 | 8.48三 | 1.295 |
| 方差 | 1.342 | 1.592 | 1.312 | 1.402 | 8.69三 | 9.22三 | 5.38三 |
克8 | 偏见2 | 4.20三 | 2.28三 | 3.70三 | 1.80三 | 1.71三 | 1.82三 | 8.907 |
| 方差 | 1.192 | 1.232 | 8.41三 | 8.52三 | 6.63三 | 7.68三 | 4.99三 |
(30,30) | 克2 | 偏见2 | 3.597 | 18 | 4.675 | 2.105 | 1.845 | 2.735 | 1.128 |
| 方差 | 6.894 | 9.014 | 5.854 | 6.234 | 5.204 | 5.874 | 5.104 |
克三 | 偏见2 | 1.35三 | 6.224 | 5.63三 | 3三 | 2.11三 | 2.16三 | 7.107 |
| 方差 | 8.414 | 8.864 | 8.154 | 8.164 | 8.214 | 7.824 | 64 |
克4 | 偏见2 | 7.984 | 6.705 | 4.712 | 2.902 | 1.12三 | 9.624 | 1.676 |
| 方差 | 8.414 | 9.754 | 9.244 | 9.064 | 1.06三 | 9.934 | 64 |
克5 | 偏见2 | 1.826 | 1.766 | 4.867 | 1.016 | 6.378 | 2.809 | 6.037 |
| 方差 | 7.674 | 9.434 | 6.564 | 6.904 | 5.824 | 5.594 | 5.874 |
克6 | 偏见2 | 5.488 | 1.378 | 110 | 2.228 | 4.888 | 3.537 | 1.177 |
| 方差 | 7.804 | 9.474 | 7.014 | 7.364 | 6.284 | 5.414 | 5.704 |
克7 | 偏见2 | 5.686 | 6.566 | 1.97三 | 9.614 | 9.245 | 7.195 | 1.926 |
| 方差 | 7.504 | 8.914 | 6.664 | 7.144 | 6.204 | 6.654 | 5.514 |
克8 | 偏见2 | 7.984 | 6.705 | 4.712 | 2.902 | 1.12三 | 9.624 | 1.676 |
| 方差 | 8.414 | 9.754 | 9.244 | 9.064 | 1.06三 | 9.934 | 64 |
(n个1,n个2). | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
(10,10) | 克2 | 偏见2 | 7.495 | 1.745 | 3.60三 | 2.08三 | 1.724 | 1.074 | 4.766 |
| 方差 | 8.52三 | 1.022 | 7.37三 | 7.60三 | 6.64三 | 6.77三 | 4.99三 |
克三 | 偏见2 | 3.94三 | 2.094 | 9.212 | 6.962 | 1.97三 | 1.31三 | 2.395 |
| 方差 | 8.48三 | 9.48三 | 1.182 | 1.142 | 7.24三 | 8.29三 | 4.63三 |
克4 | 偏见2 | 2.871 | 2.081 | 2.801 | 6.231 | 2.481 | 2.631 | 4.898 |
| 方差 | 2.562 | 2.472 | 2.242 | 4.262 | 1.622 | 1.662 | 4.77三 |
克5 | 偏见2 | 6.107 | 6.136 | 6.935 | 5.165 | 5.435 | 3.275 | 2.738 |
| 方差 | 9.53三 | 1.152 | 7.36三 | 8.32三 | 5.52三 | 5.44三 | 5三 |
克6 | 偏见2 | 1.046 | 1.767 | 4.796 | 2.598 | 6.455 | 2.025 | 7.936 |
| 方差 | 1.012 | 1.232 | 7.87三 | 8.63三 | 5.78三 | 5.49三 | 4.85三 |
克7 | 偏见2 | 1.672 | 8.20三 | 4.362 | 3.742 | 7.70三 | 8.48三 | 1.295 |
| 方差 | 1.342 | 1.592 | 1.312 | 1.402 | 8.69三 | 9.22三 | 5.38三 |
克8 | 偏见2 | 4.20三 | 2.28三 | 3.70三 | 1.80三 | 1.71三 | 1.82三 | 8.907 |
| 方差 | 1.192 | 1.232 | 8.41三 | 8.52三 | 6.63三 | 7.68三 | 4.99三 |
(30,30) | 克2 | 偏见2 | 3.597 | 18 | 4.675 | 2.105 | 1.845 | 2.735 | 1.128 |
| 方差 | 6.894 | 9.014 | 5.854 | 6.234 | 5.204 | 5.874 | 5.104 |
克三 | 偏见2 | 1.35三 | 6.224 | 5.63三 | 3三 | 2.11三 | 2.16三 | 7.107 |
| 方差 | 8.414 | 8.864 | 8.154 | 8.164 | 8.214 | 7.824 | 64 |
克4 | 偏见2 | 7.984 | 6.705 | 4.712 | 2.902 | 1.12三 | 9.624 | 1.676 |
| 方差 | 8.414 | 9.754 | 9.244 | 9.064 | 1.06三 | 9.934 | 64 |
克5 | 偏见2 | 1.826 | 1.766 | 4.867 | 1.016 | 6.378 | 2.809 | 6.037 |
| 方差 | 7.674 | 9.434 | 6.564 | 6.904 | 5.824 | 5.594 | 5.874 |
克6 | 偏见2 | 5.488 | 1.378 | 110 | 2.228 | 4.888 | 3.537 | 1.177 |
| 方差 | 7.804 | 9.474 | 7.014 | 7.364 | 6.284 | 5.414 | 5.704 |
克7 | 偏见2 | 5.686 | 6.566 | 1.97三 | 9.614 | 9.245 | 7.195 | 1.926 |
| 方差 | 7.504 | 8.914 | 6.664 | 7.144 | 6.204 | 6.654 | 5.514 |
克8 | 偏见2 | 7.984 | 6.705 | 4.712 | 2.902 | 1.12三 | 9.624 | 1.676 |
| 方差 | 8.414 | 9.754 | 9.244 | 9.064 | 1.06三 | 9.934 | 64 |
(n个1,n个2). | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
(10,10) | 克2 | 偏见2 | 7.495 | 1.745 | 3.60三 | 2.08三 | 1.724 | 1.074 | 4.766 |
| 方差 | 8.52三 | 1.022 | 7.37三 | 7.60三 | 6.64三 | 6.77三 | 4.99三 |
克三 | 偏见2 | 3.94三 | 2.094 | 9.212 | 6.962 | 1.97三 | 1.31三 | 2.395 |
| 方差 | 8.48三 | 9.48三 | 1.182 | 1.142 | 7.24三 | 8.29三 | 4.63三 |
克4 | 偏见2 | 2.871 | 2.081 | 2.801 | 6.231 | 2.481 | 2.631 | 4.898 |
| 方差 | 2.562 | 2.472 | 2.242 | 4.262 | 1.622 | 1.662 | 4.77三 |
克5 | 偏见2 | 6.107 | 6.136 | 6.935 | 5.165 | 5.435 | 3.275 | 2.738 |
| 方差 | 9.53三 | 1.152 | 7.36三 | 8.32三 | 5.52三 | 5.44三 | 5三 |
克6 | 偏见2 | 1.046 | 1.767 | 4.796 | 2.598 | 6.455 | 2.025 | 7.936 |
| 方差 | 1.012 | 1.232 | 7.87三 | 8.63三 | 5.78三 | 5.49三 | 4.85三 |
克7 | 偏见2 | 1.672 | 8.20三 | 4.362 | 3.742 | 7.70三 | 8.48三 | 1.295 |
| 方差 | 1.342 | 1.592 | 1.312 | 1.402 | 8.69三 | 9.22三 | 5.38三 |
克8 | 偏见2 | 4.20三 | 2.28三 | 3.70三 | 1.80三 | 1.71三 | 1.82三 | 8.907 |
| 方差 | 1.192 | 1.232 | 8.41三 | 8.52三 | 6.63三 | 7.68三 | 4.99三 |
(30,30) | 克2 | 偏见2 | 3.597 | 18 | 4.675 | 2.105 | 1.845 | 2.735 | 1.128 |
| 方差 | 6.894 | 9.014 | 5.854 | 6.234 | 5.204 | 5.874 | 5.104 |
克三 | 偏见2 | 1.35三 | 6.224 | 5.63三 | 3三 | 2.11三 | 2.16三 | 7.107 |
| 方差 | 8.414 | 8.864 | 8.154 | 8.164 | 8.214 | 7.824 | 64 |
克4 | 偏见2 | 7.984 | 6.705 | 4.712 | 2.902 | 1.12三 | 9.624 | 1.676 |
| 方差 | 8.414 | 9.754 | 9.244 | 9.064 | 1.06三 | 9.934 | 64 |
克5 | 偏见2 | 1.826 | 1.766 | 4.867 | 1.016 | 6.378 | 2.809 | 6.037 |
| 方差 | 7.674 | 9.434 | 6.564 | 6.904 | 5.824 | 5.594 | 5.874 |
克6 | 偏见2 | 5.488 | 1.378 | 110 | 2.228 | 4.888 | 3.537 | 1.177 |
| 方差 | 7.804 | 9.474 | 7.014 | 7.364 | 6.284 | 5.414 | 5.704 |
克7 | 偏见2 | 5.686 | 6.566 | 1.97三 | 9.614 | 9.245 | 7.195 | 1.926 |
| 方差 | 7.504 | 8.914 | 6.664 | 7.144 | 6.204 | 6.654 | 5.514 |
克8 | 偏见2 | 7.984 | 6.705 | 4.712 | 2.902 | 1.12三 | 9.624 | 1.676 |
| 方差 | 8.414 | 9.754 | 9.244 | 9.064 | 1.06三 | 9.934 | 64 |
4.2.2. 这个案子d日=3
在下面的内容中,我们简要地考虑一下这个案例d日=3,使用回归函数
具有克7小时根据方程式(17),
具有克8小时根据方程式(18),和基于“星形”差分的阶估计第页=2,
采用多项式差分格式。使用最优差分方案的相同估计器称为.基数是n个对:=#对此外,我们研究了“十字形”估计量
用多项式差分格式及其对应项具有最优差分方案。基数是n个对我:=#对我对于我=1,2,3.
在表格中三和4为选择的结果d日显示=3。可以看出,对于振荡信号,多项式加权方案的性能大多优于最佳加权方案,并且十字形估值器往往优于相应的星形估值器在大多数情况下,平方偏差主导估计值的方差。有趣的是,这对于棋盘型函数来说是不成立的克三随着样本量的增加,采用多项式加权方案。同样,核估计量和局部线性估计量对所考虑的样本大小产生了可比较的结果,并且对于非强烈振荡信号,其性能优于基于差分的估计量,而估计量产生振荡信号的最佳结果,特别是对于较大的样本大小。请注意,例如,对于n个1,n个2,n个三=10,核估计量的计算时间约为差分估计量的1300倍。对于较大的样本量(50,50,50)和(100100100),最优加权差分估计量总是优于偏减多项式加权估计量。这里很明显d日则偏置越成为MSE的主导项。
(n个1,n个2,n个三). | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
(5,5,5) | 克1 | 偏差2 | 2.581 | 2.681 | 1.181 | 5.691 | 2.481 | 2.411 | 3.506 |
| 方差 | 1.482 | 9.81三 | 4.20三 | 1.052 | 5.73三 | 5.82三 | 1.01三 |
克2 | 偏见2 | 2.991 | 2.551 | 9.641 | 4.571 | 2.561 | 2.571 | 7.258 |
| 方差 | 1.942 | 1.082 | 1.992 | 1.042 | 5.21三 | 5.29三 | 1.01三 |
克三 | 偏见2 | 5.272 | 5.242 | 5.082 | 5.142 | 1.722 | 2.322 | 2.426 |
| 方差 | 9.73三 | 5.21三 | 4.09三 | 3.25三 | 2.79三 | 2.89三 | 9.734 |
克4 | 偏见2 | 6.68三 | 3.07三 | 3.32三 | 2.10三 | 1.46三 | 2.03三 | 3.516 |
| 方差 | 6.08三 | 2.80三 | 2.25三 | 1.61三 | 1.84三 | 1.83三 | 1.02三 |
(10,10,10) | 克1 | 偏见2 | 1.402 | 1.141 | 3.514 | 6.992 | 1.73三 | 1.53三 | 1.768 |
| 方差 | 2.954 | 5.304 | 1.664 | 3.094 | 1.564 | 1.954 | 1.154 |
克2 | 偏见2 | 2.571 | 2.721 | 2.111 | 6.031 | 2.491 | 2.501 | 19 |
| 方差 | 1.04三 | 8.904 | 6.114 | 1.31三 | 7.064 | 6.374 | 1.214 |
克三 | 偏见2 | 8.76三 | 2.382 | 2.41三 | 1.212 | 1.73三 | 1.79三 | 2.047 |
| 方差 | 3.524 | 3.504 | 1.984 | 2.154 | 2.094 | 2.204 | 1.224 |
克4 | 偏见2 | 4.99三 | 4.93三 | 1.06三 | 1.10三 | 9.524 | 1.17三 | 1.067 |
| 方差 | 4.284 | 2.984 | 2.244 | 1.694 | 2.884 | 3.414 | 1.254 |
(n个1,n个2,n个三). | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
(5,5,5) | 克1 | 偏见2 | 2.581 | 2.681 | 1.181 | 5.691 | 2.481 | 2.411 | 3.506 |
| 方差 | 1.482 | 9.81三 | 4.20三 | 1.052 | 5.73三 | 5.82三 | 1.01三 |
克2 | 偏见2 | 2.991 | 2.551 | 9.641 | 4.571 | 2.561 | 2.571 | 7.258 |
| 方差 | 1.942 | 1.082 | 1.992 | 1.042 | 5.21三 | 5.29三 | 1.01三 |
克三 | 偏见2 | 5.272 | 5.242 | 5.082 | 5.142 | 1.722 | 2.322 | 2.426 |
| 方差 | 9.73三 | 5.21三 | 4.09三 | 3.25三 | 2.79三 | 2.89三 | 9.734 |
克4 | 偏见2 | 6.68三 | 3.07三 | 3.32三 | 2.10三 | 1.46三 | 2.03三 | 3.516 |
| 方差 | 6.08三 | 2.80三 | 2.25三 | 1.61三 | 1.84三 | 1.83三 | 1.02三 |
(10,10,10) | 克1 | 偏见2 | 1.402 | 1.141 | 3.514 | 6.992 | 1.73三 | 1.53三 | 1.768 |
| 方差 | 2.954 | 5.304 | 1.664 | 3.094 | 1.564 | 1.954 | 1.154 |
克2 | 偏差2 | 2.571 | 2.721 | 2.111 | 6.031 | 2.491 | 2.501 | 19 |
| 方差 | 1.04三 | 8.904 | 6.114 | 1.31三 | 7.064 | 6.374 | 1.214 |
克三 | 偏见2 | 8.76三 | 2.382 | 2.41三 | 1.212 | 1.73三 | 1.79三 | 2.047 |
| 方差 | 3.524 | 3.504 | 1.984 | 2.154 | 2.094 | 2.204 | 1.224 |
克4 | 偏见2 | 4.99三 | 4.93三 | 1.06三 | 1.10三 | 9.524 | 1.17三 | 1.067 |
| 方差 | 4.284 | 2.984 | 2.244 | 1.694 | 2.884 | 3.414 | 1.254 |
(n个1,n个2,n个三). | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
(5,5,5) | 克1 | 偏见2 | 2.581 | 2.681 | 1.181 | 5.691 | 2.481 | 2.411 | 3.506 |
| 方差 | 1.482 | 9.81三 | 4.20三 | 1.052 | 5.73三 | 5.82三 | 1.01三 |
克2 | 偏见2 | 2.991 | 2.551 | 9.641 | 4.571 | 2.561 | 2.571 | 7.258 |
| 方差 | 1.942 | 1.082 | 1.992 | 1.042 | 5.21三 | 5.29三 | 1.01三 |
克三 | 偏见2 | 5.272 | 5.242 | 5.082 | 5.142 | 1.722 | 2.322 | 2.426 |
| 方差 | 9.73三 | 5.21三 | 4.09三 | 3.25三 | 2.79三 | 2.89三 | 9.734 |
克4 | 偏见2 | 6.68三 | 3.07三 | 3.32三 | 2.10三 | 1.46三 | 2.03三 | 3.516 |
| 方差 | 6.08三 | 2.80三 | 2.25三 | 1.61三 | 1.84三 | 1.83三 | 1.02三 |
(10,10,10) | 克1 | 偏见2 | 1.402 | 1.141 | 3.514 | 6.992 | 1.73三 | 1.53三 | 1.768 |
| 方差 | 2.954 | 5.304 | 1.664 | 3.094 | 1.564 | 1.954 | 1.154 |
克2 | 偏见2 | 2.571 | 2.721 | 2.111 | 6.031 | 2.491 | 2.501 | 19 |
| 方差 | 1.04三 | 8.904 | 6.114 | 1.31三 | 7.064 | 6.374 | 1.214 |
克三 | 偏见2 | 8.76三 | 2.382 | 2.41三 | 1.212 | 1.73三 | 1.79三 | 2.047 |
| 方差 | 3.524 | 3.504 | 1.984 | 2.154 | 2.094 | 2.204 | 1.224 |
克4 | 偏见2 | 4.99三 | 4.93三 | 1.06三 | 1.10三 | 9.524 | 1.17三 | 1.067 |
| 方差 | 4.284 | 2.984 | 2.244 | 1.694 | 2.884 | 3.414 | 1.254 |
(n个1,n个2,n个三). | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
(5,5,5) | 克1 | 偏见2 | 2.581 | 2.681 | 1.181 | 5.691 | 2.481 | 2.411 | 3.506 |
| 方差 | 1.482 | 9.81三 | 4.20三 | 1.052 | 5.73三 | 5.82三 | 1.01三 |
克2 | 偏见2 | 2.991 | 2.551 | 9.641 | 4.571 | 2.561 | 2.571 | 7.258 |
| 方差 | 1.942 | 1.082 | 1.992 | 1.042 | 5.21三 | 5.29三 | 1.01三 |
克三 | 偏见2 | 5.272 | 5.242 | 5.082 | 5.142 | 1.722 | 2.322 | 2.426 |
| 方差 | 9.73三 | 5.21三 | 4.09三 | 3.25三 | 2.79三 | 2.89三 | 9.734 |
克4 | 偏见2 | 6.68三 | 3.07三 | 3.32三 | 2.10三 | 1.46三 | 2.03三 | 3.516 |
| 方差 | 6.08三 | 2.80三 | 2.25三 | 1.61三 | 1.84三 | 1.83三 | 1.02三 |
(10,10,10) | 克1 | 偏见2 | 1.402 | 1.141 | 3.514 | 6.992 | 1.73三 | 1.53三 | 1.768 |
| 方差 | 2.954 | 5.304 | 1.664 | 3.094 | 1.564 | 1.954 | 1.154 |
克2 | 偏见2 | 2.571 | 2.721 | 2.111 | 6.031 | 2.491 | 2.501 | 19 |
| 方差 | 1.04三 | 8.904 | 6.114 | 1.31三 | 7.064 | 6.374 | 1.214 |
克三 | 偏见2 | 8.76三 | 2.382 | 2.41三 | 1.212 | 1.73三 | 1.79三 | 2.047 |
| 方差 | 3.524 | 3.504 | 1.984 | 2.154 | 2.094 | 2.204 | 1.224 |
克4 | 偏见2 | 4.99三 | 4.93三 | 1.06三 | 1.10三 | 9.524 | 1.17三 | 1.067 |
| 方差 | 4.284 | 2.984 | 2.244 | 1.694 | 2.884 | 3.414 | 1.254 |
(n个1,n个2,n个三). | 回归函数. | 方差估计量. | . | . | . | . | 甲骨文公司. |
---|
(50,50,50) | 克1 | 偏见2 | 2.574 | 1.19三 | 6.185 | 3.124 | 410 |
| 方差 | 1.316 | 1.296 | 1.406 | 1.186 | 1.036 |
克2 | 偏见2 | 2.574 | 2.614 | 5.985 | 6.235 | 210 |
| 方差 | 1.456 | 1.256 | 1.456 | 1.166 | 1.026 |
克三 | 偏见2 | 5.398 | 4.344 | 2.209 | 1.054 | <1.012 |
| 方差 | 1.196 | 1.116 | 1.366 | 1.136 | 1.026 |
克4 | 偏见2 | 6.605 | 1.342 | 7.467 | 3.89三 | <1.012 |
| 方差 | 1.266 | 1.426 | 1.416 | 1.226 | 1.046 |
(100,100,100) | 克1 | 偏见2 | 6.125 | 2.974 | 1.445 | 7.285 | 110 |
| 方差 | 1.537 | 1.497 | 1.737 | 1.477 | 1.317 |
克2 | 偏见2 | 6.875 | 7.375 | 1.555 | 1.575 | 210 |
| 方差 | 1.487 | 1.367 | 1.627 | 1.337 | 1.197 |
克三 | 偏见2 | 210 | 2.695 | 110 | 6.256 | <1.012 |
| 方差 | 1.387 | 1.307 | 1.627 | 1.347 | 1.247 |
克4 | 偏见2 | 2.857 | 9.944 | 3.809 | 2.444 | <1.012 |
| 方差 | 1.377 | 1.307 | 1.657 | 1.337 | 1.197 |
(n个1,n个2,n个三). | 回归函数. | 方差估计量. | . | . | . | . | 甲骨文公司. |
---|
(50,50,50) | 克1 | 偏见2 | 2.574 | 1.19三 | 6.185 | 3.124 | 410 |
| 方差 | 1.316 | 1.296 | 1.406 | 1.186 | 1.036 |
克2 | 偏见2 | 2.574 | 2.614 | 5.985 | 6.235 | 210 |
| 方差 | 1.456 | 1.256 | 1.456 | 1.166 | 1.026 |
克三 | 偏见2 | 5.398 | 4.344 | 2.209 | 1.054 | <1.012 |
| 方差 | 1.196 | 1.116 | 1.366 | 1.136 | 1.026 |
克4 | 偏见2 | 6.605 | 1.342 | 7.467 | 3.89三 | <1.012 |
| 方差 | 1.266 | 1.426 | 1.416 | 1.226 | 1.046 |
(100,100,100) | 克1 | 偏见2 | 6.125 | 2.974 | 1.445 | 7.285 | 110 |
| 方差 | 1.537 | 1.497 | 1.737 | 1.477 | 1.317 |
克2 | 偏见2 | 6.875 | 7.375 | 1.555 | 1.575 | 210 |
| 方差 | 1.487 | 1.367 | 1.627 | 1.337 | 1.197 |
克三 | 偏见2 | 210 | 2.695 | 110 | 6.256 | <1.012 |
| 方差 | 1.387 | 1.307 | 1.627 | 1.347 | 1.247 |
克4 | 偏见2 | 2.857 | 9.944 | 3.809 | 2.444 | <1.012 |
| 方差 | 1.377 | 1.307 | 1.657 | 1.337 | 1.197 |
(n个1,n个2,n个三). | 回归函数. | 方差估计量. | . | . | . | . | 甲骨文公司. |
---|
(50,50,50) | 克1 | 偏见2 | 2.574 | 1.19三 | 6.185 | 3.124 | 410 |
| 方差 | 1.316 | 1.296 | 1.406 | 1.186 | 1.036 |
克2 | 偏差2 | 2.574 | 2.614 | 5.985 | 6.235 | 210 |
| 方差 | 1.456 | 1.256 | 1.456 | 1.166 | 1.026 |
克三 | 偏见2 | 5.398 | 4.344 | 2.209 | 1.054 | <1.012 |
| 方差 | 1.196 | 1.116 | 1.366 | 1.136 | 1.026 |
克4 | 偏见2 | 6.605 | 1.342 | 7.467 | 3.89三 | <1.012 |
| 方差 | 1.266 | 1.426 | 1.416 | 1.226 | 1.046 |
(100,100,100) | 克1 | 偏差2 | 6.125 | 2.974 | 1.445 | 7.285 | 110 |
| 方差 | 1.537 | 1.497 | 1.737 | 1.477 | 1.317 |
克2 | 偏见2 | 6.875 | 7.375 | 1.555 | 1.575 | 210 |
| 方差 | 1.487 | 1.367 | 1.627 | 1.337 | 1.197 |
克三 | 偏见2 | 210 | 2.695 | 110 | 6.256 | <1.012 |
| 方差 | 1.387 | 1.307 | 1.627 | 1.347 | 1.247 |
克4 | 偏见2 | 2.857 | 9.944 | 3.809 | 2.444 | <1.012 |
| 方差 | 1.377 | 1.307 | 1.657 | 1.337 | 1.197 |
(n个1,n个2,n个三). | 回归函数. | 方差估计量. | . | . | . | . | 甲骨文公司. |
---|
(50,50,50) | 克1 | 偏见2 | 2.574 | 1.19三 | 6.185 | 3.124 | 410 |
| 方差 | 1.316 | 1.296 | 1.406 | 1.186 | 1.036 |
克2 | 偏见2 | 2.574 | 2.614 | 5.985 | 6.235 | 210 |
| 方差 | 1.456 | 1.256 | 1.456 | 1.166 | 1.026 |
克三 | 偏见2 | 5.398 | 4.344 | 2.209 | 1.054 | <1.012 |
| 方差 | 1.196 | 1.116 | 1.366 | 1.136 | 1.026 |
克4 | 偏见2 | 6.605 | 1.342 | 7.467 | 3.89三 | <1.012 |
| 方差 | 1.266 | 1.426 | 1.416 | 1.226 | 1.046 |
(100,100,100) | 克1 | 偏见2 | 6.125 | 2.974 | 1.445 | 7.285 | 110 |
| 方差 | 1.537 | 1.497 | 1.737 | 1.477 | 1.317 |
克2 | 偏见2 | 6.875 | 7.375 | 1.555 | 1.575 | 210 |
| 方差 | 1.487 | 1.367 | 1.627 | 1.337 | 1.197 |
克三 | 偏见2 | 210 | 2.695 | 110 | 6.256 | <1.012 |
| 方差 | 1.387 | 1.307 | 1.627 | 1.347 | 1.247 |
克4 | 偏见2 | 2.857 | 9.944 | 3.809 | 2.444 | <1.012 |
| 方差 | 1.377 | 1.307 | 1.657 | 1.337 | 1.197 |
4.2.3. 这个案子d日=4
对于本案d日=4我们考虑了回归函数
具有克7小时根据方程式(17),
具有克8小时根据方程式(18),以及与案例类似的基于差分的估计d日=3.表格5和6显示我们模拟研究的选定结果。我们提到,核和局部多项式估值器仅在小样本情况下计算可行,例如n个我=5,我=1,…,4,由于交叉验证程序。在这种情况下,核估计量的计算需要13 s,对于n个我=6需要54秒n个我=7超过3分钟。
σ2. | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
0.25 | 克1 | 偏见2 | 5.042 | 1.621 | 8.464 | 1.051 | 3.57三 | 3.08三 | 7.647 |
| 方差 | 2.22三 | 1.77三 | 2.864 | 6.234 | 3.144 | 2.894 | 2.024 |
克2 | 偏见2 | 2.461 | 2.531 | 1.131 | 5.631 | 2.511 | 2.471 | 1.026 |
| 方差 | 5.20三 | 2.88三 | 8.434 | 2.22三 | 1.06三 | 1.03三 | 2.174 |
克三 | 偏见2 | 2.852 | 2.852 | 3.062 | 3.052 | 8.63三 | 9.98三 | 4.057 |
| 方差 | 2.28三 | 1.09三 | 5.944 | 4.774 | 3.834 | 4.414 | 1.944 |
克4 | 偏见2 | 3.55三 | 1.72三 | 1.53三 | 1.04三 | 1.01三 | 1.21三 | 1.417 |
| 方差 | 1.46三 | 6.294 | 3.404 | 2.754 | 3.404 | 3.824 | 1.934 |
0.5 | 克1 | 偏差2 | 5.062 | 1.601 | 9.634 | 1.051 | 4.62三 | 4.44三 | 5.186 |
| 方差 | 6.89三 | 5.21三 | 1.13三 | 1.94三 | 1.44三 | 1.41三 | 7.954 |
克2 | 偏见2 | 2.421 | 2.501 | 1.111 | 5.551 | 2.481 | 2.501 | 4.897 |
| 方差 | 1.092 | 5.91三 | 1.88三 | 4.82三 | 2.53三 | 2.35三 | 8.834 |
克三 | 偏见2 | 2.852 | 2.832 | 3.042 | 3.062 | 1.032 | 1.172 | 1.776 |
| 方差 | 6.67三 | 3.56三 | 1.87三 | 1.63三 | 1.45三 | 1.52三 | 8.174 |
克4 | 偏见2 | 3.63三 | 1.60三 | 1.32三 | 8.924 | 1.52三 | 1.51三 | 4.116 |
| 方差 | 4.50三 | 2.07三 | 1.27三 | 1三 | 1.16三 | 1.05三 | 8.134 |
σ2. | 回归函数. | 方差估计器. | . | . | . | . | . | . | 甲骨文公司. |
---|
0.25 | 克1 | 偏见2 | 5.042 | 1.621 | 8.464 | 1.051 | 3.57三 | 3.08三 | 7.647 |
| 方差 | 2.22三 | 1.77三 | 2.864 | 6.234 | 3.144 | 2.894 | 2.024 |
克2 | 偏见2 | 2.461 | 2.531 | 1.131 | 5.631 | 2.511 | 2.471 | 1.026 |
| 方差 | 5.20三 | 2.88三 | 8.434 | 2.22三 | 1.06三 | 1.03三 | 2.174 |
克三 | 偏见2 | 2.852 | 2.852 | 3.062 | 3.052 | 8.63三 | 9.98三 | 4.057 |
| 方差 | 2.28三 | 1.09三 | 5.944 | 4.774 | 3.834 | 4.414 | 1.944 |
克4 | 偏见2 | 3.55三 | 1.72三 | 1.53三 | 1.04三 | 1.01三 | 1.21三 | 1.417 |
| 方差 | 1.46三 | 6.294 | 3.404 | 2.754 | 3.404 | 3.824 | 1.934 |
0.5 | 克1 | 偏见2 | 5.062 | 1.601 | 9.634 | 1.051 | 4.62三 | 4.44三 | 5.186 |
| 方差 | 6.89三 | 5.21三 | 1.13三 | 1.94三 | 1.44三 | 1.41三 | 7.954 |
克2 | 偏见2 | 2.421 | 2.501 | 1.111 | 5.551 | 2.481 | 2.501 | 4.897 |
| 方差 | 1.092 | 5.91三 | 1.88三 | 4.82三 | 2.53三 | 2.35三 | 8.834 |
克三 | 偏见2 | 2.852 | 2.832 | 3.042 | 3.062 | 1.032 | 1.172 | 1.776 |
| 方差 | 6.67三 | 3.56三 | 1.87三 | 1.63三 | 1.45三 | 1.52三 | 8.174 |
克4 | 偏见2 | 3.63三 | 1.60三 | 1.32三 | 8.924 | 1.52三 | 1.51三 | 4.116 |
| 方差 | 4.50三 | 2.07三 | 1.27三 | 1三 | 1.16三 | 1.05三 | 8.134 |
σ2. | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
0.25 | 克1 | 偏见2 | 5.042 | 1.621 | 8.464 | 1.051 | 3.57三 | 3.08三 | 7.647 |
| 方差 | 2.22三 | 1.77三 | 2.864 | 6.234 | 3.144 | 2.894 | 2.024 |
克2 | 偏见2 | 2.461 | 2.531 | 1.131 | 5.631 | 2.511 | 2.471 | 1.026 |
| 方差 | 5.20三 | 2.88三 | 8.434 | 2.22三 | 1.06三 | 1.03三 | 2.174 |
克三 | 偏见2 | 2.852 | 2.852 | 3.062 | 3.052 | 8.63三 | 9.98三 | 4.057 |
| 方差 | 2.28三 | 1.09三 | 5.944 | 4.774 | 3.834 | 4.414 | 1.944 |
克4 | 偏见2 | 3.55三 | 1.72三 | 1.53三 | 1.04三 | 1.01三 | 1.21三 | 1.417 |
| 方差 | 1.46三 | 6.294 | 3.404 | 2.754 | 3.404 | 3.824 | 1.934 |
0.5 | 克1 | 偏见2 | 5.062 | 1.601 | 9.634 | 1.051 | 4.62三 | 4.44三 | 5.186 |
| 方差 | 6.89三 | 5.21三 | 1.13三 | 1.94三 | 1.44三 | 1.41三 | 7.954 |
克2 | 偏见2 | 2.421 | 2.501 | 1.111 | 5.551 | 2.481 | 2.501 | 4.897 |
| 方差 | 1.092 | 5.91三 | 1.88三 | 4.82三 | 2.53三 | 2.35三 | 8.834 |
克三 | 偏见2 | 2.852 | 2.832 | 3.042 | 3.062 | 1.032 | 1.172 | 1.776 |
| 方差 | 6.67三 | 3.56三 | 1.87三 | 1.63三 | 1.45三 | 1.52三 | 8.174 |
克4 | 偏见2 | 3.63三 | 1.60三 | 1.32三 | 8.924 | 1.52三 | 1.51三 | 4.116 |
| 方差 | 4.50三 | 2.07三 | 1.27三 | 1三 | 1.16三 | 1.05三 | 8.134 |
σ2. | 回归函数. | 方差估计量. | . | . | . | . | . | . | 甲骨文公司. |
---|
0.25 | 克1 | 偏差2 | 5.042 | 1.621 | 8.464 | 1.051 | 3.57三 | 3.08三 | 7.647 |
| 方差 | 2.22三 | 1.77三 | 2.864 | 6.234 | 3.144 | 2.894 | 2.024 |
克2 | 偏见2 | 2.461 | 2.531 | 1.131 | 5.631 | 2.511 | 2.471 | 1.026 |
| 方差 | 5.20三 | 2.88三 | 8.434 | 2.22三 | 1.06三 | 1.03三 | 2.174 |
克三 | 偏见2 | 2.852 | 2.852 | 3.062 | 3.052 | 8.63三 | 9.98三 | 4.057 |
| 方差 | 2.28三 | 1.09三 | 5.944 | 4.774 | 3.834 | 4.414 | 1.944 |
克4 | 偏见2 | 3.55三 | 1.72三 | 1.53三 | 1.04三 | 1.01三 | 1.21三 | 1.417 |
| 方差 | 1.46三 | 6.294 | 3.404 | 2.754 | 3.404 | 3.824 | 1.934 |
0.5 | 克1 | 偏见2 | 5.062 | 1.601 | 9.634 | 1.051 | 4.62三 | 4.44三 | 5.186 |
| 方差 | 6.89三 | 5.21三 | 1.13三 | 1.94三 | 1.44三 | 1.41三 | 7.954 |
克2 | 偏见2 | 2.421 | 2.501 | 1.111 | 5.551 | 2.481 | 2.501 | 4.897 |
| 方差 | 1.092 | 5.91三 | 1.88三 | 4.82三 | 2.53三 | 2.35三 | 8.834 |
克三 | 偏见2 | 2.852 | 2.832 | 3.042 | 3.062 | 1.032 | 1.172 | 1.776 |
| 方差 | 6.67三 | 3.56三 | 1.87三 | 1.63三 | 1.45三 | 1.52三 | 8.174 |
克4 | 偏见2 | 3.63三 | 1.60三 | 1.32三 | 8.924 | 1.52三 | 1.51三 | 4.116 |
| 方差 | 4.50三 | 2.07三 | 1.27三 | 1三 | 1.16三 | 1.05三 | 8.134 |
(n个1,n个2,n个三,n个4). | 回归函数. | 方差估计量. | . | . | . | . | 甲骨文公司. |
---|
(10,10,10,10) | 克1 | 偏见2 | 3.644 | 2.652 | 1.216 | 5.39三 | 5.409 |
| 方差 | 2.725 | 3.345 | 1.645 | 1.565 | 1.155 |
克2 | 偏见2 | 2.932 | 1.361 | 3.384 | 7.052 | 1.508 |
| 方差 | 3.745 | 6.075 | 1.645 | 2.925 | 1.215 |
克三 | 偏见2 | 4.13三 | 1.062 | 9.484 | 4.80三 | 4.709 |
| 方差 | 4.105 | 3.655 | 1.765 | 1.685 | 1.165 |
克4 | 偏见2 | 5.67三 | 5.20三 | 6.954 | 6.984 | 1.268 |
| 方差 | 4.895 | 3.345 | 1.945 | 1.485 | 1.195 |
(50,50,50,50) | 克1 | 偏见2 | 310 | 4.715 | 110 | 6.486 | 110 |
| 方差 | 2.308 | 2.198 | 2.558 | 2.158 | 1.988 |
克2 | 偏见2 | 1.727 | 7.214 | 510 | 1.044 | <1.012 |
| 方差 | 2.078 | 1.998 | 2.338 | 28 | 1.868 |
克三 | 偏见2 | 1.564 | 7.044 | 2.335 | 1.184 | <1.012 |
| 方差 | 2.448 | 2.438 | 2.598 | 2.188 | 1.968 |
克4 | 偏见2 | 4.114 | 4.154 | 5.695 | 5.895 | <1.012 |
| 方差 | 2.768 | 2.508 | 2.658 | 2.158 | 1.988 |
(n个1,n个2,n个三,n个4). | 回归函数. | 方差估计量. | . | . | . | . | 甲骨文公司. |
---|
(10,10,10,10) | 克1 | 偏见2 | 3.644 | 2.652 | 1.216 | 5.39三 | 5.409 |
| 方差 | 2.725 | 3.345 | 1.645 | 1.565 | 1.155 |
克2 | 偏见2 | 2.932 | 1.361 | 3.384 | 7.052 | 1.508 |
| 方差 | 3.745 | 6.075 | 1.645 | 2.925 | 1.215 |
克三 | 偏见2 | 4.13三 | 1.062 | 9.484 | 4.80三 | 4.709 |
| 方差 | 4.105 | 3.655 | 1.765 | 1.685 | 1.165 |
克4 | 偏见2 | 5.67三 | 5.20三 | 6.954 | 6.984 | 1.268 |
| 方差 | 4.895 | 3.345 | 1.945 | 1.485 | 1.195 |
(50,50,50,50) | 克1 | 偏差2 | 310 | 4.715 | 110 | 6.486 | 110 |
| 方差 | 2.308 | 2.198 | 2.558 | 2.158 | 1.988 |
克2 | 偏见2 | 1.727 | 7.214 | 510 | 1.044 | <1.012 |
| 方差 | 2.078 | 1.998 | 2.338 | 28 | 1.868 |
克三 | 偏见2 | 1.564 | 7.044 | 2.335 | 1.184 | <1.012 |
| 方差 | 2.448 | 2.438 | 2.598 | 2.188 | 1.968 |
克4 | 偏见2 | 4.114 | 4.154 | 5.695 | 5.895 | <1.012 |
| 方差 | 2.768 | 2.508 | 2.658 | 2.158 | 1.988 |
(n个1,n个2,n个三,n个4). | 回归函数. | 方差估计量. | . | . | . | . | 甲骨文公司. |
---|
(10,10,10,10) | 克1 | 偏见2 | 3.644 | 2.652 | 1.216 | 5.39三 | 5.409 |
| 方差 | 2.725 | 3.345 | 1.645 | 1.565 | 1.155 |
克2 | 偏见2 | 2.932 | 1.361 | 3.384 | 7.052 | 1.508 |
| 方差 | 3.745 | 6.075 | 1.645 | 2.925 | 1.215 |
克三 | 偏见2 | 4.13三 | 1.062 | 9.484 | 4.80三 | 4.709 |
| 方差 | 4.105 | 3.655 | 1.765 | 1.685 | 1.165 |
克4 | 偏见2 | 5.67三 | 5.20三 | 6.954 | 6.984 | 1.268 |
| 方差 | 4.895 | 3.345 | 1.945 | 1.485 | 1.195 |
(50,50,50,50) | 克1 | 偏见2 | 310 | 4.715 | 110 | 6.486 | 110 |
| 方差 | 2.308 | 2.198 | 2.558 | 2.158 | 1.988 |
克2 | 偏见2 | 1.727 | 7.214 | 510 | 1.044 | <1.012 |
| 方差 | 2.078 | 1.998 | 2.338 | 28 | 1.868 |
克三 | 偏见2 | 1.564 | 7.044 | 2.335 | 1.184 | <1.012 |
| 方差 | 2.448 | 2.438 | 2.598 | 2.188 | 1.968 |
克4 | 偏差2 | 4.114 | 4.154 | 5.695 | 5.895 | <1.012 |
| 方差 | 2.768 | 2.508 | 2.658 | 2.158 | 1.988 |
(n个1,n个2,n个三,n个4). | 回归函数. | 方差估计量. | . | . | . | . | 甲骨文公司. |
---|
(10,10,10,10) | 克1 | 偏见2 | 3.644 | 2.652 | 1.216 | 5.39三 | 5.409 |
| 方差 | 2.725 | 3.345 | 1.645 | 1.565 | 1.155 |
克2 | 偏见2 | 2.932 | 1.361 | 3.384 | 7.052 | 1.508 |
| 方差 | 3.745 | 6.075 | 1.645 | 2.925 | 1.215 |
克三 | 偏见2 | 4.13三 | 1.062 | 9.484 | 4.80三 | 4.709 |
| 方差 | 4.105 | 3.655 | 1.765 | 1.685 | 1.165 |
克4 | 偏见2 | 5.67三 | 5.20三 | 6.954 | 6.984 | 1.268 |
| 方差 | 4.895 | 3.345 | 1.945 | 1.485 | 1.195 |
(50,50,50,50) | 克1 | 偏见2 | 310 | 4.715 | 110 | 6.486 | 110 |
| 方差 | 2.308 | 2.198 | 2.558 | 2.158 | 1.988 |
克2 | 偏见2 | 1.727 | 7.214 | 510 | 1.044 | <1.012 |
| 方差 | 2.078 | 1.998 | 2.338 | 28 | 1.868 |
克三 | 偏见2 | 1.564 | 7.044 | 2.335 | 1.184 | <1.012 |
| 方差 | 2.448 | 2.438 | 2.598 | 2.188 | 1.968 |
克4 | 偏见2 | 4.114 | 4.154 | 5.695 | 5.895 | <1.012 |
| 方差 | 2.768 | 2.508 | 2.658 | 2.158 | 1.988 |
再说一遍,至于d日=3,估计量在基于差分的估计器中几乎总是表现得最好。从表6我们发现,根据定理4和5,随着样本量的增加,多项式加权方案的使用纠正了偏差,而广义冯·诺依曼(1941)估计器完全失败克1−克三。注意克4接近常量函数。
4.2.4. 尺寸之间的比较
为了说明最优加权方案估计器(包括von Neumann(1941)对于增加维数(参见示例4),我们考虑了函数
请注意,我=1,…,d日,以使函数具有可比性。
图。6表明偏差(用√归一化N个源于中心极限定理;见下面的注释定理3)随着d日除了多项式加权方案估值器。相比之下,方差只起到很小的作用(图。7).
图6
√N个依赖性偏差N个(——,d日=2; - - - - - -,d日=3; · · · · · ·,d日=4):(a)冯·诺依曼估算师(第页=1); (b)(第页=2); (c)(第页=2)
图7
√(N个方差)依赖于N个(——,d日=2; - - - - - -,d日=3; · · · · · ·,d日=4):(a)冯·诺伊曼估计量(第页=1); (b)(第页=2); (c)(第页=2)
5.结论
总之,我们发现具有“紧凑”配置且局部残差长度不太大的多项式差分估计量(第页4在我们考虑的所有设置中都足够)对于小样本和中等样本大小表现良好,前提是不能排除波动信号先验的多项式差分估计量计算简单,√N个在回归空间的任意维度上一致。如果已知信号缓慢振荡,则由于其优越的效率,使用核型估计器是可行的。然而,这里需要一个比交叉验证更具计算可行性的带宽选择(参见Herrmann等。(1995)). 我们在本文中没有探讨这个主题。未发现局部线性估计与核估计存在显著差异。这可能是因为,当方差为常数时,边界效应与当σ2是一个函数(参见Ruppert等。(1997)). 因此,可以使用更简单的核估计器来代替,而不会显著降低性能。然而,请注意,与差分估计器相比,这些估计器的计算时间随着维度的增加而急剧增加。这会产生相当大的实际负担,例如在通常需要实时计算的图像分析中。对于d日>2,根本不推荐使用最优差分格式,包括冯·诺依曼的推广(1941)估计器。请注意,这些估计值甚至不能是√N个如果回归空间的维数大于3,则一致。
致谢
作者们感谢德国论坛(DFG Mu1230/8-1)的支持。我们感谢L.Boysen和H.Dette的宝贵意见。本文的部分内容可以在Wagner中找到(1999). 作者感谢两位审稿人和一位副主编的评论,这些评论使本文的表述得到了很大改进。
工具书类
附录A:证明
A.1、。定理3的证明
如霍尔定理2.1的证明等。(1991),
哪里和表示总和{k∈ ℤd日:j个11+k∈J型我∧j个21+k∈J型j个}和{k∈ ℤd日∖{0}:j个11+k∈J型我∧j个21+k∈J型j个}分别是。因为偏差是有序的O(运行)(n个−2γ)=o个(n个−d日/2)=o个(N个−1/2)与一维情形相同,顺序的方差贡献O(运行)(N个−1)主宰着MSE。方差等于
具有
因为#对我=n个对我=N个+O(运行)(n个d日−1)的我=1,…,L(左).以同样的方式,.因为结果来自条件∑μ我=1.
A.2、。定理5的证明
为了简洁起见,我们只给出定理5证明的草图。与定理3的证明类似的计算表明,任何差分估计量的方差由等式右侧渐近给出(13). 因此,仍需证明对MSE的偏差贡献是有序的o个(N个−1). 对于这个注记,广义差分格式,满足条件(7),因此∑第页我=第页米然后泰勒级数展开表明,偏差是有序的O(运行)(n个−2米)通过与一维情况(Dette)类似的计算等。,1998). 发件人米=[d日/4] +1,结果如下。
答3。定理6的证明
非平行直线的条件意味着k,使得0≠k∈ ℤd日,最多一套J型我(k)={j个∈J型我:j个+k∈J型我}一个非空我∈ {1,…,L(左)}. 因此,MSE中依赖于广义差分格式的部分等于
(19)
因为方程第二项的和(19)的为0我1≠我2和k≠0。此外#{k≠0:J型我(k)≠∅}=2第页我,因此MSE可以扩展为
现在有一个与本案类似的论点d日=1(大厅等。,1990)显示了的渐近最优性,我们获得
在我们使用过的地方
还有待证明在定义2的方差估计类中,渐近最小化MSE。我们指出了以下证据d日=2; 一般情况d日可以类推。让
然后
哪里,以及
我们有tr(天我)=n个对我=N个+O(运行)(n个d日−1),其中n个=最小值(n个1,n个2). 此外,
因此,我们发现
哪里u个我,j个表示的元素U型最后,最小化,如果u个我,j个=−1/2第页,我≠j个,最高可达O(运行)(n个d日−1)条款。现在,非对角元素天我为-1/2第页我,我=1,…,L(左),用于符合订单条款O(运行)(n个d日−1); 因此,对于μ我=第页我/第页根据需要。
©2005皇家统计学会