基于负相关数据的点态密度估计

摘要

在本文中，我们考虑\（l^｛p｝\） \（（1）基于负相关样本的密度函数的风险。我们构造了线性和非线性小波估计，并给出了它们的收敛速度。结果表明，这些小波估计在ln之前具有相同的收敛速度n个因素。此外，非线性小波估计器是自适应的。

1介绍

在实际问题中，由于噪声的存在，只有在有偏差（噪声）的情况下才能获得真实的测量数据。本文考虑以下密度估计模型。让\（Y_{1}，Y_{2}，\ldots，Y__{n}）具有密度函数的同分布连续随机变量

$$\begin{aligned}g（y）=\frac{\omega（y）f（y）}{\mu}，\quad y\ in[0,1]。\结束{对齐}$$

(1)

在这个方程式中，ω是已知的偏置函数，（f）表示未观测随机变量的未知密度函数X（X）、和\（\mu:=\mathbb{E}[\omega（X）]<\infty\）该模型的目的是估计未知密度函数（f）通过观察到的负相关数据\（Y_{1}，Y_{2}，\ldots，Y__{n}）.

该模型在工业上有许多应用[4]和经济学[8]。由于小波基在时域和频域上都具有良好的局部性质，小波方法已被广泛用于密度估计问题。当观测数据\（Y_{1}，Y_{2}，\ldots，Y__{n}）是独立的，拉米雷斯和维达科维奇[13]构造了一个线性小波估计器并研究了\（L^{2}\）该小波估计量的一致性。Shirazi和Doosti[15]将他们的工作扩展到多元情况。因为线性小波估计器的定义取决于密度函数的光滑参数（f），线性估计器是不自适应的。为了克服这种短缺，切斯诺[三]提出了一种基于硬阈值法的非线性小波估计器。此外\（L^｛p｝\） \（（1）考虑了风险。当数据的独立性放松到强混合情况时，寇和郭[10]研究了\（L^{2}\）Besov空间中线性和非线性小波估计的风险。请注意，所有这些研究都集中于全局错误。该密度估计模型的逐点小波估计缺乏理论结果(1).

在本文中，我们建立了逐点的小波估计\（l^{p}\） \（（1）基于负相关样本的密度函数的风险。在Besov空间中考虑了线性和非线性小波估计的上界\（B_｛r，q｝^｛s｝（\mathbb｛r｝）\）结果表明，我们估计的收敛速度与逐点估计的最优收敛速度一致[2]。此外，我们的定理简化为Rebelles的相应结果[14]何时\（ω（y）等于1）样本是独立的。

1.1负关联与小波

我们首先介绍负关联的定义[1].

定义1.1

随机变量序列\（Y_{1}，Y_{2}，\ldots，Y__{n}）如果对于每对不相交的非空子集，则称为负相关A类和B类属于\（i=1，2，\ldot，n\}）,

$$\operatorname{Cov}\bigl（f（X_{i}，i\in A），g（X__{j}，j\in B）\bigr）\leq 0$$

哪里（f）和克是实值坐标非递减函数，并且存在相应的协方差。

众所周知\（\operatorname{Cov}（Y_{i}，Y_{j}）\equiv0\）当随机变量独立时。因此，独立和相同分布的数据必须是负相关的。接下来，我们给出了负关联的一个重要性质，这将在后面的讨论中用到。

引理1.1

([9])

让 \（Y_{1}，Y_{2}，\ldots，Y__{n}） 是负相关随机变量序列,然后让 \（A_{1}，A_{2}，\ldots，A_}m}） 是的两两不相交的非空子集 \（i=1，2，\ldot，n\}）.如果 \（f_{i}\（i=1,2，\ldot，m）\） 是 米 协调不减(不增加的)功能,然后 \（f_1}（Y_1}，i\在A_1}中），f_2} 也有负面关联.

为了构造我们的小波估计量，我们提供了小波的基本理论。

在本文中，我们使用的小波基描述如下。让\（{V_{j}，j\in\mathbb{Z}\}\）是的经典正交多分辨分析\（L^{2}（\mathbb{R}）\）具有缩放功能φ然后针对每个\（f\在L^{2}（\mathbb{R}）中\）,

$$\begin{aligned}f=\sum_{k\in\mathbb{Z}}\alpha_{j_{0}，k}\varphi_{j_0}，k}+\sum_j=j_0}}^{infty}\sum_{k\ in\mathbb{Z}}\beta_{j，k}\psi_{j、k}，\end{alinged}$$

哪里\（α{j{0}，k}=langlef，varphi{j{0}，k}rangle）,\（β{j，k}=langle f，psi{j，k}等级）和

$$\varphi_{j_{0}，k}=2^{j_0}/2}\varphi\bigl^{j} x-k型\bigr）$$

让\（P_{j}\）是来自的正交投影运算符\（L^{2}（\mathbb{R}）\）在空间上\（V_{j}\）具有正交基\（\｛\varphi_｛j，k｝，k\in\mathbb｛Z｝\｝\）.如果缩放功能φ满足条件θ也就是说，

$$\sum_{k\in\mathbb{Z}}\bigl\vert\varphi（x-k）\bigr\vert\inL^{infty}（\mathbb{R}）$$

然后可以显示，对于每个\（f\在L^{p}（\mathbb{R}）中\） \（（1）,

$$\开始{对齐}P_{j} （f）=\sum_{k\in\mathbb{Z}}\alpha_{j，k}\varphi_{j、k}。\结束{对齐}$$

(2)

另一方面，缩放函数φ被称为米常规条件\（\varphi\在C^{m}（\mathbb{R}）中\）和\（|D^｛\delta｝\varphi（y）|\leq c（1+y^｛2｝）^｛-l｝\）对于每个\（l\in\mathbb{Z}\） \（（\delta=0，1，2，\ldots，m）\）在本文中，我们选择Daubechies尺度函数\（D_{2N}\）[5]。很容易看出这一点\（D_{2N}\）满足米常规时间N个变得足够大。

注意，小波基可以表征贝索夫空间。这些空间包含许多著名的函数空间，例如Hölder和\（L^{2}\）Sobolev空间。下面的引理给出了Besov空间的等价定义。

引理1.2

([7])

让 \（f\在L^{r}（\mathbb{r}）中\） \（（1 \leq r \leq+\ infty）\）,让缩放函数 φ 是 米-有规律的,然后让 \（0<s<m）.那么以下陈述是等效的:

• （i） \（在B中为f\^{s}_{r，q}（\mathbb{r}），1\leq\leq+\infty\）;

• （ii） \（{2^{js}\|P_{j} f-f型\|_{r} l{q}中的;

• （iii） \（l{q}中的{2^{j（s-\frac{1}{r}+\frac}1}{2}）}.

贝索夫范数 （f） 可以定义为

$$\垂直f\垂直{B^{s}_{r，q}}：=\bigl\Vert（\alpha_{j_{0}}）\bigr\Vert_{r}+\bigl\ Vert\bigl（2^{j（s-\frac{1}{r}+\frac}{2}）}\Vert\beta_{j}\Vert_r}\bigr$$

具有 \（\|（\alpha_{j_{0}}）\|_{r}^r}:=\sum_{k\in\mathbb{Z}}|\alpha_{j_}0}，k}|^{r}\） 和 \（\|\beta_{j}\|_{r}^{r}:=\sum_{k\in\mathbb{Z}}|\beta _{j，k}|^{r{）.

在本文中，我们假设密度函数（f）属于半径为的贝索夫球\（H>0）也就是说，

$$f\单位：B^{s}_｛r，q｝（H）：=\bigl\｛f\在B中^{s}_{r，q}（\mathbb{r}），\Vertf\Vert_{B^{s}_{r，q}}\leq H\bigr\}$$

1.2小波估计与定理

定义线性小波估计器如下：

$$\开始{aligned}\widehat{f}_{n} ^{\mathrm{lin}}（y）：=\sum_{k\in\varLambda}\widehat{\alpha}_{j{0}，k}\varphi_{j}0}$$

（3）

具有

$$开始{对齐}\widehat{\alpha}_{j_{0}，k}=\frac{\wideha{\mu}_{n}}{n}\sum_{i=1}^{n}\fracc{\varphi_{j{0}，k}（Y{i}）}{\omega（Y{1}）$$

(4)

和

$$\开始{aligned}\widehat{\mu}_{n}=\Biggl[\frac{1}{n}\sum_{i=1}^{n}\frac}{{omega（Y{i}）}\Biggr]^{-1}。\结束{对齐}$$

（5）

使用硬阈值方法，定义了非线性小波估计器

$$\开始{aligned}\widehat{f}_{n} ^{\mathrm{non}}（y）：=\sum_{k\in\varLambda}\widehat{{j{0}geq\kappat{n}}\psi{j，k}（y），\end{aligned}$$

(6)

哪里\（t{n}=\sqrt{frac{lnn}{n}}）和

$$开始{aligned}\widehat{\beta}_{j，k}=\frac{\wideheat{\mu}_{n}}{n}\sum_{i=1}^{n}\fracc{\psi{j，k}（Y{i}）}{\omega（Y{i}）{。\结束{对齐}$$

(7)

在这些定义中，\（\varLambda:=\｛k\in\mathbb｛Z｝，\ operatorname｛supp｝f\cap\ operatorname｛supp｝\varphi_｛j_｛0｝，k｝\neq\varnote\｝\）和\（\varLambda_{j}:=\{k\in\mathbb{Z}，\operatorname{supp}f\cap\operator名称{supp}\psi_{j，k}\neq\varnothing\}\）。请注意Λ \（（\varLambda_{j}）\）满足\（|\varLambda|\sim 2^{j_{0}}\） \（（|\varLambda_{j}|\sim 2^{j}）\）由于函数的紧凑支持属性（f）和\（\varphi_｛j_｛0｝，k｝\） \（（\磅/平方英寸{j，k}）\）。这里和更远的地方，\（模拟B）代表两者\（最小B）和\（最小A），其中\（最小B）表示\（A\leq cB\）具有正常数c（c）独立于A类和B类此外，常数κ将在以后的讨论中选择。

我们可以陈述我们的主要定理。

定理1

让 \（在B中为f\^{s}_{r，q}（H）\（r，q\ in[1，\infty），s>\frac{1}{r}）\）,然后让 \（\omega（y）\） 是一个非递增函数，以便 \（ω（y）\sim 1）.然后针对每个 \（1）,线性小波估计 \（2^{j{0}}\simn^{frac{1}{2（s-1/r）+1}}\） 满足

$$\开始{aligned}\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{lin}}（y）-f（y）\bigr\vert\bigr]^{p}\lesssim n^{-\frac{（s-1/r）p}{2（s-1/r）+1}}，\end{aligned}$$

(8)

非线性小波估计 \（2^{j{0}}\simn^{frac{1}{2m+1}}（m>s）） 和 \（2^{j{1}}\sim\frac{n}{ln}\） 满足

$$\开始{aligned}\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{non}}（y）-f（y。\结束{对齐}$$

(9)

备注1

请注意\（n ^｛-\frac｛（s-1/r）p｝｛2（s-1/r）+1｝｝）是Besov空间中逐点估计在极小极大意义下的最优收敛速度[2]。此外，我们的定理简化为Rebelles的结果[14]何时\（ω（y）等于1）随机样本是独立的。

备注2

与线性小波估计器相比，非线性估计器的收敛速度在ln之前与线性估计器保持相同n个因素。然而，非线性的是自适应的，这意味着两者都是自适应的\（j{0}\）和\（j{1}\）不依赖秒.

2辅助引理

在这一节中，我们给出了一些引理，它们对于证明定理非常有用1.

引理2.1

对于由定义的模型(1),我们有

$$\mathbb{E}\biggl[\frac{1}{\omega（Y_{i}）}\bigr]=\frac}1}{\ mu}，\qquad\mathbb}E}\biggl[\frac{\mu\varphi_{j，k}（Y_}i}[\frac{\mu\psi{j，k}（Y{i}）}{\omega（Y{i}）{\biggr]=\beta{j，k}$$

证明

这个引理可以由寇和郭的相同论点证明[10]. □

引理2.2

让 \（f\在B_{r，q}^{s}\（1\leqr，q<+infty，s>1/r）中,然后让 \（ω（y）） 是一个非递增函数，以便 \（ω（y）\sim 1）.如果 \（2^{j}\leqn） 和 \（1\leq p<+\infty）,然后

$$\mathbb{E}\bigl[\vert\widehat{\alpha}_{j{0}，k}-\alpha_{j}0}_｛j，k｝-\β{j，k}\vert^{p}\bigr]\lesssim n^{-\frac{p}{2}}$$

证明

因为这两个不等式的证明是相似的，所以我们只证明了第二个不等式。根据的定义\（\widehat{\beta}{j，k}\）我们有

$$\beart｛aligned｝\vert\widehat｛\beta｝_{j，k}-\beta_{j，k}\vert\leq\Biggl\vert\frac{\widehat{\mu}_{n}}{\muneneneep \Biggl \widehat{\mu}_{n}\Biggl（\frac{1}{\mu{-\frac}1}{\ widehat{\muneneneep{n}}\bigr）\Biggr\vert。\结束{对齐}$$

请注意\（\widehat{\mu}{n}\）和\（ω（y）\sim 1）意味着\（|\widehat{\mu}_{n}|\lesssim 1\）。我们有\（B_{r，q}^{s}（\mathbb{r}）在以下情况下\（s>\frac{1}{r}\）; 然后\（在B_{\infty，\infty}^{s-1/r}（\mathbb{r}）中）和\（\|f\|_{\infty}\lesssim 1\）此外，\（|\beta_{j，k}|=|\langle f，\psi_{j，k}\rangle|\lesssim 1）通过Cauchy–Schwarz不等式和小波函数的正交性。因此，我们得出以下结论：

$$\开始{aligned}\mathbb{E}\bigl[\vert\widehat{\beta}_｛j，k｝-\beta_{j，k}\vert^{p}\bigr]\lesssim\mathbb{E}\Biggl[\Biggl \vert\frac{1}{n}\sum_{i=1}^{n}\frac{\mu\psi{j，k}（Y{i}）}{\omega gl\vert\frac{1}{\mu}-\frac{1}{\widehat{\mu{n}}\Biggr\vert^{p}\bigr]。\结束{对齐}$$

(10)

然后我们需要估计\（T_{1}:=\mathbb{E}[\vert\frac{1}{n}\sum{i=1}^{n}\frac{\mu\psi{j，k}（Y{i}）}{\omega（Y{i}）{-\beta_{j，k}\vert^{p}]\）和\（T_{2}:=\mathbb{E}[\vert\frac{1}{\mu}-\frac{1'{\widehat{\mu{n}}\vert^{p}]\）.

•的上限\（T_{1}\）.服用\（eta{i}:=frac{mu\psi{j，k}（Y{i}）}{omega（Y{i}）{-\beta{j，k}），我们得到

$$T_{1}=\mathbb{E}\Biggl[\Biggl\vert\frac{1}{n}\sum_{i=1}^{n}\eta_{i}\Bigr\vert^{p}\Bigcr]=\Biggl（\frac{1\n}\Biggr \vert^{p}\Biggr]$$

请注意ψ是有界变化的函数（参见刘和徐[12]). 我们可以得到\（\psi:=\widetilde{\psi}-\overline{\ps2}\），其中ψ̃和ψ有界非负非递减函数。定义

$$\widetilde{\eta}_{i}:=\frac{\mu\widetelde{\psi}_{j，k}上划线{\beta}{j，k}$$

具有\（\widetilde{\beta}{j，k}:=\langlef，\widetelde{\psi}{j、k}\rangle\）和\（\overline｛\beta｝_｛j，k｝：=\langle f，\overline｛\psi｝_｛j，k｝\langle）.然后\（\eta_{i}=\widetilde{\eta}_{我}-\上划线{\eta}{i}\）,\（β{j，k}=widetilde{β}_{j，k}-\上划线{\beta}{j，k}\）、和

$$\begin｛aligned｝T_｛1｝=\biggl（\frac｛1｝｛n｝\biggr）^｛p｝\mathbb｛E｝\biggl[\biggl\vert\sum _｛i=1｝^｛n｝（\widetilde｛\eta｝_{我}-\overline{\eta}_{i}）\Biggr\vert^{p}\Biggr]\lesssim\biggl（\frac{1}{n}\Biggr）^{p{\biggl\{\mathbb{E}\Bigl[\biggl \vert\sum_{i=1}^{n}\widetilde{\eta}_{i}\Biggr\vert^}\Bigcr]+\mathbb{E}\ biggl[\biggl \vert\sum_{i=1}^{n}\上划线{\eta}_{i}\Biggr\vert^{p}\Bighr]\Biggr\}。\结束{对齐}$$

(11)

与引理中的类似参数2.1向大家展示\（\mathbb{E}[\widetilde{eta}_{i}]=0\）.功能\（压裂{\widetilde{\psi}_{j，k}（y）}{\omega（y）{）不会因\（\widetilde{\psi}（y）\）和\（ω（y））。此外，我们也知道\（{\widetilde{\eta}_{i}，i=1,2，\ldots，n\}\）由引理负相关1.1另一方面，它是从(1)和\（ω（y）\sim 1）那个

$$\begin{aligned}\mathbb{E}\bigl[\vert\widetilde{\eta}_{i}\vert^{p}\bigr]\lesssim\mathbb{E}\ biggl[\biggl\vert\frac{\mu\widetilde{\psi}_{j，k}（Y{i}）}{omega \bigl\vert\widetilde{\psi}_{j，k}（Y）\bigr\vert^{p} （f）（y） \，dy\lesssim 2^｛j（p/2-1）｝。\结束{对齐}$$

(12)

特别地，\（\mathbb{E}[|\widetilde{\eta}_{i}|^{2}]\lesssim 1\）回顾罗森塔尔不等式[12]：如果\（Y_{1}，Y_{2}，\ldots，Y__{n}）是负相关的随机变量\（\mathbb{E}[Y_{i}]=0\）和\（\mathbb{E}[|Y_{i}|^{p}]<\infty\），然后

$$\mathbb{E}\Biggl[\Biggl \vert\sum_{i=1}^{n} Y（Y）_{i} \Biggr\vert^{p}\Biggr]\lesssim\textstyle\begin{cases}\sum_{i=1}^{n}\mathbb{E}[\vert Y_{i}\vert^}]+（\sum_{i=1}^{n}\mathbb{E{[\vertY_{i}\vert ^{2}]）^{p{/{2}}，&\text{$p>2$；}\\（\sum_{i=1{{n}\mathbb{E}[\vert Y_{i}\vert^{2}]）^{p}/{2}}，&\text{$1\leqp\leq2$.}\end{cases}$$

从这里我们清楚地看到

$$\mathbb｛E｝\Biggl[\Biggl\vert\sum_｛i=1｝^｛n｝\widetilde｛\eta｝_｛i｝\Biggr\vert^｛p｝\Biggr]\lesssim\textstyle\bbegin｛cases｝n2 ^｛j（p/2-1）｝+n ^｛p/2｝，&&text｛$p＞2$；｝\\n^｛p/2｝，&&text｛$1\leq p\leq 2$.｝\end｛cases｝$$

这个，连同\（2^{j}\leqn），表明\（\mathbb{E}[\vert\sum_{i=1}^{n}\widetilde{\eta}_{i}\vert^{p}]\lesssim n^{p/2}\）同样，\（\mathbb{E}[\vert\sum_{i=1}^{n}\overline{eta}_{i}\vert^{p}]\lesssim n^{p/2}）.将这些与(11)，我们明白了

$$\开始{对齐}T_{1}\lesssim\biggl（\frac{1}{n}\biggr）^{p}\biggl\{\mathbb{E}\Bigl[\biggl \vert\sum_{i=1}^{n}\widetilde{\eta}_{i}\Bigr\vert^{p{\biggr]+\mathbb{E}\biggl/[\Bighl \vert\sum_{i=1}^{n}上划线{\eta}_{i}\biggr\vert^{p}\Bigr]\biggr}\lesssim n^{-\frac{p}{2}}。\结束{对齐}$$

(13)

•的上限\（T_{2}\）从定义中很容易看出\（\widehat{\mu}{n}\）那个

$$开始{对齐}T_{2}=\mathbb{E}\biggl[\biggl\vert\frac{1}{\mu}-\frac{1'{\widehat{\muneneneep _{n}}\bigr\vert^{p}\bigbr]=\biggl（\frac}{n}\bigcr）^{p{\mathbb{E}\biggl[\biggl \vert\sum_{i=1}^{n}gl（\frac{1}{\omega（Y_{i}）}-\frac{1'{\mu}\biggr）\biggr\vert^{p}\biggr]。\结束{对齐}$$

(14)

定义\（\xi{i}:=\frac{1}{\omega（Y{i}）}-\frac{1}}{\mu}\），我们得到\（\mathbb{E}[\xi_{i}]=0\）和\（\mathbb{E}[|\xi_{i}|^{p}]\lesssim 1\）通过引理2.1和\（ω（y）\sim 1）此外，由于\（ω（y））和引理1.1我们知道这一点\（xi{1}，xi{2}，ldots，xi{n}）也呈负相关。然后利用罗森塔尔不等式，我们得到

$$\mathbb{E}\Biggl[\Biggl\vert\sum_{i=1}^{n}\xi_{i}\Bigr\vert^{p}\Bighr]\lesssim\textstyle\begin{cases}n+n^{p/2}，&\text{$p>2$；}\\n^{p/2}，&\text{$1\leqp\leq2$.}\end{cases{$$

因此

$$\begin{aligned}T_{2}=\biggl（\frac{1}{n}\biggr）^{p}\mathbb{E}\biggl[\biggl \vert\sum_{i=1}^{n}\xi_{i}\biggr \vert^{p{\biggr]\lesssim n^{-\frac}{p}{2}。\结束{对齐}$$

(15)

最后，由(10), (13)、和(15)我们有

$$\mathbb{E}\bigl[\vert\widehat{\beta}_{j，k}-\β{j，k}\vert^{p}\bigr]\lesssim n^{-\frac{p}{2}}$$

这就结束了证明。 □

引理2.3

让 \（f\在B_{r，q}^{s}\中） \（（1\leqr，q<+\infty，s>1/r）\） 和 \（\widehat{\beta}{j，k}\） 由定义(7).如果 \（ω（y）） 是非递增函数,\（ω（y）\sim 1）,和 \（2^{j}\leq\frac{n}{ln}\）,那么对于每个 \（\lambda>0）,存在一个常数 \（\kappa>1\） 这样的话

$$\mathbb{P}\bigl\{vert\widehat{beta}_{j，k}-\β{j，k}\vert\geq\kappat{n}\bigr\}\lesssim2^{-\lambdaj}$$

证明

通过相同的参数(10)我们可以得到

$$\开始{aligned}\mathbb{P}\bigl\{\vert\widehat{\beta}_{j，k}-\beta_{j，k}\vert\geq\kappa t_{n}\bigr\}\leq{}&\mathbb{P}\Biggl \{\Biggl\vert\frac{1}{n}\ sum_{i=1}^{n}\Biggl（\frac{1'{\omega（Y_{i}）}-\frac}{1}{\mu}\biggr）\biggr\vert\gerc{\kappaT_{n}}{2}\biggr\}\\&{}+\mathbb{P}\Bigl\{\Biggl\vert\frac{1}{n}\sum_{i=1}^{n}\Biggl（\frac{\mu\psi_{j，k}（Y{i}）}{\omega（Y{1}）}-\β_{j，k}\biggr）\biggr\vert\geq\frac{\kappa t_{n}}{2}\biggr。\结束{对齐}$$

(16)

估计\（\mathbb{P}\{\vert\frac{1}{n}\sum_{i=1}^{n}（\frac{1}{\omega（Y{i}）}-\frac}1}{\mu}）\vert\geq\frac{\kappat_{n}}{2}\}），我们还定义\（\xi{i}:=\frac{1}{\omega（Y{i}）}-\frac{1}}{\mu}\）.然后引理2.1意味着\（\mathbb｛E｝[\xi _｛i｝]=0\）此外，\（|\xi_{i}|\lesssim 1）和\（\mathbb{E}[|\xi_{i}|^{2}]\lesssim 1\）多亏了\（ω（y）\sim 1）另一方面，由于\（ω（y））和引理1.1,\（xi{1}，xi{2}，ldots，xi{n}）也有负相关。

回忆伯恩斯坦不等式[12]：如果\（Y_{1}，Y_{2}，\ldots，Y__{n}）是负相关的随机变量\（\mathbb{E}[Y_{i}]=0\）,\（|Y_{i}|\leq M<\infty\）、和\（\mathbb{E}[|Y_{i}|^{2}]=\sigma^{2{），然后针对每个\（\varepsilon>0\）,

$$\mathbb{P}\Biggl\{\Biggl \vert\frac{1}{n}\sum_{i=1}^{n} 年_{i} \Biggr\vert\geq\varepsilon\Biggr \}\lesssim\exp\biggl（-\frac{n\varepsi隆^{2}}{2（\sigma^{2{+varepsilen M/3）}\Biggr）$$

因此，根据之前的论点\（xi{i}）和\（t{n}=\sqrt{frac{lnn}{n}}），我们推导

$$\mathbb{P}\Biggl\{\Biggl \vert\frac{1}{n}\sum_{i=1}^{n}\Biggl kappa^{2}/4}{2（\sigma^{2]+\kappa/6）}\biggr）$$

然后就有了\（\kappa>1\）这样的话\（\exp（-\frac{（lnn）\kappa^{2}/4}{2（\sigma^{2]+\kappa/6）}）\lesssim2^{-\lambdaj}\）带有固定的\（\lambda>0）.因此

$$\开始{aligned}\mathbb{P}\Biggl\{\Biggl \vert\frac{1}{n}\sum_{i=1}^{n}\Biggl（\frac{1'{\omega（Y{i}）}-\frac}{\mu}\bigr）\biggr\vert\geq\frac{\kappa t_{n}{2}\biggr\}\lesssim2^{-\lambda j}。\结束{对齐}$$

(17)

接下来，我们估计\（\mathbb{P}\{\vert\frac{1}{n}\sum{i=1}^{n}（\frac{\mu\psi{j，k}（Y{i}）}{omega（Y{i}）{-\beta{j，k}）\vert\geq\frac}\kappat_{n}}{2}）.By对的相同参数(11)我们得到

$$\开始{aligned}\mathbb{P}\Biggl\{\Biggl \vert\frac{1}{n}\sum_{i=1}^{n}\eta_{i}\Bigr\vert\geq\frac{\kappat_{n}}{2}\Biggr\}\leq\mathbb{P}\Biggl/vert\frac{1}{n}\sum_{i=1}^{n}\widetilde{\eta}_{i}\Biggr\vert\geq\frac{\kappat_{n}}{4}\Biggr\}+\mathbb{P}\Bigl\{\Biggl\vert\frac{1}{n}\sum_{i=1}^{n}\上划线{\eta}_{i} \Biggr\vert\geq\frac{\kappa t_{n}}{4}\Biggr\}。\结束{对齐}$$

(18)

从\（\widetilde{\eta}_{i}\）和引理2.1那个\（\mathbb{E}[\widetilde{eta}_{i}]=0\）此外，\（\mathbb{E}[|\widetilde{\eta}_{i}|^{2}]\lesssim 1\）由(12)带有\（p=2\）.使用\（ω（y）\sim 1），我们得到\（vert\frac{\mu\widetilde{\psi}_{j，k}（Y{i}）}{\omega（Y{i}）{\vert\lesssim2^{j/2}）和\（|\widetilde{\eta}{i}|\leq\vert\frac{\mu\widetelde{\psi}{j，k}（Y{i}）}{\omega（Y{i}）{\vert+\mathbb{E}[\vert\frac{\mu\ widetilde{\psi}，k}（Y{i}然后根据伯恩斯坦不等式，\（2^{j}\leq\frac{n}{ln}\）、和\（t{n}=\sqrt{frac{lnn}{n}}）那个

$$\mathbb{P}\Biggl\{\Biggl \vert\frac{1}{n}\sum_{i=1}^{n}\widetilde{\eta}_{i}\Bigr\vert\geq\frac{\kappat_{n}}{4}\Biggr\}\lesssim\exp\Biggl（-\frac}n（\kappa t_{n}/4）^{2}{2（\sigma^{2{+\卡帕特_{n} 2个^{j/2}/12）}\biggr）\lesssim\exp\biggl（-\frac{（ln n）\kappa^{2}/16}{2（\sigma^{2}+\kappa/12）}\biggr）$$

很明显，我们可以\（\kappa>1\）这样的话\（\mathbb{P}\{vert\frac{1}{n}\sum{i=1}^{n}\widetilde{\ta}{i}\vert\geq\frac{\kappat{n}}{4}\}\lesssim2^{-\lambdaj}\）。然后类似的论据表明\（\mathbb{P}\{\vert\frac{1}{n}\sum_{i=1}^{n}\上横线{\eta}_{i}\vert\geq\frac{\kappat_{n}}{4}\}\lesssim2^{-\lambdaj}\）.将这些与(18)，我们获得

$$\begin｛aligned｝\mathbb｛P｝\Biggl\｛\Biggl\vert\frac｛1｝｛n｝\sum _｛i=1｝^｛n｝\Biggl（\frac｛\mu\psi_｛j，k｝（Y_｛i｝）｝｛\omega（Y_｛i｝）｝-\beta\ j，k｝\biggr）\biggr\vert\geq\frac｛\kappa t_｛n｝｝｝｛2｝\biggr\｝\lesssim 2^｛-\lambda j｝。\结束{对齐}$$

(19)

由(16), (17)、和(19)我们得到

$$\mathbb{P}\bigl\{vert\widehat{beta}_{j，k}-\β{j，k}\vert\geq\kappat{n}\bigr\}\lesssim2^{-\lambdaj}$$

这就结束了证明。 □

三定理证明

在本节中，我们将证明定理1.

的证明(8)

很容易看出这一点

$$\开始{aligned}\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{lin}}（y）-f（y）\bigr\vert^{p}\bigr]\lesssim\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{lin}}（y）-P_{j{0}}f（y）\bigr\vert^{P}\bigr]+\bigl\vertP_{j}0}f（y）-f（y。\结束{对齐}$$

(20)

然后我们需要估计\（\mathbb{E}[|\widehat{f}_{n} ^{\mathrm{lin}}（y）-P_{j_{0}}f（y）|^{P}]\）和\（|P_｛j_｛0｝｝f（y）-f（y）|^｛P｝\）.

由(2)和(三)我们明白了

$$\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{lin}}（y）-P_{j{0}}f（y）\bigr\vert^{P}\bigr]=\mathbb{E}\biggl[\biggl \vert\sum{k\in\varLambda}]$$

使用Hölder不等式\（（1/p+1/p'=1）\），我们看到了

$$\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{lin}}（y）-P_{j{0}}f（y）\bigr\vert^{P}\bigr]\leq\mathbb{E}\biggl[\biggl（\sum_{k\in\varLambda}\vert\widehat{0}，k}-\alpha_{j}0}r\vert\biggr）\biggl（\sum_{k\in\varLambda}\bigl\vert\varphi_{j_{0}，k}（y）\bigr\vert\biggr）^{frac{P}{P'}}\biggr]$$

然后它遵循Conditionθ和引理2.2那个

$$\开始{aligned}\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{lin}}（y）-P_{j{0}}f（y）\bigr\vert^{P}\bigr]\lesssim\sum_{k\in\varLambda}\mathbb{E}\bigl[\vert\widehat{0}，k}-\alpha_{j}0}\vert 2^{\frac{j_{0}页}{2p'}}\lesssim\biggl（\压裂{2^{j{0}}{n}\biggr）^{\压裂{p}{2}}。\结束{对齐}$$

（21）

这个，连同\（2^｛j_｛0｝｝\sim n ^｛\frac｛1｝｛2（s-1/r）+1｝｝），表明

$$\开始{aligned}\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{lin}}（y）-P_{j{0}}f（y）\bigr\vert^{P}\bigr]\lesssim n^{-\frac{（s-1/r）P}{2（s-1/r）+1}}。\结束{对齐}$$

(22)

请注意\（B_{r，q}^{s}（\mathbb{r}）在这种情况下\（s>1/r）需要指出的是\（B_{\infty，\infty}^{s-1/r}（\mathbb{r}）\）也是一个Hölder空间。然后通过引理1.2,\（f\在B_{r，q}^{s}（\mathbb{r}）中\）、和\（2^{j{0}}\simn^{frac{1}{2（s-1/r）+1}}\）我们得到了

$$开始{aligned}\bigl\vert P_{j{0}}f（y）-f（y）\bigr\vert^{P}\lesssim 2^{-j{0{（s-1/r）P}\lasssim n^{-\frac{（s-1/r）P}{2（s-1/r）+1}}。\结束{对齐}$$

(23)

将此与(20)和(22)，我们得到

$$\mathbb｛E｝\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{lin}}（y）-f（y）\bigr\vert^{p}\bigr]\lesssim n^{-\frac{（s-1/r）p}{2（s-1/r）+1}}$$

 □

的证明(9)

使用的定义\（\widehat{f}_{n}^{mathrm{lin}}（y）\）和\（\widehat{f}_{n} ^｛\mathrm｛non｝｝（y）\），我们明白了

$$\开始{aligned}\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{non}}（y）-f（y，y）\bigr\vert^{p}\bigr]\lesssimW_{1}+W_{2}+G，\end{aligned}$$

（24）

哪里\（W_{1}:=\mathbb{E}[|\widehat{f}_{n} ^{\mathrm{lin}}（y）-P{j{0}}f（y）|^{P}]\）,\（W{2}:=|P_{j{1}+1}f（y）-f（y）|^{P}\）、和

$$G:=\mathbb{E}\Biggl[\Biggl \vert\sum_{j=j_{0}}^{j_{1}}\sum_{k\in\varLambda_{j}}（\widehat{\beta}_{j，k}我_{{\vert\widehat{\beta}_{j，k}\vert\geq\kappa t_{n}\}}-\beta_{j、k}）\psi_{j和k}（y）\Biggr\vert^{p}\Biggr]$$

它源自(21),\（2^{j{0}}\simn^{frac{1}{2m+1}}\） \（（m>s）\）、和\（s>1/r）那个

$$开始{aligned}W{1}\lesssim\biggl（\frac{2^{j{0}}{n}\biggr）^{frac{p}{2}}\sim n^{-\frac}{2m+1}}。\结束{对齐}$$

(25)

另一方面，通过与(23)，我们可以获得\（W{2}\lesssim 2^{-j{1}（s-1/r）p}\）。这可以选择\（2^{j{1}}\sim\frac{n}{ln}\）显示

$$开始{对齐}W_{2}\lesssim 2^{-j_{1}（s-1/r）p}\sim\biggl（\frac{\lnn}{n}\biggr）^{（s-1/1）p}<\biggl（\frac{\ln n}{n}\bigr）^{\frac}（s/r）p{2（s-1/r）+1}}。\结束{对齐}$$

(26)

接下来的任务是估算G公司.

在中使用经典技术[6]，我们明白了

$$开始{对齐}G\lesssim（ln n）^{p-1}（G_1}+G_2}+G_3}），结束{对齐{$$

(27)

哪里

$$\开始{对齐}&G_{1}:=\mathbb{E}\Biggl[\sum_{j=j_{0}}^{j_{1{}\Biggl（\sum__{k\in\varLambda_{j}}\vert\widehat{\beta}_{j，k}-\beta_{j，k}\vert I_{{vert\widehat{beta}_｛j，k｝-\β{j，k}\vert\geq\frac{\kappat_{n}}{2}}\bigl\vert\psi_{j，k}（y）\bigr\vert\biggr）^{p}\biggr]，\\&G{2}:=\mathbb{E}\bigl[\sum_{j=j{0}}^{j{1}\Biggl（sum_{k\in\varLambda_{j}}}\vert widehat{\beta}_{j，k}-\β_{j，k}\vert I_{{vert\beta_{j、k}\vert\geq\frac{\kappat_{n}}{2}}\bigl\vert\psi_{j和k}（y）\bigr\vert\biggr）^{p}\biggr]，\\&G{3}:=sum{j=j{0}}^{j{1}\biggl（sum{k\in\varLambda_{j}}\vert\beta_{j，k}\vert I_{{vert\beta{j，k}\vert\leq 2\kappa t_{n}\}}\bigl\vert\psi_{j、k}（y）\bigr\vert\biggr）^{p}。\结束{对齐}$$

•的上限\（G_{1}\）根据的定义\（\widehat{\beta}{j，k}\）,\（ω（y）\sim 1）、和引理2.1,\（|\widehat｛\beta｝_｛j，k｝|\lesssim 2^｛j/2｝\）和\（|\widehat{\beta}_{j，k}-\beta_{j，k}|\lesssim 2^{j/2}\）此外，我们还得出

$$G_{1}\lesssim\mathbb{E}\Biggl[\sum_{j=j_{0}}^{j_1}}\Biggl（\sum_{k\in\varLambda_{j}}2^{j/2}I_{{vert\widehat{beta}_{j，k}-\β{j，k}\vert\geq\frac{\kappat_{n}}{2}\}}\bigl\vert\psi_{j，k}（y）\bigr\vert\biggr）^{p}\biggr]$$

另一方面，它遵循Hölder不等式和条件θ那个

$$\开始{aligned}&\biggl（\sum_{k\in\varLambda_{j}}I_{{vert\widehat{beta}_{j，k}-\beta_{j，k}\vert\geq\frac{\kappat_{n}}{2}\}}\bigl\vert\psi_{j、k}（y）\bigr\vert\biggr）^{p}\\&\quad\lesssim\biggl（\sum_{k\in\varLambda_{j}}I_{{vert\widehat{\beta}_{j，k}-\β{j，k}\vert\geq\frac{\kappat_{n}}{2}\}}\bigl\vert\psi_{j，k}（y）\bigr\vert\biggr）\biggl（sum_{k\in\varLambda_{j}}\bigl\vert_psi_j，k（y）\ bigr\vert\biggr \in\varLambda_{j}}I_{{vert\widehat{beta}_{j，k}-\β_｛j，k｝\vert\geq\frac｛\kappa t_｛n｝｝｛2｝\｝｝\bigl\vert\psi_｛j，k｝（y）\bigr\vert\biggr）2^｛\frac｛jp｝｛2p'｝｝。\结束{对齐}$$

然后使用条件θ和引理2.3，我们推导出

$$开始{对齐}G_{1}和\lesssim\mathbb{E}\Biggl[\sum_{j=j_{0}}^{j_{1{}2^{jp/2}\Biggl（\sum_{k\in\varLambda_{j}}I_{{{vert\widehat{\beta}_{j，k}-beta_{j，k}\vert\geq\frac{\kappat_{n}}{2}\}}\bigl\vert\psi_{j、k}（y）\bigr\vert\biggr）2^{frac{jp}{2p'}}\biggr]\\&\lesssim\sum_{j=j{0}}^{j{1}}2^{（p+frac{p}{p'}）}\sum_{k\in\varLambda_{j}}\bigl\vert\psi_{j，k}（y）\bigr\vert\mathbb{E}[I_{{vert\widehat{beta}_｛j，k｝-\β{j，k}\vert\geq\frac{\kappat{n}}{2}}]\lesssim\sum{j=j{0}}^{j{1}}2^{j（p-\lambda）}。\结束{对齐}$$

(28)

显然，存在\（\kappa>1\）这样的话\（\lambda>p+mp\）在引理中2.3.然后\（G{1}\lesssim\sum{j=j{0}}^{j{1}}2^{j（p-\lambda）}\lessim\sum{j=j{0}}^{j{1}{2^{-jmp}\）。这可以选择\（2^{j{0}}\simn^{frac{1}{2m+1}}\） \（（m>s）\）说明了这一点

$$开始{对齐}G_{1}\lesssim\sum_{j=j_{0}}^{j_{1{}2^{-jmp}\lessim2^{-j_{0}分钟}\sim n^{-\压裂{mp}{2m+1}}<n^{-压裂{（s-1/r）p}{2（s-1/r）+1}}。\结束{对齐}$$

(29)

•的上限\（G_{2}\）.服用\（2^{j{*}}\simn^{frac{1}{2（s-1/r）+1}}\），我们明白了\（2^{j{0}}<2^{j{*}}<2^{j{1}}\）。很容易看出

$$开始{对齐}G_{21}&：=\mathbb{E}\Biggl[\sum_{j=j_{0}}^{j_{*}}\Biggl（\sum__{k\in\varLambda_{j}}\vert\widehat{\beta}_{j，k}-\beta_{j，k}\vert I_{{vert\beta_}，k}\ vert\geq\frac{\kappat_{n}}{2}}\bigl\vert\psi_{j、k}（y）\bigr\vert\biggr）^{p}\biggr]\\&\lesssim\sum_{j=j_{0}}^{j_{*}\mathbb{E}\biggl[\biggl（\sum_{k\in\ varLambda_{j}}\vert\widehat{\beta}_{j，k}-\β{j，k}\vert\bigl\vert\psi{j，k}（y）\bigr\vert\ biggr）^{p}\biggr]。\结束{对齐}$$

类似于(21)，我们得到

$$\begin{aligned}G_{21}\lesssim\sum_{j=j_{0}}^{j_{*}}\biggl（\frac{2^{j}}{n}\bigr）^{frac{p}{2}}\lessim\biggl p}{2（s-1/r）+1}}\结束{对齐}$$

(30)

通过引理2.2和\（2^{j{*}}\simn^{frac{1}{2（s-1/r）+1}}\）.

另一方面，

$$\开始{对齐}G_{22}&：=\mathbb{E}\Biggl[\sum_{j=j_{*}+1}^{j_{1}}\Biggl（\sum_{k\in\varLambda_{j}}\vert\widehat{\beta}_{j，k}-\beta_{j，k}\vert I_{{vert\beta_}，k}\vert\geq\frac{\kappat_{n}}{2}}\bigl\vert\psi_{j在\varLambda_{j}}\vert\widehat{beta}中_｛j，k｝-\β{j，k}\vert\biggl\vert\frac{\beta_{j，k}}{\kappa t_{n}}\biggr\vert\psi{j，k}（y）\bigr\vert\viggr）^{p}\biggr]。\结束{对齐}$$

使用Hölder不等式和引理2.2，我们有

$$开始{对齐}G_{22}和\lesssim\mathbb{E}\Biggl[\sum_{j=j_{*}+1}^{j_{1}}\Biggl（\frac{1}{t_{n}}\binggr）^{p}\bigbl（\sum_{k\in\varLambda_{j}}}\vert\widehat{beta}_{j，k}-\β{j，k}\vert^{p}\bigl\vert\beta_{j，k}\psi_{j、k}（y）\bigr\vert\biggr+1}^{j{1}}\biggl（\frac{1}{t{n}}\biggr）^{p} n个^｛-\frac｛p｝｛2｝｝\biggl（\sum_{k\in\varLambda_{j｝｝\bigl\vert\beta\{j，k｝\psi_{j，k｝（y）\bigr\vert\biggr）^｛p｝。\结束{对齐}$$

什么时候？\（s>1/r）,\（B_{r，q}^{s}（\mathbb{r}）显然，\（B_{\infty，\infty}^{s-1/r}（\mathbb{r}）\）是一个Hölder空间。然后我们可以推导出\（sum_{k\in\varLambda_{j}}|\beta_{j，k}\psi_{j、k}（y）|\lesssim 2^{-j（s-1/r）}\）如中所示[11]。因此，它取决于\（2^{j_{*}}\）那个

$$开始{对齐}G_{22}\lesssim\sum_{j=j_{*}+1}^{j_{1}}2^{-j（s-1/r）p}\lessim2^{-j_{**}（s-1/r）p}\sim n^{-\frac{（s-1/1）p}{2（s-1/）+1}}。\结束{对齐}$$

(31)

因此我们有

$$开始{对齐}G{2}=G{21}+G{22}\lesssim n^{-\frac{（s-1/r）p}{2（s-1/r）+1}}。\结束{对齐}$$

(32)

•的上限\（G_{3}\）显然，我们可以得到

$$开始{对齐}G_{31}&：=\sum_{j=j_{0}}^{j_{*}\biggl（\sum__{k\in\varLambda_{j}}\vert\beta_{j，k}\vertI_{vert\beta _{j \sum_{j=j_{0}}^{j_{*}}\biggl（\sum_{k\in\varLambda_{j}}t_{n}\bigl\vert\psi_{j，k}（y）\bigr\vert\biggr）^{p}\\&\lesssim\sum_{j=j_{0}}^{j_{*}}\biggl（\frac{ln}{n}\bigr）n^{-\frac{（s-1/r）p}{2（s-1/r）+1}}。\结束{对齐}$$

(33)

此外，它是根据Hölder不等式得出的\（（1/r+1/r'=1）\），条件θ、和引理1.2那个

$$开始{对齐}G_{32}&：=\sum_{j=j_{*}+1}^{j_{1}}\biggl ssim\sum{j=j{*}+1}^{j{1}}\biggl（sum{k\in\varLambda{j}}\vert\beta{j，k}\vert_bigl\vert\psi{j，k}（y）\bigr\vert\biggr）^{p}\\&\lesssim\sum_{j=j_{*}+1}^{j_{1}}\biggl（\sum_{k\in\varLambda_{j}}\vert\beta_{j，k}\vert^{r}\bigr）\bigr\vert^{r'}\biggr）^{\frac{p}{r'{}\lesssim\sum_{j=j{*}+1}^{j{1}}2^{-j（s-1/r）p}。\结束{对齐}$$

这个有\（2^{j{*}}\simn^{frac{1}{2（s-1/r）+1}}\）说明了这一点

$$开始{对齐}G_{32}\lesssim\sum_{j=j_{*}+1}^{j_{1}}2^{-j（s-1/r）p}\lessim2^{-j_{**}（s-1/r）p}\sim n^{-\frac{（s-1/1）p}{2（s-1/）+1}}。\结束{对齐}$$

(34)

因此

$$\boot｛aligned｝G_｛3｝=G_｛31｝+G_｛32｝\lesssim（\ln n）^｛p/2｝n^｛-\frac｛（s-1/r）p｝｛2（s-1/r）+1｝｝。\结束{对齐}$$

(35)

由(27), (29), (32)、和(35)我们有\（语法（ln n）^{语法{3p}{2}}n ^{-\frac{（s-1/r）p}{2（s-1/r）+1}}）。然后很容易从中看到(24), (25)、和(26)那个

$$\mathbb{E}\bigl[\bigl\vert\widehat{f}_{n} ^{\mathrm{non}}（y）-f（y$$

这就结束了证明。□