我们研究了凸损失函数和$L$-Lipschitz损失函数回归问题的经验风险最小化器（ERM）和正则经验风险最小化子（RERM）。我们考虑$|{\mathcal{O}}|$恶意离群值污染标签的设置。在这种情况下，在局部Bernstein条件下，我们证明了$L_{2}$-错误率由$r_{N}+AL|{\mathcal{O}}|/N$限定，其中$N$是观察总数，$r_}N}$是未污染环境中的$L_}$-错误率，$a$是来自局部Bernstien条件的参数。当$r_{N}$在非污染环境中为最小速率优化时，当$|{\mathcal{O}}|$离群值污染标签时，速率$r_}N}+AL|{\mathcal{0}|/N$也是最小速率优化。本文的主要结果可用于弱噪声假设下的许多非正则化和正则化过程。我们给出了Huber的M-估计量（无惩罚或由$\ell_{1}$-范数正则化）的结果，以及在可重跟踪噪声的可再生核Hilbert空间中一般正则化学习问题的结果。