Excess risk bounds in robust empirical risk minimization

Timothée Mathieu; Stanislav Minsker

doi:10.1093/imaiai/iaab004

第三条Dans Une Revue 信息与推理 Anneée:2021年

稳健经验风险最小化中的超额风险边界

(1, 2),(3)

1
2
三

蒂莫塞·马修

基金会：奥特尔
人员ID:1130096
伊达尔：蒂莫西·马提厄

奥赛数学实验室

统计数学与应用

斯坦尼斯拉夫·明斯克

基金会：奥特尔
人员ID:1059720

数学系[洛杉矶]

Résumé

本文研究了一般经验风险最小化算法的稳健版本，该算法是现代统计方法的核心技术之一。经验风险最小化的成功基于这样一个事实，即对于一个“表现良好”的随机过程$\left\{f（X），\f\in\mathcal f\right\}$，由一类函数$f\in\tathcal f$索引，在样本$X_1，\ldots上计算的平均值$\frac{1}{N}\sum_{j=1}^Nf（X_j）$，$X$的身份证副本的X_N$很好地逼近了大类$f\in\mathcal f$上的期望值$\mathbb E f（X）$。然而，如果过程的边际分布是重尾的，或者如果样本包含异常值，则可能不再是这样。我们提出了一种基于用期望的稳健代理代替样本平均值的思想的经验风险最小化方法，并获得了估计量的超额风险的高置信界。特别地，我们证明了稳健估计的超额风险可以以较快的速度收敛到相对于样本大小的$0$。我们讨论了主要结果对线性和逻辑回归问题的影响，并评估了所提方法在模拟和实际数据上的数值性能。

Mots clés公司

过度风险中位数分类稳健估计回归

与葡萄园

机器学习[stat.ML]

菲奇尔校长

1910.07485.pdf（1.24个月）

原籍	菲奇尔斯（Fichiers）出品的par l’（les）auteur（s）

蒂莫塞·马修 : Connectez-vous浇注接触器le contributer

https://hal.science/hal-02390397

Soumis le:mardi 3 décembre 2019-09:35:37号

Dernière修改le:jeudi 5 septembre 2024-09:15:44

长期存档：mercredi 4 mars 2020-14:05:17

日期和版本

哈尔-02390397，版本1 (03-12-2019)

身份证明人

HAL Id： hal-02390397，版本1
第十四条： 1910.07485
DOI（操作界面）： 1993年10月10日/imaiai/iaab004

Citer公司

蒂莫塞·马修（Timothée Mathieu），斯坦尼斯拉夫·明斯克（Stanislav Minsker）。稳健经验风险最小化中的超额风险边界。信息和推断, 2021,⟨10.1093/imaiai/iaab004⟩.⟨哈尔-02390397⟩

出口商

BibTeX公司 XML-TEI公司都柏林核心元数据集 DC条款尾注数据引用

CNRS公司印度 INSMI公司 LM-ORSAY公司 INRIA2公司 UNIV-PARIS-SACLAY大学 GS-模型 GS-计算机科学

74 磋商

235 交易费用