×
蒂莫西·马修

使用影响函数对M估计量进行集中研究。 （英语） Zbl 1493.62146号

电子。J.统计。 16，编号1，3695-3750（2022）.
摘要：我们使用影响函数的工具对希尔伯特空间中位置的M估计进行了一种新的有限样本分析。特别地，我们证明了M估计量的偏差可以通过其影响函数（或其得分函数）来控制，然后，我们使用M估计量上的集中不等式来研究腐败环境（对抗腐败环境）中高维均值的稳健估计对于有界和无界得分函数。对于大小为（n）和协方差矩阵为（Sigma）的样本，我们在重尾设置中获得了概率大于（1-delta）的最小最大速度（sqrt{Tr（Sigma-）/n}+\sqrt{\|Sigma\|_{op}\log（1/delta）/n}）。与最近提出的其他方法相比，我们的方法的一个主要优点是，我们的估计器即使在复杂度为\（O（nd\log（Tr（\Sigma）））的非常高的维中也易于处理且计算速度快，其中\（n）是样本量，\（Sigma是内嵌层的协方差矩阵，在我们为本文提供的代码中测试速度非常快。

引用于2文件

MSC公司：

62层35 鲁棒性和自适应程序（参数推断）
60克25 预测理论（随机过程方面）

关键词：

稳健统计;集中不等式;平均值估计
PDF格式BibTeX公司 XML格式引用
\textit{T.Mathieu}，电子。J.Stat.16，No.1，3695--3750（2022年；Zbl 1493.62146）
全文： 内政部 arXiv公司 链接

参考文献：

[1] ADAMCZAK，R.等人（2008年）。无界经验过程上确界的尾部不等式及其在马尔可夫链中的应用。概率电子杂志13 1000-1034. ·Zbl 1190.60010号
[2] BAHADUR，R.R.（1966年）。关于大样本分位数的注记。安。数学。统计师。37 577-580. ·兹伯利0147.18805 ·doi:10.1214/aoms/1177699450
[3] BECK，A.和SABACH，S.（2015）。魏斯菲尔德方法：新旧结果。最优化理论与应用杂志164 1-40. ·Zbl 1316.49001号
[4] BOUCHERON，S.、LUGOSI，G.和MASSART，P.（2013）。集中不等式：一个非渐近独立理论.OUP牛津大学·Zbl 1279.60005号
[5] CATONI，O.（2012）。挑战经验均值和经验方差：偏差研究。Ann.Inst.H.PoincaréProbab公司。统计师。48 1148-1185. ·兹比尔1282.62070 ·doi:10.1214/11-AIHP454
[6] CATONI，O.和GIULINI，I.（2017年）。矩阵、向量和线性最小二乘回归的无量纲PAC-Bayesian界。(https://arxiv.org/abs/1712.02747).
[7] CHEN，M.、GAO，C.、REN，Z.等人（2018年）。Huber污染模型下的稳健协方差和散布矩阵估计。统计学年鉴46 1932-1960. ·Zbl 1408.62104号
[8] CHERAPANAMGERI，Y.，FLAMMARION，N.和BARTLETT，P.L.（2019年）。亚高斯速率的快速平均估计。在学习理论会议786-806. PMLR公司。
[9] CHINOT，G.、LECUé，G.和LERASLE，M.（2019年）。具有Lipschitz和凸损失函数的稳健统计学习。概率论及相关领域1-44. ·Zbl 1436.62178号
[10] DE LA PENA，V.和GINé，E.（2012）。脱钩：从依赖到独立Springer Science&Business Media，纽约。
[11] DEBRUYNE，M.、HUBERT，M.和SUYKENS，J.A.（2008）。基于影响函数的核回归模型选择。机器学习研究杂志9 2377-2400. ·Zbl 1225.62051号
[12] DEPERSIN，J.和LECUé，G.（2019年）。近似线性时间内平均向量的稳健次高斯估计·兹比尔1486.62077
[13] DEVROYE，L.、LERASLE，M.、LUGOSI，G.和OLIVEIRA，R.I.（2016）。亚高斯平均估计量。统计学年鉴44 2695-2725. ·Zbl 1360.62115号
[14] DIAKONIKOLAS，I.和KANE，D.M.（2019）。算法高维稳健统计的最新进展。
[15] DIAKONIKOLAS，I.、KANE，D.M.和PENSIA，A.（2020年）。基于稳定性的亚高斯率异常稳健均值估计。
[16] ELISSEEFF，A.和PONTIL，M.（2002年）。漏失误差和应用学习算法的稳定性随机学习算法源的稳定性。国际系统科学杂志-IJSySc6
[17] FERNHOLZ，L.T.（1983年）。统计泛函的von Mises演算.统计学课堂讲稿19.纽约斯普林格-弗拉格·Zbl 0525.62031号 ·doi:10.1007/978-1-4612-5604-5
[18] HAMPEL，F.R.（1971）。稳健性的一般定性定义。安。数学。统计师。42 1887-1896. ·Zbl 0229.62041号 ·doi:10.1214/aoms/1177693054
[19] HAMPEL，F.R.（1974）。影响曲线及其在稳健估计中的作用。美国统计协会杂志69 383-393. ·Zbl 0305.62031号
[20] HAMPEL，F.R.、RONCHETTI，E.M.、ROUSSEEUW，P.J.和STAHEL，W.A.（1986年）。稳健统计：基于影响函数的方法，第1版。概率统计中的威利级数Wiley失踪了·Zbl 0593.62027号
[21] HANSON，D.L.和WRIGHT，F.T.（1971）。独立随机变量中二次型的尾部概率的界。安。数学。统计师。42 1079-1083. ·Zbl 0216.22203号 ·doi:10.1214/aoms/1177693335
[22] 何旭、邵庆明（1996）。M-估计量的一般Bahadur表示及其在非随机设计线性回归中的应用。安。统计师。24 2608-2630. ·Zbl 0867.62012年 ·doi:10.1214操作系统/1032181172
[23] HOPKINS，S.、LI，J.和ZHANG，F.（2020年）。通过最小化遗憾，稳健且重尾的平均值估计变得简单。神经信息处理系统研究进展33 11902-11912.
[24] 霍普金斯，S.B.（2020）。多项式时间内亚高斯率的均值估计。统计年刊48 1193-1213. (https://arxiv.org/abs/1809.07425). ·Zbl 1454.62162号
[25] HOPKINS，S.B.和LI，J.（2019年）。稳健平均估计有多难？CoRR公司abs/1903.07870。
[26] Huber，P.J.（1964年）。位置参数的稳健估计。安。数学。统计师。35 73-101. ·Zbl 0136.39805号 ·doi:10.1214/aoms/1177703732
[27] HUBER，P.J.和RONCHETTI，E.M.（2009年）。稳健统计；第二版《概率统计威利级数》新泽西州霍博肯威利·Zbl 1183.62002号
[28] KOH，P.W.和LIANG，P.（2017）。通过影响函数了解黑盒预测。
[29] LAI，K.A.、RAO，A.B.和VEMPALA，S.（2016）。平均值和协方差的不确定性估计。在2016年IEEE第57届计算机科学基础年度研讨会（FOCS）665-674. 电气与电子工程师协会。
[30] LERASLE，M.（2019年）。课堂讲稿：稳健统计学习理论的精选主题。
[31] LUGOSI，G.和MENDELSON，S.（2019年）。重尾分布下的均值估计和回归：一项调查。计算数学基础19 1145-1190. ·兹比尔1431.62123 ·doi:10.1007/s10208-019-09427-x
[32] LUGOSI，G.、MENDELSON，S.等人（2019年）。随机向量平均值的次高斯估计。统计年鉴47 783-794. ·兹比尔1417.62192
[33] Minsker，S.（2015）。Banach空间中的几何中值和稳健估计。伯努利21 2308-2335. ·Zbl 1348.60041号
[34] MINSKER，S.（2018年）。稳健平均估计量的一致界。arXiv预打印arXiv：1812.03523. ·Zbl 1418.62235号
[35] MINSKER，S.和MATHIEU，T.（2019年）。稳健经验风险最小化中的超额风险边界·Zbl 1483.91059号
[36] RONCHETTI，E.（1997）。通过影响函数进行稳健推理。统计规划与推断杂志57 59-72. 稳健统计和数据分析，第一部分·Zbl 0900.62175号 ·doi:10.1016/S0378-3758（96）00036-5
[37] 孙琦、周维新和范杰（2020）。自适应Huber回归。美国统计协会杂志115 254-265. ·Zbl 1437.62250号
[38] VAN DER VAART，A.W.和WELLNER，J.A.（1996）。弱收敛和经验过程.统计学中的斯普林格系列Springer-Verlag，纽约，统计应用·Zbl 0862.60002号
[39] ZHOU，W.-X.，BOSE，K.，FAN，J.和LIU，H.（2018）。稳健估计的新视角：有限样本理论及其在相关性调整多重检验中的应用。安。统计师。46 1904-1931. ·Zbl 1409.62154号 ·doi:10.1214/17-AOS1606
[40] ZHU，B.、JAO，J.和STEINHARDT，J（2020）。通过广义拟粒度进行稳健估计。arXiv预打印arXiv：2005.14073.
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。