×

随机经验风险最小化者的PAC-Bayesian界。 (英语) Zbl 1260.62038号

摘要:本文的目的是推广由O.卡托尼[自适应分类的PAC-Baysian方法。预打印实验室概率与模式(2003),PAC-Bayesian监督分类。统计学习的热力学。数学研究所统计讲义-专题系列56。俄亥俄州比奇伍德:IMS,数理统计研究所(2007;Zbl 1277.62015年)]在分类设置中以更一般的问题进行统计推断。我们展示了如何控制随机估计值风险的偏差。特别注意在经典估计量的小邻域中提取的随机估计量,其研究导致了对后者风险的控制。这些结果使我们能够限制非常一般的估计程序的风险,并进行模型选择。

MSC公司:

62H30型 分类和区分;聚类分析(统计方面)
62克08 非参数回归和分位数回归
68T05年 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] P.Alquier,回归和密度估计的传导性和归纳适应性推断,博士论文(巴黎大学,2006年6月)。
[2] J.-Y.Audibert,“最小二乘回归的聚合估计和经验复杂性”,安·H·庞加莱研究所:概率。和统计师。40(6), 685–736 (2004). ·Zbl 1052.62037号 ·doi:10.1016/j.anihpb.2003.11.006
[3] J.-Y.Audibert,PAC-Baysian统计学习理论,博士论文(巴黎大学,2004年6月)。
[4] S.N.Bernstein,《概率论》(莫斯科,1927)[俄语]。
[5] S.Boucheron,O.Bousquet,G.Lugosi,“分类理论:一些最新进展”,ESAIM概率与统计9,323–375(2005)·兹比尔1136.62355 ·doi:10.1051/ps:2005018
[6] O.Catoni,《适应分类的PAC-Baysian方法》,预印实验室(2003年)。
[7] O.Catoni,《统计学习理论和随机优化》,载于《数学课堂讲稿》(2001年圣弗洛尔概率论暑期学校)(Springer,2004年)。
[8] O.Catoni,《PAC-Baysian监督分类(统计学习的热力学)》,摘自《课堂讲稿-专题系列》(IMS,2007年),第56卷·Zbl 1277.62015年
[9] A.J.Cervonenkis和V.N.Vapnik,“事件相对频率与其概率的一致收敛性”,Dokl。阿卡德。诺克SSSR 181(4)(1968)。
[10] C.Cortes和V.N.Vapnik,“支持向量网络”,机器学习20,273–297(1995)·Zbl 0831.68098号
[11] L.Devroye、L.Györfi和G.Lugosi,《模式识别的概率理论》(Springer,纽约,1996)·Zbl 0853.68150号
[12] J.H.Friedman、T.Hastie和R.Tibshirani,《统计学习的要素》(Springer,纽约,2001年)·Zbl 0973.62007号
[13] W.Hoeffing,“有界随机变量和的概率不等式”,J.Amer。统计师。协会18、13–30(1963年)·Zbl 0127.10602号 ·doi:10.1080/016214591963.10500830
[14] G.Lecue,《聚合程序:最优和快速率》(巴黎大学,2007年6月)·Zbl 1320.62091号
[15] E.Mammen和A.Tsybakov,“统计学习中的平滑歧视分析”,《统计年鉴》。27, 1808–1829 (1999). ·Zbl 0961.62058号 ·doi:10.1214/aos/1017939240
[16] D.A.McAllester,“一些PAC-Baysian定理”,摘自Proc。第十一届计算学习理论年会(威斯康星州麦迪逊,1998)(美国计算机学会,纽约,1998),第230-234页。
[17] D.A.McAllester,“PAC-BaysianModel Averaging”,摘自《Proc。第12届计算学习理论年会,加利福尼亚州圣克鲁斯(电子版)(ACM,纽约,1999年),第164–170页。
[18] J.Rissanen,“通过最短数据描述建模”,Automatica 14,465–471(1978)·Zbl 0418.93079号 ·doi:10.1016/0005-1098(78)90005-5
[19] R.Schapire、Y.Freund、P.Bartlett和W.S.Lee,“提高利润率:投票方法有效性的新解释”,《统计年鉴》。26, 1651–1686 (1998). ·Zbl 0929.62069号 ·doi:10.1214/aos/1024691352
[20] A.Tsybakov,“统计学习中分类器的最佳聚合”,《统计年鉴》。32, 135–166 (2004). ·Zbl 1105.62353号 ·doi:10.1214/aos/1079120131
[21] V.N.Vapnik,《统计学习理论的本质》(Springer,1998)·Zbl 0934.62009号
[22] T.Zhang,“基于凸风险最小化的分类方法的统计行为和一致性”,Ann.Statist。32, 56–85 (2004). ·兹比尔1105.62323 ·doi:10.1214/aos/1079120130
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。