×

序列复杂性和一致鞅大数定律。 (英语) Zbl 1356.60029号

大量工作包括10个部分:1:引言(定义1:序列一致收敛);2:总结和结果(主要结果:定理1);3:相关文献(参考文献包含40个参考项目);4:对称化和树过程(定义2:树过程,定义3:序贯Rademacher复杂性,定理2);5:有限类、覆盖数和链接(定义4:\(\alpha\)-覆盖,定义5:积分复杂度,定理3);6:组合参数(定义6:破碎树,Littlestone维数,定义7:(alpha)-破碎树,见证破碎,脂肪分解维数,定理4和5);7:序列一致收敛;8:结构结果;9:应用:Banach空间中鞅的集中性;10:附录:证明。
此外,本文包含九个引理、两个命题和两个推论。
在摘要中,作者写道:“我们建立了一致鞅大数定律的充要条件。我们将对称化技术推广到相依随机变量的情况,并提供了‘序贯’(非i.i.d.)各种经典复杂性度量的类比,例如来自经验过程理论的覆盖数和组合维。我们在这些不同的序列复杂性度量之间建立了关系,并表明它们对具有相依数据的经验过程的一致收敛速度提供了严格的控制。作为我们结果的直接应用,我们为Banach空间中的鞅差和提供了指数不等式。”

MSC公司:

60埃15 不平等;随机排序
60二氧化碳 组合概率
2015年1月60日 强极限定理
60G42型 离散参数鞅
60G44型 具有连续参数的鞅
91A20型 多阶段重复游戏
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] Abernethy,J.,Agarwal,A.,Bartlett,P.,Rakhlin,A.:通过极小极大二元性对最优后悔的随机观点。摘自:第22届学习理论年会论文集(2009)·Zbl 0604.60029号
[2] Adams,T.M.,Nobel,A.B.:遍历采样下Vapnik-Chervonenkis类的一致收敛性。安·普罗巴伯。38(4), 1345-1367 (2010) ·兹比尔1220.60019 ·doi:10.1214/09-AOP511
[3] Alon,N.、Ben-David,S.、Cesa-Bianchi,N.和Haussler,D.:尺度敏感维度、一致收敛性和可学习性。J.ACM 44,615-631(1997)·Zbl 0891.68086号 ·数字对象标识代码:10.1145/263867.263927
[4] Alon,N.,Spencer,J.:概率方法,第二版。威利,纽约(2000年)·Zbl 0996.05001号 ·doi:10.1002/0471722154
[5] Bartlett,P.L.,Long,P.M.,Williamson,R.C.:脂肪切割和实值函数的可学习性。摘自:《第七届ACM计算学习理论年会论文集》,第299-310页。ACM出版社,纽约(1994)·Zbl 0858.68076号
[6] Bartlett,P.L.,Long,P.M.,Williamson,R.C.:脂肪切割和实值函数的可学习性。J.计算。系统。科学。52(3), 434-452 (1996) ·Zbl 0858.68076号 ·doi:10.1006/jcss.1996.0033
[7] Bartlett,P.L.,Mendelson,S.:拉德马赫和高斯复杂性:风险边界和结构结果。J.马赫。学习。第3463-482号决议(2003年)·Zbl 1084.68549号
[8] Ben-David,S.、Pal,D.、Shalev-Shwartz,S.:不可知论在线学习。摘自:第22届学习理论年会论文集(2009)
[9] de la Peña,V.,Giné,E.:脱钩:从依赖到独立。柏林施普林格(1998)·Zbl 0918.60021号
[10] Dehling,H.、Mikosch,T.、Sörensen,M.:相关数据的经验处理技术。Birkhäuser,波士顿(2002年)·Zbl 1005.00016 ·doi:10.1007/978-1-4612-0099-4
[11] Dudley,R.M.:统一中心极限定理。剑桥大学出版社,剑桥(1999)·Zbl 0951.60033号 ·doi:10.1017/CBO9780511665622
[12] Dudley,R.M.、Gine,E.、Zinn,J.:统一和通用的Glivenko-Cantelli类。J.西奥。普罗巴伯。4, 485-510 (1991) ·Zbl 0732.60035号 ·doi:10.1007/BF01210321
[13] Dudley,R.M.、Kunita,H.、Ledrappier,F.、Hennequin,P.L.:经验过程课程。收录于:《圣弗朗西斯科十九世》(El cole d’Etéde Probabilités de Saint-Flour XII-1982)。《数学讲义》,第1097卷,第1-142页。柏林施普林格(1984)·Zbl 0239.02024号
[14] Giné,E.,Zinn,J.:经验过程的一些极限定理。安·普罗巴伯。12(4), 929-989 (1984) ·Zbl 0553.60037号 ·doi:10.1214/aop/1176993138
[15] Kakade,S.M.、Sridharan,K.、Tewari,A.:关于线性预测的复杂性:风险边界、边际边界和正则化。摘自:《神经信息处理系统进展》21,第793-800页。麻省理工学院出版社,剑桥(2009)
[16] Kearns,M.J.,Schapire,R.E.:概率概念的高效无分布学习。J.计算。系统。科学。48(3), 464-497 (1994) ·兹比尔0822.68093 ·doi:10.1016/S0022-0000(05)80062-5
[17] Ledoux,M.,Talagrand,M.:巴拿赫空间中的概率。施普林格,纽约(1991)·Zbl 0748.60004号 ·doi:10.1007/978-3642-20212-4
[18] 利特斯通,N.:当不相关的属性大量存在时快速学习:一种新的线性阈值算法。机器。学习。2(4), 285-318 (1988)
[19] Mendelson,S.:关于统计学习理论的一些注释。收录于:Mendelson,S.,Smola,A.J.(编辑)《机器学习高级讲座》,LNCS 2600,机器学习暑期学校2002,澳大利亚堪培拉,2月11-22日,第1-40页。柏林施普林格出版社(2003)·Zbl 1019.68093号
[20] Mendelson,S.,Vershynin,R.:熵和组合维。《数学发明》152(1),37-55(2003)·Zbl 1039.60016号 ·doi:10.1007/s00222-002-0266-3
[21] Nobel,A.,Dembo,A.:关于相关过程均匀平均律的注释。统计概率。莱特。17, 169-172 (1993) ·Zbl 0776.60042号 ·doi:10.1016/0167-7152(93)90163-D
[22] Pinelis,I.:Banach空间中鞅分布的最佳界。安·普罗巴伯。22(4), 1679-1706 (1994) ·Zbl 0836.60015号 ·doi:10.1214/aop/1176988477
[23] Pisier,G.:值在一致凸空间中的鞅。以色列。数学杂志。20, 326-350 (1975) ·Zbl 0344.46030号 ·doi:10.1007/BF02760337
[24] Pollard,D.:经验过程:理论与应用。NSF-CBMS概率与统计区域会议系列,第2卷。海沃德数学统计研究所(1990)·Zbl 0741.60001号
[25] Rakhlin,A.、Sridharan,K.、Tewari,A.:在线学习:随机平均值、组合参数和可学习性。高级神经信息处理。系统。23, 1984-1992 (2010) ·Zbl 1191.68499号
[26] Rudelson,M.,Vershynin,R.:随机过程和凸体截面的组合数学。安。数学。164(2), 603-648 (2006) ·Zbl 1114.60009号 ·doi:10.4007/年度.2006.164.603
[27] Sauer,N.:关于集合族的密度。J.库姆。理论Ser。A 13,145-147(1972)·Zbl 0248.0505号 ·doi:10.1016/0097-3165(72)90019-2
[28] Shelah,S.:一个组合问题:无限语言中模型和理论的稳定性和顺序。派克靴。数学杂志。4, 247-261 (1972) ·Zbl 0239.02024号 ·doi:10.2140/pjm.1972.41.247
[29] 斯蒂尔,J.M.:经验差异和次加法过程。安·普罗巴伯。6(1), 118-127 (1978) ·Zbl 0374.60037号 ·doi:10.1214/aop/1176995615
[30] Talagrand,M.:格里文科-坎特利问题。安·普罗巴伯。15, 837-870 (1987) ·Zbl 0632.60024号 ·doi:10.1214/aop/1176992069
[31] Talagrand,M.:十年后的Glivenko-Cantelli问题。J.西奥。探针。9(2), 371-384 (1996) ·Zbl 0880.60023号 ·doi:10.1007/BF02214655
[32] Talagrand,M.:一般链:随机过程的上下限。柏林施普林格出版社(2005)·Zbl 1075.60001号
[33] Van Der Vaart,A.W.,Wellner,J.A.:弱收敛与经验过程:统计应用。Springer系列。施普林格,纽约(1996)·Zbl 0862.60002号 ·数字对象标识代码:10.1007/978-1-4757-2545-2
[34] van de Geer,S.A.:M估计的经验过程。剑桥大学出版社,剑桥(2000)·Zbl 1179.62073号
[35] van de Geer,S.A.:关于依赖随机变量的Hoeffing不等式。摘自:相关数据的经验处理技术,第161-169页。柏林施普林格出版社(2002年)·Zbl 1027.60013号
[36] van Handel,R.:通用Glivenko-Cantelli属性。普罗巴伯。理论关联。字段155(3-4),911-934(2013)·Zbl 1268.60043号
[37] Vapnik,V.N.,Chervonenkis,阿雅州:关于事件相对频率与其概率的一致收敛性。理论概率论。申请。16(2), 264-280 (1971) ·Zbl 0247.60005号 ·数字对象标识代码:10.1137/1116025
[38] Vapnik,V.N.,Chervonenkis,阿亚州:平均值一致收敛到其期望值的充分必要条件。Teoriya Veroyatnostei i Ee Primeniya特奥里亚·维罗亚特诺斯蒂·伊·普雷梅内尼亚26(3),543-564(1981)·兹比尔0471.60041
[39] Yu,B.:平稳混合序列经验过程的收敛速度。安·普罗巴伯。22(1), 94-116 (1994) ·兹比尔0802.60024 ·doi:10.1214/aop/1176988849
[40] Yukich,J.E.:函数类的收敛速度:非身份证情况。J.多变量。分析。20(2), 175-189 (1986) ·Zbl 0604.60029号 ·doi:10.1016/0047-259X(86)90076-X
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。