×

阈值决策规则组合泛化能力界的尖锐性估计。 (英语。俄文原件) Zbl 1466.91088号

自动。远程控制 82,第5号,863-876(2021); Avtom翻译。Telemekh公司。2021年,第5期,第151-168页(2021年)。
摘要:本文致力于计算一维阈值决策规则族泛化能力泛函的精确上界问题。研究了一种算法,该算法解决了所述问题,并且在用于训练和验证的样本总数和训练样本数方面是多项式的。证明了一个定理,用于计算期望过拟合泛函的估计和最小化验证集经验风险方法的误差率估计。将使用该定理计算的精确边界与之前已知的快速计算上限进行比较,以估计边界的高估阶数,并确定可用于实际问题的边界。

MSC公司:

91B06型 决策理论
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Kohavi,R.,《精度估计和模型选择的交叉验证和引导研究》,Proc。国际联合协调条款。智力。(1995年),第1137-1143页。
[2] 瓦普尼克,V.N。;A.Ya.Chervonenkis。,关于事件发生率与其概率的一致收敛,Teor。维罗亚特。Ee引物。,16, 2, 264-280 (1971) ·Zbl 0247.60005号
[3] Vapnik,V.N。;Chervonenkis,A.雅。,Teoriya raspoznavaniya obrazov(模式识别理论)(1974),莫斯科:瑙卡,莫斯科·Zbl 0284.68070号
[4] Vapnik,V.N.,Vosstanovlenie zavisimostei po experimentalheskim dannym(从经验数据中恢复依赖性)(1979),莫斯科:瑙卡,莫斯科
[5] Vorontsov,K.V.,组合概率和泛化边界的紧性,模式识别。图像分析。,18, 2, 243-259 (2008) ·doi:10.1134/S1054661808020090
[6] Langford,J.,《定量紧样本复杂度界限》,匹兹堡:卡内基梅隆大学博士论文,2002年。
[7] 弗伦德,Y。;Schapire,R.E.,《在线学习的决策理论推广及其在助推中的应用》,J.Comput。系统。科学。,55, 1, 119-139 (1997) ·Zbl 0880.68103号 ·doi:10.1006/jcss.1997.1504
[8] Kearns,M.J.等人,《模型选择方法的实验和理论比较》,载于《计算学习理论》,1995年,第21-30页。
[9] Boucheron,S。;O.布斯克。;Lugosi,G.,《分类理论:一些最新进展的综述》,ESAIM:Probab。统计,9,323-375(2005)·Zbl 1136.62355号 ·doi:10.1051/ps:2005018
[10] 沙列夫·施瓦茨,S。;Ben-David,S.,《理解机器学习:从理论到算法》(2014),剑桥:剑桥大学出版社,剑桥·Zbl 1305.68005号 ·doi:10.1017/CBO9781107298019
[11] Koltchinskii,V.,《经验风险最小化和稀疏恢复问题中的甲骨文不等式:圣徒概率》,第三十八至2008页。数学课堂讲稿(2011年),柏林-海德堡:斯普林格·弗拉格,柏林-海德堡·Zbl 1223.91002号 ·doi:10.1007/978-3642-22147-7
[12] Vorontsov,K.V.,过拟合概率的严格界限,Dokl。数学。,80, 793 (2009) ·Zbl 1185.68613号 ·doi:10.1134/S1064562409060032
[13] Vorontsov,K.V.和Ivahnenko,A.A.,《阈值连接规则的紧密组合泛化界限》,第四届模式识别和机器智能国际会议,2011年。《计算机科学讲稿》,柏林-海德堡:施普林格-弗拉格出版社,2011年,第66-73页。
[14] Vorontsov,K.V.,分类器集合中的分裂和相似现象及其对过拟合概率的影响,模式识别。图像分析。,19, 3, 412-420 (2009) ·doi:10.1134/S1054661809030055
[15] Zhivotovskii,N.K.和Vorontsov,K.V.,推广能力组合估计的紧密性标准,载于Intellektualizatsiya obrabotki informatsii(IOI-2012)(信息处理智能化(IIP-2012)),莫斯科:托鲁斯出版社,2012年,第25-28页。
[16] 沃龙佐夫,K.V。;弗雷,A.I。;Sokolov,E.A.,过拟合概率的可数组合估计,Mash。奥布奇尼分析。丹尼赫,1,6734-743(2013)
[17] 弗雷,A.I。;Tolstikhin,I.O.,基于聚类和算法集覆盖的过拟合概率组合估计,Mash。奥布奇尼分析。Dannykh,1,6,761-778(2013)
[18] Haussler,D。;利特斯通,N。;Warmuth,M.K.,《随机绘制点上的预测(0,1)-函数》,Inf.Compute。,115, 2, 248-292 (1994) ·Zbl 0938.68785号 ·doi:10.1006/inco.1994.1097
[19] Vorontsov,K.V.,经验风险最小化过度拟合概率的精确组合界,模式识别。图像分析。,20, 3, 269-285 (2010) ·doi:10.1134/S105466181003X
[20] Botov,P.V.,多维建模算法族过拟合概率的精确估计,模式识别。图像分析。,20, 4, 52-65 (2010)
[21] Tolstikhin,I.O.,一些稀疏算法族的过拟合概率,Mezhdunar。康夫。IOI-8(国际会议IIP-8)(2008年),莫斯科:MAKS出版社,2010年,第83-86页。
[22] Frei,A.I.,对称预测因子集和随机学习算法泛化能力的准确估计,模式识别。图像分析。,20, 3, 241-250 (2010) ·doi:10.1134/S1054661810030016
[23] Botov,P.V.,单调和单峰算法族过拟合概率的精确界,Matematicheskie metody raspoznavaniya obrazov-14(模式识别的数学方法-14),莫斯科:MAKS出版社,2009年,第7-10页。
[24] Ishkina,Sh.Kh.,阈值分类器过拟合的组合边界,Ufa数学。J.,10,1,49-63(2018)·Zbl 1463.68053号 ·doi:10.13108/2018-10-1-49
[25] Yu Zhuravlev。一、。;Ryazanov,V.V。;Sen'ko,O.V.,拉斯波兹纳瓦尼。Matematicheskie metody女士。Programnaya sisma公司。Prakticheskie primenniya(识别.数学方法.程序系统.实际应用)(2005),莫斯科:FAZIS,莫斯科
[26] Yu Zhuravlev。关于解决识别或分类问题的代数方法,Probl。基伯恩。,33, 5-68 (1978) ·Zbl 0426.68092号
[27] Guz,I.S.,阈值分类完全滑动控制的构造性估计,Mat.Biol。生物信息。,6, 2, 173-189 (2011) ·doi:10.17537/2011.6173
[28] GiHub项目https://github.com/shaurushka/theshold-clfs-gen-bound。
[29] 沃龙佐夫,K.V.,《过拟合组合理论:连通性和分裂如何降低局部复杂性》,第九届国际互联网产业联合会工作组12.5国际会议,AIAI,柏林-海德堡:施普林格出版社,2013年。
[30] Hoefffing,W.,《有界随机变量和的概率不等式》,《美国统计协会期刊》,1963年,第58期,第13-30页·Zbl 0127.10602号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。