×

提升条件概率估值器。 (英语) 兹比尔1407.62118

摘要:在标准的不可知多类模型中,标签对是独立于一些基本分布进行采样的。这个分布在给定的一个实例中诱导了标签上的条件概率,我们在本文中的目标是学习这个条件分布。自偶数起无条件的密度对学习来说相当具有挑战性,我们给学习者提供了访问实例、条件分布对的机会。假设在这个模型中有一个基础学习者预言,我们可能会寻求一种增强算法来构建一个强大的学习者。不幸的是,如果没有进一步的假设,这是不可能的。然而,我们给出了一种新的boosting算法,该算法在以下意义上取得了成功:给定一个基本学习器,保证达到一定的平均准确度(即风险),我们有效地构造了一个以任意高的概率达到相同准确度水平的学习器。我们给出了几种不同类型的泛化保证,包括无分布精度和风险界。我们的估计没有一个取决于推进轮的数量,其中一些允许无量纲公式。

MSC公司:

62克07 密度估算
62H30型 分类和区分;聚类分析(统计方面)
65 C50 其他概率计算问题(MSC2010)

关键词:

增压;条件密度
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Alon,N.、Ben-David,S.、Cesa-Bianchi,N.和Haussler,D.:尺度敏感维度、一致收敛性和可学习性。J.ACM 44(4),615-631(1997)·Zbl 0891.68086号 ·数字对象标识代码:10.1145/263867.263927
[2] Bartlett,P.,Shawe-Taylor,J.:支持向量机和其他模式分类器的泛化性能(1999)·Zbl 1401.62096号
[3] Breiman,L.:Arcing分类器(与作者的讨论和反驳)。安。统计师。26, 801-849 (1998) ·Zbl 0934.62064号 ·doi:10.1214/aos/1024691079
[4] 达斯,D。;Petrov,S.,《使用双语基于图形的投影进行无监督部分语言标记》,600-609(2011),斯特劳德斯堡
[5] Devroye,L.,Lugosi,G.:密度估计中的组合方法,统计学中的springer级数。施普林格,纽约(2001)·Zbl 0964.62025号 ·doi:10.1007/978-1-4613-0125-7
[6] Duffy,N.,Helmbold,D.:回归的推进方法。机器。学习。47, 153-200 (2002) ·Zbl 0998.68113号 ·doi:10.1023/A:1013685603443
[7] Fan,W.,Stolfo,S.J.,Zhang,J.,Chan,P.K.:Adacost:错误分类成本敏感助推。收录于:ICML,第97-105页(1999年)
[8] Freund,Y.,Schapire,R.E.:在线学习的决策理论概括及其在助推中的应用。J.计算。系统。科学。55(1), 119-139 (1997) ·Zbl 0880.68103号 ·doi:10.1006/jcss.1997.1504
[9] Friedman,J.,Hastie,T.,Tibshirani,R.:加性逻辑回归:增长的统计观点。Ann.Stat.28,337-374(2000)·Zbl 1106.62323号 ·doi:10.1214/aos/1016218223
[10] Gibbs,A.L.,Su,F.E.:关于选择和限定概率度量。国际统计修订版70(3),419-435(2002)·Zbl 1217.62014年 ·doi:10.1111/j.1751-5823.002.tb00178.x
[11] Gottlieb,L.A.、Kontorovich,L.、Krauthgamer,R.:度量数据的有效分类。收录于:COLT,第433-440页(2010年)·Zbl 1360.62332号
[12] Gupta,A.、Krauthgamer,R.、Lee,J.R.:有界几何、分形和低畸变嵌入。收录于:FOCS,第534-543页(2003年)
[13] Kanamori,T.:多类增压对数损失函数的变形。神经网络。23(7), 843-864 (2010) ·Zbl 1401.62096号 ·doi:10.1016/j.neunet.2010.05.009
[14] Krauthgamer,R.,Lee,J.R.:导航网:邻近搜索的简单算法。摘自:第15届ACM-SIAM离散算法年会,第791-801页(2004)·Zbl 1318.68071号
[15] 麦克迪亚米德,C。;Siemons,J.(编辑),《关于有界差分法》,148-188(1989),圣马特奥·Zbl 0712.05012号
[16] Mease,D.,Wyner,A.J.,Buja,A.:增强分类树和类概率/分位数估计。J.马赫。学习。第8号决议,409-439(2007年)·Zbl 1222.68261号
[17] Schapire,R.E.,Freund,Y.,Bartlett,P.,Lee,W.S.:提高优势:投票方法有效性的新解释。安。统计师。26(5), 1651-1686 (1998) ·Zbl 0929.62069号 ·doi:10.1214操作系统/1024691352
[18] Talagrand,M.:产品空间中的新集中不等式。发明。数学。126(3), 505-563 (1996) ·Zbl 0893.60001号 ·doi:10.1007/s002220050108
[19] Toutanova,K.,Cherry,C.:联合柠檬化和部分语言预测的全球模型。摘自:ACL第47届年会联席会议和AFNLP第4届国际自然语言处理联席会议记录,ACL'09,第486-494页(2009)·Zbl 1222.68261号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。