×

兹马思-数学第一资源

凸性、分类和风险边界。(英语) Zbl 1118.62330
摘要:机器学习文献中发展的许多分类算法,包括支持向量机和boosting,都可以看作是最小化0-1损失函数的凸代理的最小对比度方法。凸性使得这些算法计算效率高。然而,使用替代项会产生统计结果,必须与凸性的计算优点进行权衡。为了研究这些问题,我们提供了使用0-1损失评估的风险和使用任何非负替代损失函数评估的风险之间的一般定量关系。我们证明了这种关系在损失函数的最弱可能条件下给出了超额风险的非平凡上界,即满足Fisher分类一致性的点态形式。这种关系是基于损耗函数的一种简单的变分变换,在许多应用中很容易计算。在低噪声的情况下,我们也给出了这个结果的一个改进版本,并且表明在这种情况下,严格凸损失函数比标准一致收敛参数所暗示的风险收敛速度更快。最后,我们应用我们的结果来估计函数类的收敛速度,这些函数类是有限维基类的缩放凸壳,具有各种常用的损失函数。

理学硕士:
62小时30分 分类和区分;聚类分析(统计方面)
PDF格式 BibTeX公司 XML 引用
全文: 内政部 链接 链接