×

基准最小二乘支持向量机分类器。 (英语) Zbl 1078.68737号

摘要:在支持向量机(SVM)中,分类问题的求解是一个(凸)二次规划问题。在改进的支持向量机中,称为最小二乘支持向量机分类器(LS-SVMs),提出了一种最小二乘代价函数,以获得对偶空间中的线性方程组。虽然SVM分类器具有较大的裕度解释,但本文将LS-SVM公式与用于二元目标分类的岭回归方法以及特征空间中的Fisher线性判别分析联系起来。多类分类问题由一组使用不同输出编码方案的二进制分类器表示。当正则化用于控制LS-SVM分类器的有效参数个数时,由于选择了2-范数,SVM的稀疏性丢失了。在稀疏近似过程中,通过逐步修剪支持值谱和优化超参数,可以在第二阶段实现稀疏性。本文使用20个公共域基准数据集来评估具有线性、多项式和径向基函数(RBF)核的LS-SVM分类器的测试集性能。基于RBF核的SVM和LS-SVM分类器与超参数选择的标准交叉验证程序相结合,均取得了可比的测试集性能。与文献中描述的各种方法(包括基于决策树的算法、统计算法和基于实例的学习方法)相比,这些SVM和LS-SVM的性能始终非常好。我们在十个UCI数据集上表明,LS-SVM稀疏近似程序可以成功应用。

MSC公司:

68T05型 人工智能中的学习和自适应系统
68吨10 模式识别、语音识别

软件:

SVM工具箱
PDF格式BibTeX公司 XML格式引用
全文: 内政部