×

一种非平行平面支持向量机分类的特征选择方法。 (英语) Zbl 1243.90171号

摘要:在过去的几十年中,基于算法的1-范数技术被广泛用于抑制输入特征。与传统的1-范数支持向量机(SVM)不同,直接1-范数优化是基于非平行平面分类器(如广义近端支持向量机、双支持向量机和最小二乘双支持向量机器)的原始问题无法生成非常稀疏的解决方案,这些解决方案对分类至关重要,并且可以使它们更容易存储和更快计算。为了解决这个问题,本文开发了一种用于LSTSVM的特征选择方法,称为非平行平面支持向量机分类(FLSTSVM)特征选择方法。我们将一个Tikhonov正则化项合并到LSTSVM的目标中,然后最小化其1-范数测度。FLSTSVM的求解可以直接从求解两个较小的二次规划问题(QPP)开始,这两个问题是由两个原始QPP引起的,而不是TWSVM中的两个对偶QPP。FLSTSVM能够生成非常稀疏的解决方案。这意味着FLSTSVM可以减少线性情况下的输入特性。当使用非线性分类器时,很少有核函数决定分类器。除了具有较强的特征抑制能力外,与TWSVM、线性规划支持向量机牛顿方法(NLPSVM)和LPNewton方法相比,该方法的优势在于计算速度更快。最后,在公共数据集以及异或(XOR)示例上对该算法进行了比较。

MSC公司:

90C20个 二次规划
90 C90 数学规划的应用

软件:

RSVM公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] DOI:10.1016/j.eswa.2008.09.066·doi:10.1016/j.eswa.2008.09.066
[2] Fung G.,《KDD-2001会议录:知识发现和数据挖掘》,第77页–
[3] DOI:10.1023/B:COAP.000026884.66338.df·兹比尔1056.90103 ·doi:10.1023/B:COAP.000026884.66338.df
[4] DOI:10.1016/j.sigpro.2008.10.002·Zbl 1157.68442号 ·doi:10.1016/j.sigpro.2008.10.002
[5] 内政部:10.1080/10556780600883874·Zbl 1125.15013号 ·网址:10.1080/10556780600883874
[6] 内政部:10.1109/TPAMI.2007.1068·doi:10.1109/TPAMI.2007.1068
[7] DOI:10.1016/j.ejor.2007.11.023·Zbl 1159.68531号 ·doi:10.1016/j.ejor.2007.11.023
[8] Lee,Y.J.和Mangasarian,O.L.RSVM:简化支持向量机。第一届SIAM国际数据挖掘会议记录。芝加哥。4月。
[9] Li,H.,Jiang,T.和Zhang,K.基于最大边缘准则的高效且稳健的特征提取。神经信息处理系统进展会议(NIPS’04)。第97-104页。马萨诸塞州剑桥:麻省理工学院出版社。
[10] Mangasarian O.L.,J.Mach。学习。第7号决议第1517页–(2006年)
[11] 内政部:10.1109/TPAMI.2006.17·doi:10.10109/TPAMI.2006.17
[12] Sun,L.,Ji,S.W.和Ye,J.P.第26届机器学习国际会议论文集。加拿大蒙特利尔。机器学习中一类广义特征值问题的最小二乘形式,
[13] Tikhonov,A.N.和Arsen,V.Y.《病态问题的解决方案》,纽约:John Wiley&Sons出版社。
[14] DOI:10.1016/S0031-3203(01)00210-2·Zbl 1010.68108号 ·doi:10.1016/S0031-3203(01)00210-2
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。