×

稀疏近端支持向量机,具有专门的内点方法。 (英语) Zbl 1317.90201号

摘要:支持向量机(SVM)是一种广泛使用的分类方法。近似支持向量机(PSVM)是支持向量机的一种扩展,是一种很有前途的生成分类器的快速简单算法。受PSVM快速计算工作和\(\ell_{1}\)-范数产生的稀疏解的性质的启发,本文首先提出了一种具有基数约束的PSVM,该基数约束最终被\(\ell_{1}\)-范数放松,并导致\(\ell_{1}\)-范数的权衡_{1}-\ell_{2}\)正则化稀疏PSVM。接下来我们转换这个\(\ell_{1}-\将稀疏PSVM正则化为(ell{1})正则化最小二乘(LS)的等价形式,并用S.J.金等人[“大规模正则最小二乘的内点方法”,IEEE J.Sel.Topics Signal Process.12,606–617(2007)]。最后,\(\ell_{1}-\利用加州大学欧文机器学习库(UCI知识库)的真实数据集,对ell{2}正则化稀疏PSVM进行了说明。此外,我们将数值结果与现有的模型如广义特征值近端SVM(GEPSVM)、PSVM和SVM-Light进行了比较。数值结果表明_{1}-\ell_{2}\)正则化稀疏PSVM不仅比GEPSVM、PSVM和SVM Light的分类准确率更好,而且比\(ell_{1}\)-PVM的分类更稀疏。

MSC公司:

90立方厘米 整数编程
90C20个 二次规划
49平方米 松弛型数值方法
65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bai,Y.Q.,Chen,Y.,Niu,B.L.:半监督支持向量机的SDP松弛。派克靴。J.优化。8(1), 3 (2012) ·Zbl 1263.90051号
[2] Bai,Y.Q.,Niu,B.L.,Chen,Y.:使用半监督SVM检测蛋白质同源性的新SDP模型。优化62(4),561(2013)·Zbl 1273.90143号 ·doi:10.1080/02331934.2011.611515
[3] Bai,Y.Q.,Shen,Y.J.,Shen和K.J.:用于具有稀疏解的分类问题的一致近端支持向量机。《运营杂志》。中国研究社会2,57-74(2014)·Zbl 1308.90105号 ·doi:10.1007/s40305-014-0037-z
[4] Cands,E.J.:压缩取样。程序。国际会议数学。3, 1433-1452 (2006) ·Zbl 1130.94013号
[5] Cands,E.J.,Romberg,J.,Tao,T.:鲁棒不确定性原理:从高度不完整的频率信息中精确重建信号。信息理论IEEE Trans。52(2),489-509(2006年a)·兹比尔1231.94017 ·doi:10.1109/TIT.2005.862083
[6] Cands,E.J.、Romberg,J.K.、Tao,T.:从不完整和不准确的测量中恢复稳定的信号。Commun公司。纯应用程序。数学。59(8),1207-1223(2006年b)·邮编1098.94009 ·doi:10.1002/cpa.20124年
[7] Chen,W.J.,Tian,Y.J.:\[L_p\]Lp-范数近端支持向量机及其应用。程序。计算。科学。1, 2417-2423 (2012) ·doi:10.1016/j.procs.2010.04.272
[8] Chen,S.S.,Donoho,D.L.,Saunders,M.A.:通过基追踪进行原子分解。SIAM科学杂志。计算。20(1), 33-61 (1998) ·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[9] Deng,N.Y.,Tian,Y.J.,Zhang,C.H.:支持向量机。CRC出版社,泰勒和弗朗西斯集团,博卡(2013)·Zbl 1278.68011号
[10] Donoho,D.L.:压缩传感。信息理论IEEE Trans。52(4), 1289-1306 (2006) ·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[11] Fung,G.,Mangasarian,O.L.:近距离支持向量机分类器。摘自:第七届ACM SIGKDD知识发现和数据挖掘国际会议论文集,第77-86页(2001)·Zbl 1101.68758号
[12] Kim,S.J.,Koh,K.,Boyd,S.P.:大规模的内点方法1-正则最小二乘。J.塞尔。主题信号处理。1932-4553年12月(2007年)
[13] Mangasarian,O.L.,Wild,E.W.:通过广义特征值进行多曲面近端支持向量机分类。模式分析马赫数。智力。IEEE传输。28(1), 69-74 (2006) ·doi:10.10109/TPAMI.2006.17
[14] Murphy,P.M.,Aha,D.W.:UCI机器学习库,www.ics.UCI.edu/mlearn/MLRepository.html,1992年
[15] Nocedal,J.,Wright,S.:数值优化。Springer运筹学系列,纽约(2006)·Zbl 1104.65059号
[16] Suykens,J.A.K.,Vandewalle,J.:最小二乘支持向量机分类器。神经过程Lett。9, 293-300 (1999) ·doi:10.1023/A:1018628609742
[17] Suykens,J.A.K.:最小二乘支持向量机。《世界科学》,新加坡(2002年)·Zbl 1017.93004号 ·doi:10.1142/5089
[18] Tibshirani,R.:通过套索进行回归收缩和选择。J.R.统计社会服务。B、 267-288,1996年·Zbl 0850.62538号
[19] Vapnik,V.N.等人:统计学习理论的本质。施普林格,纽约(1995)·Zbl 0833.62008号 ·数字对象标识代码:10.1007/978-1-4757-2440-0
[20] Vapnik,V.N.:统计学习理论。威利,纽约(1998)·兹比尔0935.62007
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。