×
阿迪蒂亚·塔亚尔;托马斯·科尔曼。;李玉英

非线性支持向量机的原始显式最大边缘特征选择。 （英语） Zbl 1339.68231号

模式识别 47，第6号，2153-2164（2014）.
摘要：在非线性支持向量机（SVM）中嵌入特征选择导致了一个具有挑战性的非凸最小化问题，该问题容易出现次优解。本文提出了一种直接解决嵌入式特征选择问题的有效算法。我们使用信任区域方法，与线搜索方法相比，该方法更适合于非凸优化，并确保收敛到最小值。我们设计了一种交替优化方法来有效地解决该问题，将其分解为一个凸子问题（对应于标准SVM优化）和一个用于特征选择的非凸子问题。重要的是，我们证明了直接的交替优化方法可能容易受到鞍点解的影响。我们提出了一种新的技术，该技术共享一个显式裕度变量，以克服鞍点收敛并提高解的质量。实验结果表明，我们的方法优于最新的嵌入式SVM特征选择方法以及其他领先的滤波和包装方法。

MSC公司：

68T05型 人工智能中的学习和自适应系统
90C26型 非凸规划，全局优化

关键词：

特征选择;非线性;嵌入的;支持向量机;非凸优化;信任区域法;交替优化

软件：

UCI-毫升;网络虚拟机;蜘蛛;减压阀F
PDF格式BibTeX公司 XML格式引用
\textit{A.Tayal}等人，模式识别47，No.6，2153--2164（2014；Zbl 1339.68231）
全文： 内政部

参考文献：

[1] 科尔特斯，C。；Vapnik，V.，支持向量网络，马赫。学习。，20, 273-297 (1995) ·Zbl 0831.68098号
[2] Vapnik，V.N.，《统计学习理论》（1998），威利出版社：美国纽约州威利·Zbl 0935.62007号
[5] （Scholkopf¨，B.；Tsuda，K.；Vert，J.P.，《计算生物学中的内核方法》（2004年），麻省理工学院出版社：麻省理学院出版社，美国马萨诸塞州剑桥）
[6] 盖恩，I。；Elisseeff，A.，《变量和特征选择简介》，J.Mach。学习。第3号决议，1157-1182（2003年）·Zbl 1102.68556号
[7] 奥哈拉，R。；Sillanpaa，M.，《贝叶斯变量选择方法综述：什么、如何以及是什么，贝叶斯分析》。，4, 85-118 (2009) ·Zbl 1330.62291号
[10] 李，J。；Tao，D.，《关于在贝叶斯PCA中保留原始变量并应用于图像分析》，IEEE Trans。图像处理。，21, 4830-4843 (2012) ·Zbl 1373.94232号
[13] Šikonja，M.R。；Kononenko，I.，ReliefF和RRelifF的理论和实证分析，马赫。学习。，53, 23-69 (2003) ·Zbl 1076.68065号
[15] 盖恩，I。；J·韦斯顿。；巴恩希尔，S。；Vapnik，V.，使用支持向量机进行癌症分类的基因选择，Mach。学习。，46, 389-422 (2002) ·兹比尔0998.68111
[18] J·韦斯顿。；Elisseeff，A。；肖尔科夫？，B。；Tipping，M.，零范数与线性模型和核方法的使用，J.Mach。学习。第3号决议，1439-1461（2003）·Zbl 1102.68605号
[19] 冯先生。；Mangasarian，O.L.，支持向量机分类的特征选择牛顿方法，计算。最佳方案。申请。，28, 185-202 (2004) ·Zbl 1056.90103号
[22] 周，T。；陶，D。；Wu，X.，《流形弹性网：稀疏降维的统一框架》，Data Min.Knowl。发现。，22, 340-371 (2011) ·Zbl 1235.62097号
[24] Mercer，J.，正负型函数及其与积分方程理论的联系，Philos。事务处理。皇家学会（A），83，69-70（1909）·JFM 40.0408.02号文件
[27] Tibshirani，R.，《通过套索进行回归收缩和选择》，J.R.Stat.Soc.Ser。B、 58、267-288（1996）·Zbl 0850.62538号
[28] 沙佩尔，O。；Vapnik，V。；O.布斯克。；Mukherjee，S.，《为支持向量机选择多个参数》，马赫。学习。，46131-159（2002年）·Zbl 0998.68101号
[31] Nguyen，X。；Wainwright，M.J。；Jordan，M.I.，《关于替代损失函数和f-发散》，《美国统计年鉴》，第37期，第876-904页（2009年）·Zbl 1162.62060号
[32] 博伊德，S。；Vandenberghe，L.，《凸优化》（2004），剑桥大学出版社：剑桥大学出版社，美国纽约州纽约市·Zbl 1058.90049号
[33] 科尔曼，T.F。；Li，Y.，有界非线性极小化的内信赖域方法，SIAM J.Optim。，6, 415-425 (1996)
[34] Platt，J.C.，《内核方法的进展》（1999），麻省理工学院出版社：麻省理学院出版社，马萨诸塞州剑桥，美国，第185-208页
[35] 风机，R.-E。；陈，P.-H。；Lin，C.-J.，使用二阶信息训练支持向量机的工作集选择，J.Mach。学习。1889-1918年第6号决议（2005年）·Zbl 1222.68198号
[37] 格里波，L。；Sciandone，M.，关于凸约束下块非线性Gauss-Seidel方法的收敛性，Oper。Res.Lett.公司。，26, 127-136 (2000) ·Zbl 0955.90128号
[41] Thomaz，C.E。；Giraldi，G.A.，一种新的主成分分析排名方法及其在人脸图像分析中的应用，image Vis。计算。，28, 902-913 (2010)
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配，并且可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。