×
王迪；张晓琴；范明玉；叶秀子

非线性分类的分层混合线性支持向量机。 （英语） Zbl 1414.68083号

模式识别 59255-267（2016）。
摘要：支持向量机（SVM）由于其良好的泛化性能，在数据分类中发挥着非常重要的作用。然而，当存在大量支持向量（SV）时，它们在分类阶段的计算复杂度很高。在分类阶段设计有效的算法来处理从实时模式识别系统获得的数据集是很有必要的。为此，我们提出了一种新的分类器HMLSVMs（Hierarchical Mixing Linear Support Vector Machines，分层混合线性支持向量机），该分类器具有分层结构，每个节点上都有一个混合线性支持矢量机分类器。它仅使用几个超平面预测样本的标签。我们还基于Rademacher理论给出了一类局部线性SVM（LLSVM）的泛化误差界，这确保了可以有效地避免过拟合。实验结果表明，该分类器在分类阶段取得了较高的效率，而分类性能接近核支持向量机。

引用于2文件

MSC公司：

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分；聚类分析（统计方面）
68吨10 模式识别、语音识别

关键词：

支持向量机；分类；层次结构

软件：

费雷特；4.5条；RSVM公司；阿达·布斯特。MH公司；伦敦银行支持向量机；UCI-毫升
PDF格式BibTeX公司 XML格式引用
\textit{D.Wang}等人，模式识别59，255--267（2016；Zbl 1414.68083）
全文： 内政部

参考文献：

[1] Vapnik，V.，《统计学习理论的本质》（1995），施普林格出版社：纽约施普林格·Zbl 0833.62008号
[2] Shih，P。；刘，C.，基于鉴别特征分析和支持向量机的人脸检测，模式识别。，39, 2, 260-276 (2006)
[3] Kim，S。；Park，Y。；Toh，K。；Lee，S.，基于Svm的人脸识别特征提取，模式识别。，43, 8, 2871-2881 (2010) ·Zbl 1213.68534号
[4] 罗德里格斯，A。；博德迪，V。；库马尔，B。；Mahalanobis，A.，《最大裕度相关滤波器定位和分类的新方法》，IEEE Trans。图像处理。，22, 2, 631-643 (2013) ·Zbl 1373.94350号
[5] Déniz，O。；Castrillón，M。；Hernández，M.，使用独立分量分析和支持向量机的人脸识别，模式识别。，24, 13, 2153-2157 (2015)
[6] 李毅。；杜，L。；Liu，H.，基于微观驾驶员特征的经验模式分解的移动车辆分层分类，IEEE Trans。地质科学。遥感，51，53001-3013（2013）
[7] 张，S。；隋，Y。；Yu，X。；赵，S。；Zhang，L.，用于鲁棒对象跟踪的混合支持向量机，模式识别。，48, 8, 2474-2488 (2015)
[8] 曹，X。；乔，H.，一种低成本的行人检测系统，带有单个光学摄像头，IEEE Trans。智力。运输。系统。，9, 1, 58-67 (2008)
[10] Kim，K。；Jung，K。；南帕克。；Kim，H.，支持数字视频中基于向量机的文本检测，模式识别。，34, 2, 527-529 (2001)
[11] 李，S。；郭敬通（Kwok，J.T.）。；朱，H。；Wang，Y.，使用支持向量机进行纹理分类，模式识别。，36, 12, 2883-2893 (2003) ·兹比尔1059.68110
[12] 拉布什，K。；Barth，E。；Martinetz，T.，基于稀疏编码的高性能数字识别的简单方法，IEEE Trans。神经网络。，19, 11, 1985-1989 (2008)
[13] 王，D。；乔·H。；张，B。；Wang，M.，基于凸壳顶点选择的在线支持向量机，IEEE Trans。神经网络。学习。系统。，24, 4, 593-609 (2013)
[16] Schoelkopf，B。；米卡，S。；Burges，C.J.C。；Knirsch，P。；穆勒，K。；Ratsch，G。；mola，A.J.，基于内核方法中的输入空间与特征空间，IEEE Trans。神经网络。，10, 5, 1000-1017 (1999)
[17] Schoelkopf，B。；Smola，A.，《用内核学习》（2002年），麻省理工学院出版社：麻省理学学院出版社
[19] 唐斯，T。；盖茨，K。；Masters1，A.，《支持向量解的精确简化》，J.Mach。学习。决议，2293-297（2001）·Zbl 1037.68111号
[21] Nguyen博士。；Ho，T.B.，简化支持向量解的自下而上方法，IEEE Trans。神经网络。，17, 3, 792-796 (2006)
[22] X·梁。；陈，R。；Guo，X.，在不改变性能的情况下修剪支持向量机，IEEE Trans。神经网络。，19, 10, 1792-1803 (2008)
[23] Liang，X.，一种有效的剪枝支持向量机分类器的方法，IEEE Trans。神经网络。，21, 1, 26-38 (2010)
[25] 罚款，S。；Scheinberg，K.，《使用低阶核表示的高效svm训练》，J.Mach。学习。第2号决议，243-264（2001年）·兹伯利1037.68112
[27] Tsang，I.W。；郭敬通（Kwok，J.T.）。；Cheung，P.M.，核心向量机在超大数据集上快速进行SVM训练，J.Mach。学习。第6号决议，363-392（2005年）·Zbl 1222.68320号
[28] 王，D。；张，P。；乔·H。；张，B.，具有自适应meb调整的在线核心向量机，模式识别。，43, 10, 3468-3482 (2010) ·Zbl 1213.68553号
[31] 吴，M.R。；Schoelkopf，B。；Bakir，G.，《构建稀疏核学习算法的直接方法》，J.Mach。学习。第7号决议，第603-624页（2006年）·Zbl 1222.68335号
[32] 胡敏秋。；陈永强。；Kwok，J.T.Y.，构建稀疏多核SVM分类器，IEEE Trans。神经网络。，20, 5, 827-839 (2009)
[33] 约阿希姆斯，T。；Yu，C.N.，通过切平面训练实现稀疏内核SVM，马赫。学习。，76, 2-3, 179-193 (2009) ·Zbl 1470.68123号
[34] 约阿希姆斯，T。；Finley，T。；Yu，C.N.，结构SVM的切割平面训练，马赫。学习。，77, 1, 27-59 (2009) ·Zbl 1235.68161号
[35] Nguyen博士。；松本，K。；Y.高岛。；Hashimoto，K.，用于大数据的压缩向量机学习快速机器，IEEE Trans。神经网络。，21, 12, 1903-1914 (2010)
[36] Lin，C.J.，《支持向量机分解方法停止准则的形式分析》，IEEE Trans。神经网络。，13, 5, 1045-1052 (2002)
[37] 乔·H。；王，Y。；Zhang，B.，支持向量机多项式收敛的简单分解算法，模式识别。，40, 9, 2543-2549 (2007) ·Zbl 1120.68089号
[38] Breiman，L.，Bagging预测因子，马赫数。学习。，24, 2, 123-140 (1996) ·Zbl 0858.68080号
[39] 弗伦德，Y。；Schapire，R.E.，《在线学习的决策理论推广及其在助推中的应用》，J.Compute。系统。科学。，55, 1, 119-139 (1997) ·Zbl 0880.68103号
[41] Breiman，L.，《随机森林》，马赫。学习。，45，1，5-32（2001年）·Zbl 1007.68152号
[42] 林，L。；罗，P。；陈，X。；曾坤，用大量局部图像块表示和识别物体，模式识别。，45, 1, 231-240 (2012) ·Zbl 1225.68232号
[44] 林，L。；王，X。；杨伟（Yang，W.）。；Lai，J.H.，用于物体形状检测的判别训练和或图模型，IEEE Trans。模式分析。机器。智力。，37, 5, 959-972 (2015)
[47] 傅，Z。；罗伯斯·凯利，A。；周，J.，用于非线性分类的混合线性SVM，IEEE Trans。神经网络。，21, 12, 1963-1975 (2010)
[48] Cheng，H.B。；Tan，P.N。；Jin，R.，局部支持向量机的高效算法，IEEE Trans。知识。数据工程，22，4，537-549（2010）
[49] 李永杰。；刘，B。；杨晓伟。；Fu，Y.Z。；Li，H.J.，多联机通用分段线性分类器，IEEE Trans。神经网络。，22, 2, 276-289 (2011)
[54] Quinlan，J.R.，决策树归纳，马赫。学习。，1, 1, 81-106 (1986)
[55] Quinlan，J.R.，《c4.5中连续属性的改进使用》，J.Artif。智力。决议，477-90（1996）·Zbl 0900.68112号
[56] 布雷曼，L。；弗里德曼，J.H。；Olshen，R.A。；Stone，C.J.，《分类和回归树》（1984），加利福尼亚州贝尔蒙特，沃兹沃斯·Zbl 0541.62042号
[58] 费尔，J。；阿雷奥拉，K.Z。；Burkhardt，H.，《超大数据集的快速支持向量机分类》（2007），Springer:Springer Berlin
[62] B·费。；刘，J.，二叉树svma新的快速多类训练和分类算法，IEEE Trans。神经网络。，17, 3, 696-704 (2006)
[64] O.布斯克。；Boucheron，S。；Lugosi，G.，《统计学习理论导论》（2004），施普林格出版社：柏林施普林格·兹比尔1120.68428
[65] 梅尔，R。；Zhang，T.，贝叶斯混合算法的广义误差界，J.Mach。学习。决议，4839-860（2003）·Zbl 1083.68096号
[66] 风机，R.E。；Chen，P.H。；Lin，C.J.，使用二阶信息训练支持向量机的工作集选择，J.Mach。学习。1889-1918年第6号决议（2005年）·Zbl 1222.68198号
[70] Phillips，P.J。；Moon，H。；劳斯·P·J。；Rizvi，S.，人脸识别算法的费雷特评估方法，IEEE Trans。模式分析。机器。智力。，22, 10, 1090-1104 (2000)
[71] 米纳尔，M。；Park，D.C.，成人面部刺激寿命数据库，Behav。研究方法仪器。计算。，36, 630-633 (2004)
[72] 罗维斯，S.T。；Saul，L.K.，局部线性嵌入的非线性降维，科学，29055002323-2326（2000）
[73] 何，X.F。；闫S.C。；胡玉霞。；Niyogi，P。；张海杰，使用拉普拉斯人脸进行人脸识别，IEEE Trans。模式分析。机器。智力。，17, 3, 328-340 (2005)
[74] 乔·H。；张，P。；王，D。；Zhang，B.，流形学习的显式非线性映射，IEEE Trans。系统。人类网络。B部分，43，1，51-63（2012）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。