×

用于非线性分类的分层混合线性支持向量机。 (英语) Zbl 1414.68083

摘要:支持向量机(SVM)由于其良好的泛化性能,在数据分类中起着非常重要的作用。然而,当支持向量数目较多时,分类阶段的计算复杂度较高。在分类阶段需要设计有效的算法来处理从实时模式识别系统获得的数据集。为此,我们提出了一种新的分类器HMLSVMs(Hierarchical Mixing Linear Support vectors Machines),该分类器具有分层结构,每个节点都有一个混合线性支持向量机分类器。它只使用几个超平面来预测样本的标签。基于Rademacher理论给出了一类局部线性支持向量机(LLSVMs)的推广误差界,有效地避免了过拟合。实验结果表明,该分类器在分类阶段取得了较高的分类效率,分类性能接近核支持向量机。

理学硕士:

68T05型 人工智能中的学习与自适应系统
62小时30分 分类和区分;聚类分析(统计方面)
68吨10 模式识别,语音识别
PDF格式 BibTeX公司 XML 引用
全文: 内政部

参考文献:

[1] Vapnik,V.,《统计学习理论的本质》(1995),Springer纽约
[2] 施,P。;刘建明,利用判别特征分析和支持向量机进行人脸检测,模式识别。,39,2260-276,(2006年)
[3] 金,S。;帕克,Y。;托赫,K。;Lee,S.,基于支持向量机的人脸识别特征提取,模式识别。,43,8,2871-2881,(2010年)
[4] 罗德里格斯,A。;博德蒂,V。;库马尔,B。;Mahalanobis,A.,最大边缘相关滤波器定位和分类的新方法,IEEE Trans。图像处理。,22,2631-643,(2013年)
[5] Déniz,O。;卡斯特里隆,M。;Hernández,M.,使用独立分量分析和支持向量机的人脸识别,模式识别。,24,13,2153-2157,(2015年)
[6] 李,Y。;杜,L。;Liu,H.基于微多普勒信号经验模式分解的运动车辆分级分类,IEEE Trans。Geosci公司。遥感器,51,53001-3013,(2013年)
[7] 张,S。;岁。;余,X。;赵,S。;Zhang,L.,用于鲁棒目标跟踪、模式识别的混合支持向量机。,4882474-2488,(2015年)
[8] 曹,X。;乔,H.,一个低成本的行人检测系统,带有一个光学摄像头,IEEE Trans。因特尔。运输。系统。,9,1,58-67,(2008年)
[9] M、 Wang,W.Li,X.Wang,将通用行人检测器转移到特定场景,载:IEEE计算机视觉与模式识别会议,罗德岛,2012,3274-3281页。
[10] 金,K。;荣克。;公园,S。;Kim,H.,基于支持向量机的数字视频文本检测,模式识别。,342527-529,(2001年)
[11] 李,S。;郭俊杰。;朱,H。;Wang,Y.,使用支持向量机进行纹理分类,模式识别。,第36、12、2883-2893页,(2003年)
[12] 拉布什,K。;巴特,E。;Martinetz,T.,基于稀疏编码的高性能数字识别的简单方法,IEEE Trans。神经网络。,1985年11月19日至1989年(2008年)
[13] 王博士。;乔,H。;张,B。;王,M.基于凸壳顶点选择的在线支持向量机,IEEE Trans。神经网络。学习。系统。,24,4593-609,(2013年)
[14] C、 J.C.Burges,《简化支持向量机决策规则》,载:国际机器学习会议,加州圣马特奥,1996年,第71-77页。
[15] C、 J.C.Burges,B.Schoelkopf,《提高支持向量机的速度和精度》,载:神经信息处理系统的进展,1997年,第375-381页。
[16] 肖尔科普夫B。;米卡,S。;伯吉斯,C.J.C。;克尼斯,P。;穆勒,K。;拉奇,G。;mola,A.J.,基于内核的方法中的输入空间与特征空间,IEEE Trans。神经网络。,10,5,1000-1017,(1999年)
[17] 肖尔科普夫B。;斯莫拉,A.,用内核学习,(2002),麻省理工学院出版社
[18] Y、 Lee,O.L.Mangasarian,RSVM:简化支持向量机,in:暹罗国际数据挖掘会议,芝加哥,2001。
[19] 唐斯,T。;盖茨,K。;Masters1,A.,支持向量解的精确简化,J.Mach。学习。第293-297号决议(2001年)
[20] D、 阮国梁,何国平,一种简化支持向量机的有效方法,载:机器学习国际会议,德国波恩,2005年。
[21] 阮博士。;Ho,T.B.,自底向上简化支持向量解的方法,IEEE Trans。神经网络。,17,3,792-796,(2006年)
[22] 梁某。;陈,R。;郭,X.在不改变性能的情况下修剪支持向量机,IEEE Trans。神经网络。,1792年10月19日至1803年,(2008年)
[23] Liang,X.,一种有效的剪枝支持向量机分类器方法,IEEE Trans。神经网络。,21,1,26-38,(2010年)
[24] C、 Williams,M.Seeger,使用nystrom方法加速内核机器,载:神经信息处理系统的进展,第13卷,麻省理工学院出版社,剑桥,马萨诸塞州,2001年,第682-688页。
[25] 罚款,S。;谢因伯格,K.,使用低秩核表示的有效支持向量机训练,J.Mach。学习。第2243-264号决议(2001年)
[26] F、 巴赫,M.乔丹,核方法的预测低阶分解,载:第22届机器学习国际会议论文集,德国波恩,2005。
[27] 曾志伟。;郭俊杰。;Cheung,P.M.,核向量机在超大数据集上的快速支持向量机训练,J.Mach。学习。第6363-392号决议,(2005年)
[28] 王博士。;张,P。;乔,H。;张B,一种具有自适应meb调整的在线核向量机,模式识别。,43,10,3468-3482,(2010年)
[29] M、 《稀疏贝叶斯学习与相关向量机》,J.Mach。学习。第1(2001)211-244号决议。
[30] J、 高斌,张杰,稀疏核学习与关联单元机,马赫。学习。第5476(2009)612-619号决议。
[31] 吴先生。;肖尔科普夫B。;Bakir,G.,《构建稀疏核学习算法的直接方法》,J.Mach。学习。第7603-624号决议(2006年)
[32] 胡先生。;陈奕琪。;郭建明,建稀疏多核SVM分类器,IEEE Trans。神经网络。,205827-839,(2009年)
[33] 约阿希姆斯,T。;余,C.N.,稀疏核支持向量机通过切割机训练,马赫。学习。,762-3,179-193,(2009年)
[34] 约阿希姆斯,T。;芬利,T。;余春恩,结构SVM切割平面训练,马赫。学习。,77,1,27-59,(2009年)
[35] 阮博士。;松本,K。;Takishima,Y。;Hashimoto,K.,Condensed vector Machines学习大数据快速机器,IEEE Trans。神经网络。,1903-1914年12月21日,(2010年)
[36] 林春杰,支持向量机分解方法停止准则之形式化分析,IEEE Trans。神经网络。,1045-1052,(2002年)
[37] 乔,H。;王,Y。;张斌,一种多项式时间收敛的支持向量机分解算法,模式识别。,4092543-2549,(2007年)
[38] 布雷曼,L.,装袋预测,马赫。学习。,24,2,123-140,(1996年)
[39] 弗伦德,Y。;夏皮尔,R.E.,《在线学习的决策理论概括及其在boosting中的应用》,J.Comput。系统。科学。,55,1199-139,(1997年)
[40] D、 潘立文,毛建华,张国荣,等.利用boosting算法放大支持向量机,载:第15届国际模式识别会议论文集,2000年,第219-222页。
[41] 布雷曼,L.,随机森林,马赫。学习。,45,1,5-32,(2001年)
[42] 林,L。;罗,P。;陈,X。;曾,K.用大量局部图像块表示和识别物体,模式识别。,451231-240,(2012年)
[43] M、 福诺尼,B.卡普托,F.奥拉博纳,局部线性支持向量机,国际机器学习会议论文集,2011年,第985-992页。
[44] 林,L。;王,X。;杨,W。;赖,J.H.,《目标形状检测的判别训练与或图模型》,IEEE Trans。肛门模式。机器。内尔。,375959-972,(2015年)
[45] 五十、 Ladicky,P.H.S.Torr,《多类潜在局部线性支持向量机》,载:JMLR研讨会和会议论文集,第29卷,2013年,第229-244页。
[46] Z、 Fu,A.Robles-Kelly,非线性分类中线性支持向量机的混合,载:结构、句法和统计模式识别国际研讨会,佛罗里达州奥兰多,2008。
[47] 傅,Z。;罗伯斯·凯利,A。;周杰,非线性分类的混合线性支持向量机,IEEE Trans。神经网络。,1963年12月21日至1975年(2010年)
[48] 程先生。;谭,P.N。;Jin,R.,局部支持向量机的有效算法,IEEE Trans。知道。数据工程,22,4537-549,(2010年)
[49] 李英杰。;刘,B。;杨晓伟。;傅云芝。;李海杰,多通道通用分段线性分类器,IEEE Trans。神经网络。,22,226-289,(2011年)
[50] G、 祁杰,齐天琦,黄国荣,局部敏感支持向量机探索局部相关性与全局正则化,载:IEEE计算机视觉与模式识别会议,美国科罗拉多州斯普林斯市,2011年。
[51] M、 Datar,N.Immorlica,P.Indyk,V.S.Mirrokni,基于P-稳定分布的局部敏感散列方案,载:第20届计算几何年会论文集,布鲁克林,纽约,美国,2004年。
[第五十二条] T、 Joachims,《在线性时间中训练线性支持向量机》,载:第12届ACM知识发现和数据挖掘国际会议论文集,宾夕法尼亚州费城,2011年,第217-226页。
[53] C、 谢国伟,张国伟,林聪颖,S.S.Keerthi,S.Sundararajan,大规模线性支持向量机的双坐标下降方法,载:第25届机器学习国际会议论文集,芬兰赫尔辛基,2008年。
[54] Quinlan,J.R.,决策树归纳法,马赫。学习。,1,1,81-106,(1986年)
[55] Quinlan,J.R.,c4.5中连续属性的改进使用。因特尔。第477-90号决议(1996年)
[56] 布雷曼,L。;弗里德曼,J.H。;奥尔申,R.A。;Stone,C.J.,《分类和回归树》(1984年),加利福尼亚州贝尔蒙特,沃兹沃斯
[57] K、 Z.Arerola,J.Fehr,H.Burkhardt,使用线性SVM的快速支持向量机分类,载:第18届国际模式识别会议论文集,第03卷,2006年,第366-369页。
[58] 费尔,J。;阿雷奥拉,K.Z。;Burkhardt,H.,超大数据集的快速支持向量机分类(2007),Springer Berlin
[59] J、 孙国光,王国光,胡春英,李秀英,一种新的支持向量机决策树及其在人脸检测中的应用,载:SNPD(1),IEEE计算机学会,青岛,2007,第385-389页。
[60] 五、 Menkovski,I.Christou,S.Efremidis,在分类器集成中使用嵌入式支持向量机的倾斜决策树,载:IEEE控制论智能系统国际会议,2008年,第1-6页。
[61] K、 P.Bennett,J.A.Blue,《决策树的支持向量机方法》,载:IEEE神经网络国际联席会议,1998年,第2396-2401页。
[62] 费,B。;刘杰,svma二叉树新的快速多类训练与分类算法,IEEE Trans。神经网络。,17,3696-704,(2006年)
[63] D、 王晓明,张晓明,范晓烨,基于分层混合线性支持向量机的高效分类器,载:人工智能国际联席会议,2015,第3897-3903页。
[64] 博斯克,O。;布切伦,S。;卢戈西,G.,《统计学习理论导论》(2004),柏林斯普林格出版社
〔65〕 梅尔,R。;张,T.,贝叶斯混合算法的泛化误差界,J.Mach。学习。第4839-860号决议(2003年)
[66] 风扇,R.E。;陈,P.H。;林,C.J.用二阶信息训练支持向量机的工作集选择,J.Mach。学习。第6号决议,1889-1918年,(2005年)
[67] T、 何国平,E.M.Kleinberg,《构建任意复杂度的可投影分类器》,载:模式识别国际会议,1996年,奥地利维也纳,第880-885页。
[68] C、 张春林,李立群:支持向量机库,2001http://www.csie.ntu.edu.tw/cjlin/libsvm公司/
〔69〕 A、 Frank,A.Asuncion,URL UCI机器学习知识库,2010年。http://archive.ics.uci.edu/ml
[70] 菲利普斯J。;月亮,H。;劳斯,P.J。;Rizvi,S.,人脸识别算法的feret评估方法,IEEE Trans。肛门模式。机器。内尔。,第22、10、1090-1104页,(2000年)
[71] 米纳尔,M。;Park,D.C.,成人面部刺激的寿命数据库,Behav。Res.Methods Instrum公司。计算机。,36630-633,(2004年)
[72] Roweis,S.T。;《局部线性嵌入的非线性降维方法》,科学出版社,2905500,2323-2326,(2000)
[73] 他,X.F。;严,南卡。;胡,Y.X。;Niyogi,P。;张,H.J.,使用拉普拉斯人脸的人脸识别,IEEE Trans。肛门模式。机器。内尔。,17,3,328-340,(2005年)
[74] 乔,H。;张,P。;王博士。;《流形学习的显式非线性映射》,IEEE Trans。系统。曼赛本。B部分,43,1,51-63,(2012)
此参考列表基于出版商或数字数学图书馆提供的信息。它的项被试探性地匹配到zbMATH标识符,并且可能包含数据转换错误。它试图尽可能准确地反映原始论文中列出的参考文献,而不要求匹配的完整性或精确性。