×

一类分类的基于聚类的集成。 (英语) Zbl 1335.68205号

摘要:本文提出了一种新的基于加权单类支持向量机(OCSVM)的多类分类器。我们表明,将目标类分解为原子子集,并将其用作单类分类器的输入,可以得到高效、稳定的识别算法。该系统扩展了我们以前在结合OCSVM分类器以解决单类和多类分类任务方面的工作。这项工作的主要贡献是为类分解和分类器输出组合提供了新的体系结构。基于大量计算实验的结果,我们表明,对于单个类别,该方法优于OCSVM,对于多类别分类问题,该方法也优于多类别SVM。其他优点是所建议解决方案的高度并行结构,这有助于并行训练和执行阶段,并且控制参数的数量相对较少。

MSC公司:

68T05年 人工智能中的学习和自适应系统
68吨10 模式识别、语音识别
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Alpaydin,Ethem,用于比较监督分类学习算法的组合5×2 cv f检验,神经计算。,11, 8, 1885-1892 (1999)
[2] Bartkowiak,A。;Zimroz,R.,行星齿轮箱诊断的异常值分析和一类分类方法,J.Phys.:Conf.序列号。,305, 1 (2011)
[3] Bezdek,J.,《使用模糊目标函数算法的模式识别》(1981),Plenum出版社:纽约Plenum Press·Zbl 0503.68069号
[4] Bezdek,J.C。;埃利希·R。;Full,W.,Fcm:模糊c-均值聚类算法,计算。地质科学。,10, 2-3, 191-203 (1984)
[5] Bi,Y.,《多样性对证据分类器集合准确性的影响》,《国际期刊近似原因》。,53, 4, 584-607 (2012)
[6] 比西戈,M。;Figueiredo,M.A.T.,使用加权单类支持向量机的软聚类,模式识别。,42, 1, 27-32 (2009) ·Zbl 1173.68623号
[7] Chan,P.P.K。;Yeung,D.S。;吴,W.W.Y。;Lin,C.M。;Liu,J.N.K.,使用局部泛化误差模型的动态融合方法,Inform。科学。,217, 1-20 (2012)
[8] Chang,Chih-Chung;Lin,Chih-Jen,LIBSVM:支持向量机库,ACM Trans。智力。系统。技术。,2, 27:1-27:27 (2011), <http://www.csie.ntu.edu.tw/cjlin/libsvm>
[9] 陈,B。;冯,A。;陈,S。;Li,B.,基于单聚类的数据描述,Jisuanji Xuebao/中国计算机杂志。,30, 8, 1325-1332 (2007)
[10] 陈,Y。;周小生。;Huang,T.S.,用于图像检索中学习的一类支持向量机,IEEE国际会议图像处理。,1, 34-37 (2001)
[11] Cheung,K.F.,《模糊单均值算法:公式化、收敛分析和应用》,J.Intell。模糊系统。,5, 4, 323-332 (1997)
[12] 科恩,G。;萨克斯,H。;Geissbuhler,A.,《使用一类parzen密度估计器进行新颖性检测:在医院感染监测中的应用》,《健康技术研究》。通知。,136, 21-26 (2008)
[14] Cyganek,B.,《用于图像分割和分类的一类支持向量集成》,J.Math。图像。视觉。,42,2-3103-117(2012年)·Zbl 1255.68223号
[15] Dai,Q.,基于交叉验证技术的竞争集成修剪方法,Knowl-基于系统。,37, 394-414 (2013)
[16] 托马斯·迪特里奇(Thomas G.Dietterich)。;Bakiri,Ghulum,《通过纠错输出代码解决多类学习问题》,J.Artif。《国际研究》,第263-286页(1995年1月)·Zbl 0900.68358号
[19] Gereon Frahling;Christian Sohler,《使用核心集的快速k-means实现》,《国际计算机》。几何应用。,18, 6, 605-625 (2008) ·Zbl 1182.65034号
[20] 加拉尔,M。;Fernndez,A。;Barrenechea,E。;Bustince,H。;Herrera,F.,《多类问题中二进制分类器集成方法概述:一对一和一对所有方案的实验研究》,模式识别。,44, 8, 1761-1776 (2011)
[21] 北卡罗来纳州加西亚-佩德拉贾斯。;Maudes-Raedo,J。;加尔卡·奥索里奥,C。;Rodriguez-Diez,J.J.,构建分类器集合的监督子空间投影,Inform。科学。,193, 1-21 (2012)
[22] 加德纳,A.B。;Krieger,A.M。;Vachtsevanos,G。;Litt,B.,《颅内脑电图癫痫发作分析的一类新颖性检测》,J.Machine Learn。研究,71025-1044(2006)·Zbl 1222.92052号
[23] Giochio Giacinto;罗伯托·佩迪斯基(Roberto Perdisci);毛罗·德尔里奥;Roli,Fabio,通过一类分类器的模块化集成实现计算机网络中的入侵检测,Inf.Fusion,9,69-82(2008年1月)
[24] Ho,Tin Kam,构建决策森林的随机子空间方法,IEEE Trans。模式分析。机器。智力。,832-844年8月20日(1998年)
[26] Jain,A.K。;杜因,R.P.W。;毛建昌,《统计模式识别:综述》,IEEE Trans。模式分析。机器智能。,22, 1, 4-37 (2000)
[27] 姜浩。;刘,G。;Xiao,X。;梅,C。;丁,Y。;Yu,S.,使用ft-nir光谱和支持向量数据描述在中试规模下监测麦秸固态发酵,Microchem。J.,102(2012)
[29] Juszczak,P。;税务,D.M.J。;Pekalska,E。;Duin,R.P.W.,基于最小生成树的一类分类器,神经计算,72,7-9,1859-1869(2009)
[30] 卡拉佐格鲁,A。;霍尼克,K。;Smola,A。;Zeileis,A.,kernlab-r,J.Stat.Softw中内核方法的s4包。,11, 1-20 (2004)
[31] 科赫,M.W。;莫亚,M.M。;霍斯特勒,L.D。;Fogler,R.J.,针对合成孔径雷达自动目标识别的提示、特征发现和一级学习,神经网络。,8, 7-8, 1081-1102 (1995)
[32] Krawczyk,B.,《一级分类的集成多样性》(Pechenizkiy,Mykola;Wojciechowski,Marek,《数据库和信息系统的新趋势》,《数据库与信息系统新趋势,智能系统与计算的进展》,第185卷(2012),《施普林格:施普林格-柏林-海德堡》),119-129
[33] Krawczyk,B。;Woźniak,M.,组合不同的单类分类器,(Corchado,Emilio;Snasel,Vaclav;Abraham,Ajith;Wozniak,Michal;Grana,Manuel;Cho,Sung-Bae,Hybrid Artificial Intelligent Systems,Hybrial Intelligence Systems,Teach Notes in Computer Science,vol.7209(2012),Springer:Springer Berlin/Heidelberg),590-601
[35] Krawczyk,B。;Woźniak,M.,一类分类器集成的多样性度量,神经计算(2013)
[36] Kuncheva,L.I。;惠特克,C.J。;希普,C.A。;Duin,R.P.W.,分类器融合中多数票准确性的限制,模式分析。申请。,6, 22-31 (2003) ·Zbl 1035.68101号
[39] MacQueen,J.B.,《多元观测分类和分析的一些方法》,(Le Cam,L.M.;Neyman,J.,第五届伯克利数理统计与概率研讨会论文集,第1卷(1967),加利福尼亚大学出版社),281-297·兹比尔0214.46201
[40] Manevitz,L。;Yousef,M.,通过神经网络进行一类文档分类,神经计算,70,7-9,1466-1481(2007)
[42] Ratsch,G。;米卡,S。;肖尔科夫,B。;Muller,K.,《从svms构造boosting算法:一类分类的应用》,IEEE Trans。模式分析。机器智能。,24, 9, 1184-1199 (2002)
[43] Hitendra Sarma,T。;维斯瓦纳特,P。;Eswara Reddy,B.,《加速k-means聚类方法的混合方法》,《国际机器学习》。网络。,4, 2, 107-117 (2013)
[44] Schölkopf,B。;Smola,A.J.,《使用内核学习:支持向量机、正则化、优化和超越》(2002年),麻省理工学院出版社:麻省理学院出版社自适应计算和机器学习
[47] Sonnenburg,S。;Rtsch,G。;施弗,C。;Schlkopf,B.,大规模多内核学习,J.机器学习。第7号决议,1531-1565(2006)·Zbl 1222.90072号
[48] Szczurek,A。;Krawczyk,B。;Maciejewska,M.,基于分类器和单传感器信号委员会的Vocs分类,Chemmeter。智力。实验室系统。,125,1-10(2013)
[49] Tadeusiewicz,R。;奥吉拉,M.R。;Szczepaniak,P.S.,《作为自动图像理解基础的语言描述注释》,《国际应用杂志》。数学。计算。科学。,19, 1, 143-150 (2009) ·Zbl 1176.68219号
[50] 税务,D.M.J。;Duin,R.P.W.,支持向量数据描述,机器学习。,54, 1, 45-66 (2004) ·Zbl 1078.68728号
[51] Tax,David M.J。;Duin,Robert P.W.,《组合一类分类器》(第二届多分类器系统国际研讨会论文集,MCS’01(2001),Springer-Verlag:Springer-Verlag London,UK),299-308·Zbl 0980.68622号
[52] Tax,David M.J。;彼得·尤兹扎克(Piotr Juszczak);埃尔兹比埃塔佩卡尔斯卡;Duin,Robert P.W.,使用可调整度量的球描述进行离群点检测,(2006年IAPR结构、句法和统计模式识别联合国际会议论文集,SSPR'06/SPR'06(2006),Springer-Verlag:Springer-Verlag Berlin,Heidelberg),587-595
[54] O.泰勒。;MacIntyre,J.,《状态监测中用于新颖性检测和诊断的自适应局部融合系统》,Proc。SPIE-国际社会选择。工程师,3376121-218(1998)
[57] 王希钊;王亚东;王丽娟,基于特征加权学习的模糊c-均值聚类改进,模式识别。莱特。,25, 10, 1123-1132 (2004)
[58] Wilk,T。;Woźniak,M.,应用于一类分类器组合的软计算方法,神经计算,75,185-193(2012年1月)
[59] 温迪特,T。;Ghaderi,R.,《多类学习问题的编码和解码策略》,Inform。融合,4,1,11-21(2003)
[60] Woźniak,M。;格拉纳,M。;Corchado,E.,《作为混合系统的多分类器系统的调查》,Inform。融合,16,3-17(2014)
[61] 徐,L。;Krzyzak,A。;Suen,C.Y.,《组合多分类器的方法及其在手写识别中的应用》,IEEE Trans。人类网络系统。,22, 3, 418-435 (1992)
[62] Yeh,C。;李,Z。;Lee,S.,Boosting one-class support vector machines for multi-class classification,应用程序。Artif公司。智力。,23297-315(2009年)
[63] Yu,H。;Man,J。;Chang,K.C.,Pebl:没有负面示例的网页分类,IEEE Trans。知识。数据工程,16,1,70-81(2004)
[64] 张,L。;周,W。;Jiao,L.,核聚类算法,Jisuanji Xuebao/中国计算机杂志。,25, 6, 587-590 (2002)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。