×

CTSVM:一种用于二元分类问题的具有相关损失函数的鲁棒双支持向量机。 (英语) Zbl 1484.68201号

摘要:作为支持向量机(SVM)的一种变体,双支持向量机受到了广泛关注;然而,TSVM对异常值很敏感。为了解决这一问题,本研究引入了非凸、有界、光滑的电流诱导损耗(C-loss)函数,并提出了C-loss TSVM(CTSVM)。CTSVM被设计用于执行以下优化:最小化C-损失函数、模型系数的2-范数正则化以及正(负)样本和正(负”类)超平面之间的距离,从而确保负(正)样本远离正(负超平面。CTSVM被转化为两个半二次优化问题,可以使用交替迭代方法求解。这种方法使CTSVM的计算时间与相关方法相当,尤其是在求解线性问题时。对实验结果进行统计处理,以比较多种算法在多个数据集上的性能。这些结果证实了CTSVM在对离群值的鲁棒性和二进制任务的分类精度方面优于同类分类器。未来,我们将研究CTSVM在多类分类任务中的性能。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 马蒂亚斯·阿丹肯(Mathias M.Adankon)。;Cheriet,Mohamed,LS-SVM的模型选择:手写识别应用,模式识别。,42, 12, 3264-3270 (2009) ·兹比尔1187.68424
[2] Arjunan,S.P。;Kumar,D.K。;Naik,G.R.,使用双支持向量机对前臂sEMG分形特征进行分类的基于机器学习的方法,(IEEE医学和生物学会工程年度国际会议论文集(2010)),4821-4824
[3] 乔纳森·博尔温(Jonathan Borwein);Lewis,Adrian,《凸分析与非线性优化:理论与实例》(2006),Springer·Zbl 1116.90001号
[4] 博伊德,S.P。;Vandenberghe,L.,凸优化(2004),剑桥大学:英国剑桥大学·Zbl 1058.90049号
[5] 科琳娜·科尔特斯;Vapnik,Vladimir,支持向量网络,马赫。学习。,20, 3, 273-297 (1995) ·Zbl 0831.68098号
[6] Demsar,Janez,多数据集分类器的统计比较,J.Mach。学习。第7、1、1-30号决议(2006年)·Zbl 1222.68184号
[7] Dua Dheeru,Efi Karra Taniskidou,UCI机器学习库,2017。
[8] 丁世飞;张楠;张喜凯;吴福林。,双支持向量机:理论,算法和应用,神经计算。申请。,28, 11, 3119-3130 (2017)
[9] 丁世飞;张喜凯;安岳萱;薛瑜。,基于信息粒化的加权线性损失多生支持向量机用于多类分类,模式识别。,67, 32-46 (2017)
[10] Dunn,O.J.,《均值的多重比较》,《美国法律总汇汇编》,第56、293、52-64页(1961年)·Zbl 0103.37001号
[11] 贝诺伊·弗雷内(Benoit Frenay);Michel Verleysen,《标签噪声存在下的分类:调查》,IEEE Trans。神经网络学习。系统。,25, 5, 845-869 (2014) ·Zbl 1471.62064号
[12] Geman,D。;Reynolds,G.,《不连续性的约束恢复和恢复》,IEEE Trans。模式分析。机器。智力。,14, 3, 367-383 (1992)
[13] Donald Geman;杨成达,带半二次正则化的非线性图像恢复,IEEE Trans。图像处理。,4, 7, 932-946 (1995)
[14] 华小鹏;Ding,ShiFe,局部保持双支持向量机,计算机J。研究开发。,51, 3, 590-597 (2014)
[15] 华小鹏;丁世飞,带局部信息的加权最小二乘投影双支持向量机,神经计算,160228-237(2015)
[16] Jayadeva,R.Khemchandani;Chandra,Suresh,模式分类的双支持向量机,IEEE Trans。模式分析。机器。智力。,29, 5, 905-910 (2007)
[17] N.Mm Khan,R.Ksantini,I.S.Ahmad,B.Oufama,一种新的SVM+NDA分类模型,用于人脸识别,模式识别。45(1) (2012) 66-79. ·Zbl 1225.68230号
[18] Arun Kumar,M。;Gopall,M.,用于模式分类的最小二乘双支持向量机,专家系统。申请。,36, 7535-7543 (2009)
[19] 刘黎明;楚茂祥;杨永辉;龚荣芬,基于可调大余量分布的双支持向量机模式分类,国际期刊。学习。赛博。,11, 2371-2389 (2020)
[20] 刘明慧,戴蓓倩,谢燕璐,亚志强,用于说话人验证的改进GMM-UBM/SVM,IEEE声学、语音和信号处理国际会议论文集1(2006)1925-1928。
[21] 刘如杰;王月红;Takayuki Baba;优原、优助;Masumoto,Daiki;Nagata,Shigemi,使用聚类和未标记数据进行图像检索时基于SVM的主动反馈,模式识别。,41, 8, 2645-2655 (2008) ·兹比尔1151.68397
[22] 刘晓明;朱婷;翟磊;刘军,用新的双支持向量机联合l_2,1)范数对良性和恶性肿瘤进行质量分类,国际期刊,马赫。学习。赛博。,10, 155-171 (2017)
[23] Mangasarian,O.L。;Wild,E.,《通过广义特征值进行多曲面近端支持向量机分类》,IEEE Trans。模式分析。机器。智力。,18, 1, 69-74 (2006)
[24] 苗启光;曹颖;夏、葛;龚茂国;刘佳晨;Song,Jianfeng,RBoost:基于非凸损失函数和数字稳定基学习器的标签噪声鲁棒增强算法,IEEE Trans。神经网络。学习。系统。,27, 11, 2216-2228 (2015)
[25] 彭新军,TPSVM:用于模式识别的新型双参数边缘支持向量机,模式识别。,44, 2678-2692 (2011) ·Zbl 1218.68129号
[26] Platt,J.C.,《使用序列最小优化快速训练支持向量机》(Schölkopf,B.;Burges,C.J.C.;Smola,A.J.,《内核方法的进展:支持向量学习》(1999),麻省理工学院出版社:麻省理理工学院剑桥出版社,美国马萨诸塞州),185-208
[27] 任、卓;杨利明,基于Correntropy-based robust extreme learning machine for classification,Neurocomputing,31313-11(2018)
[28] 萨利姆·雷兹瓦尼;王希钊;Pourpanph,Farhad,直觉模糊双支持向量机,IEEE Trans。模糊系统。,2140-2151年11月27日(2019)
[29] 邵元海;张春华;王晓波;邓乃阳,双支持向量机的改进,IEEE Trans。神经网络,22,6,962-968(2011)
[30] 阿比舍克·辛格;博克雷尔,罗莎;Principe,Jose,模式分类的C损失函数,模式识别。,47, 1, 441-453 (2014) ·Zbl 1326.68253号
[31] 阿比舍克·辛格;Principe,Jose C.,基于稳健相似性度量的分类损失函数,(IEEE神经网络国际联合会议(2010)论文集),1-6
[32] 赛义德,穆贾希德·N。;帕诺斯·帕达洛斯(Panos M.Pardalos)。;Principe,Jose C.,《数据分析中相关损失函数的优化特性》,Optim。莱特。,8, 3, 823-839 (2014) ·Zbl 1298.90072号
[33] Vapnik,Vladimir N.,《统计学习理论》(1998),威利出版社:美国纽约州威利·Zbl 0935.62007号
[34] 王向阳;王婷;布·胡安。,基于像素支持向量机分类的彩色图像分割。,44, 4, 777-787 (2011) ·Zbl 1213.94023号
[35] 吴伟晨。;徐益田。,用安全筛选规则加速改进的双支持向量机,Int.J.Mach。学习。赛博。,10, 3587-3600 (2019)
[36] 吴一超。;刘玉峰,鲁棒截断铰链损失支持向量机,美国统计协会,102,479,974-983(2007)·Zbl 1469.62293号
[37] 徐桂彪。;胡宝刚。;Jose C.Principe,鲁棒C损失核分类器,IEEE Trans。神经网络学习。系统。,29, 3, 510-522 (2018)
[38] 徐益田。;王来生;钟,平,一种基于粗糙裕度的v-twin支持向量机,神经计算。申请。,21, 1307-1317 (2012)
[39] 徐益田。;杨志吉;潘贤丽(音译),《一种新型的带弹球损失的双支撑矢量机》,IEEE Trans。神经网络。学习。系统。,28, 2, 359-370 (2017)
[40] 薛兆军;Ming,Dong;宋伟;Wan、BaiKun;金,石久,基于小波变换和支持向量机的红外步态识别,模式识别。,43, 8, 2904-2910 (2010) ·Zbl 1207.68330号
[41] 杨晓伟;谭良军;何立芳,《用于带噪声回归和分类的稳健最小二乘支持向量机》,神经计算,140,41-52(2014)
[42] 张丽;周伟达,密度诱导边缘支持向量机,模式识别。,44、7、1448-1460(2011年7月)·Zbl 1210.68098号
[43] 张丽;周伟达,渔民规制支持向量机,信息科学。,343-344, 5, 79-93 (2016) ·Zbl 1395.68241号
[44] 张丽;周伟达;Chang、PeiChann;刘静;严哲;王婷;李凡章,基于核稀疏表示的分类器,IEEE Trans。信号处理。,601684-1695(2012年4月)·Zbl 1393.94733号
[45] Li Zhang、Weida Zhou、GuiRen Chen、Hong Jie Zhou,Ning Ye、LiChen Jiao,使用伪密度估计方法为支持向量机预提取边界向量,收录于:SPIE论文集,MIPPR 2009:模式识别和计算机视觉,中国宜昌,2009年,第749660J(1-7)页。
[46] 张丽;周伟达;Jiao,LiChen,隐藏空间支持向量机,IEEE Trans。神经网络,15,6,1424-1434(2004)
[47] 张丽;周伟达;焦立晨,小波支持向量机,IEEE Trans。SMC B部分,34,1,34-39(2004)
[48] 周伟达,张丽,焦丽晨,支持向量机的改进分解方法。载于:《第五届计算智能与多媒体应用国际会议论文集》,第32-36页,中国西安,2003年9月27-30日。
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。