×

一种新的具有非对称平方损失的半监督支持向量机。 (英语) Zbl 07363869号

摘要:基于半监督流形正则化学习框架的拉普拉斯支持向量机(Laplacian support vector machine,LapSVM)性能优于标准SVM,特别是在监督信息不足的情况下。然而,铰链损失的使用导致了LapSVM对决策边界附近的噪声的敏感性。为了提高LapSVM的性能,我们提出了一种新的具有非对称平方损失的半监督SVM(asy-LapSVM),该SVM处理期望距离,并且对噪声污染数据不太敏感。我们进一步提出了一种简单有效的函数迭代方法来求解所提出的asy-LapSVM,此外,我们从理论和实验两个方面证明了函数迭代方法的收敛性。在具有不同方差噪声的多个常用数据集上进行的数值实验证明了所提出的asy-LapSVM的有效性和所提出的函数迭代方法的可行性。

MSC公司:

90C20个 二次规划
90 C90 数学规划的应用
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Balasundaram,S。;Benipal,G.,关于拉格朗日支持向量回归的新方法,神经计算应用。,29, 9, 533-551 (2016) ·doi:10.1007/s00521-016-2521-3
[2] 贝尔金,M。;Niyogi,P。;Sindhwani,V.,《流形正则化:从标记和未标记示例学习的几何框架》,J Mach Learn Res,72399-2434(2006)·Zbl 1222.68144号
[3] 毕,J。;Zhang,T.,具有输入数据不确定性的支持向量分类,神经信息处理系统(NIPS),17,161-168(2004)
[4] Calma,A。;雷特迈尔,T。;Sick,B.,《支持向量机的半监督主动学习:利用数据结构信息的新方法》,《Inform Sci》,45613-33(2018)·Zbl 1440.68202号 ·doi:10.1016/j.ins.2018.04.063
[5] 沙佩尔,O。;肖尔科夫,B。;Zien,A.,《半监督学习》(2006),剑桥:麻省理工学院出版社,剑桥·doi:10.7551/mitpress/9780262033589.001.0001
[6] Chen,W。;Shao,Y。;徐,D。;Fu,Y.,用于半监督分类的流形近端支持向量机,应用智能,40,623-638(2014)·doi:10.1007/s10489-013-0491-z
[7] 北卡罗来纳州克里斯蒂亚尼尼。;Shawe-Taylor,J.,《支持向量机和其他基于核的学习方法简介》(2000),剑桥:剑桥大学出版社,剑桥·doi:10.1017/CBO9780511801389
[8] Demsar,J.,分类器在多个数据集上的统计比较,J Mach Learn Res,7,1-30(2006)·Zbl 1222.68184号
[9] 杜,B。;唐,X。;王,Z。;张,L。;Tao,D.,通过最大相关熵准则对含噪标记数据进行基于图的鲁棒半监督学习,IEEE Trans-Cybern,49,4,1440-1453(2019)·doi:10.1109/TCYB.2018.2804326
[10] Fung,G。;Mangasarian,OL,支持向量机分类的特征选择牛顿方法,计算优化应用,28,2,185-202(2004)·Zbl 1056.90103号 ·doi:10.1023/B:COAP.000026884.66338.df
[11] 顾,N。;风扇,P。;范,M。;Wang,D.,用于稳健半监督模式分类的结构正则化自定步长学习,神经计算应用,31,10,6559-6574(2019)·doi:10.1007/s00521-018-3478-1
[12] Guzella,TS;Caminhas,WM,垃圾邮件过滤的机器学习方法综述,专家系统应用,36,7,10206-10222(2009)·doi:10.1016/j.eswa.2009.02.037
[13] 黄,G。;朱,Q。;Siew,C.,《极限学习机器:理论与应用》,神经计算,70489-501(2006)·doi:10.1016/j.neucom.2005.12.126
[14] 黄,X。;史,L。;Suykens,JAK,具有弹球损失的支持向量机分类器,IEEE Trans-Pattern Anal Mach-Intell,36,5984-997(2014)·doi:10.1109/TPAMI.2013.178
[15] 黄,X。;史,L。;Suykens,JAK,不对称最小二乘支持向量机分类器,计算统计数据分析,70395-405(2014)·Zbl 1471.62092号 ·doi:10.1016/j.csda.2013.09.015
[16] 黄,G。;Song,S。;古普塔,J。;Wu,C.,《半监督和非监督极端学习机器》,IEEE Trans Cybern,442405-2417(2014)·doi:10.1109/TCYB.2014.2307349
[17] Jumutc V,Huang X,Suykens JAK(2013)固定尺寸Pegasos铰链和弹球损失SVM。摘自:美国德克萨斯州达拉斯国际神经网络联合会议论文集,第1122-1128页
[18] Khemchandani,R。;Pal,A.,多类别拉普拉斯最小二乘双支持向量机,Appl-Intell,458-474(2016)·doi:10.1007/s10489-016-0770-6
[19] Koenker,R.,分位数回归(2005),剑桥:剑桥大学出版社,剑桥·兹比尔1111.62037 ·doi:10.1017/CBO9780511754098
[20] 李,Z。;田,Y。;李凯。;周,F。;Yang,W.,使用半监督支持向量机拒绝信用评分中的推理,专家系统应用,74,105-114(2017)·doi:10.1016/j.eswa.2017.01.011
[21] 卢,L。;林,Q。;裴,H。;Zhong,P.,基于aLS-SVM的多任务学习分类器,应用智能,48,2393-2407(2018)·doi:10.1007/s10489-017-1087-9
[22] 马,J。;温,Y。;Yang,L.,拉格朗日监督和半监督极端学习机器,应用智能,49,2,303-318(2019)·doi:10.1007/s10489-018-1273-4
[23] Melki,G。;凯克曼,V。;文图拉,S。;Cano,A.,OLLAUV:使用最严重违规者的在线学习算法,Appl Soft Comput,66384-393(2018)·doi:10.1016/j.asoc.2018.02.040
[24] 裴,H。;陈,Y。;Wu,Y。;Zhong,P.,基于类内散布的拉普拉斯全边缘支持向量机,基于知识的系统,119,152-165(2017)·doi:10.1016/j.knosys.2016.12.009
[25] 裴,H。;王,K。;Zhong,P.,半监督矩阵化最小二乘支持向量机,应用软计算,61,72-87(2017)·doi:10.1016/j.asoc.2017.07.040
[26] 裴,H。;王,K。;林,Q。;Zhong,P.,鲁棒半监督极端学习机,基于知识的系统,159203-220(2018)·doi:10.1016/j.knosys.2018.06.029
[27] 斯卡达潘,S。;费里蒙特,R。;洛伦佐,PD;Panella,M。;Uncini,A.,分布式半监督支持向量机,神经网络。,80, 43-52 (2016) ·Zbl 1414.68073号 ·doi:10.1016/j.neunet.2016.04.007
[28] Shivaswamy,P。;巴塔查里亚,C。;Smola,A.,处理缺失和不确定数据的二阶锥规划方法,J Mach Learn Res,71283-1314(2006)·Zbl 1222.68305号
[29] 斯坦瓦特,I。;Christmann,A.,支持向量机(2008),纽约:Springer,纽约·Zbl 1203.68171号
[30] Sun,S.,《多视图拉普拉斯支持向量机》,《应用智能》,第41、4、209-222页(2013年)
[31] Tikhonov,AN,不正确问题的正则化,Sov。数学。Dokl,41624-1627年(1963年)·Zbl 0183.11601号
[32] Tur,G。;Hakkani-Tür,D。;Schapire,RE,《将主动学习和半监督学习相结合以促进口语理解》,《言语交际》,45,2,171-186(2005)·doi:10.1016/j.specom.2004.08.002
[33] Vapnik,VN,统计学习理论的本质(1995),纽约:Springer,纽约·Zbl 0833.62008号 ·数字对象标识代码:10.1007/978-1-4757-2440-0
[34] 王,K。;Zhong,P.,带离群值回归的稳健非凸最小二乘损失函数,基于知识的系统,71,290-302(2014)·doi:10.1016/j.knosys.2014.08.003
[35] 王,K。;朱伟。;Zhong,P.,带广义损失函数的稳健支持向量回归及其应用,神经过程Lett,41,89-106(2015)·doi:10.1007/s11063-013-9336-3
[36] Xu,H。;Caramanis,C。;Mannor,S.,《支持向量机的鲁棒性和正则化》,J Mach Learn Res,101485-1510(2009)·兹比尔1235.68209
[37] Ye,J.,矩阵的广义低阶近似,马赫学习,61,1-3,167-191(2005)·Zbl 1087.65043号 ·doi:10.1007/s10994-005-3561-6
[38] 张,T。;刘,S。;徐,C。;Lu,H.,用于人类行为识别的增强型多类半监督学习,模式识别,44,10-11,2334-2342(2011)·Zbl 1218.68140号 ·doi:10.1016/j.patcog.2010.06.018
[39] 赵,J。;Xu,Y。;Fujita,H.,改进的非并行Universum支持向量机及其安全样本筛选规则,基于知识的系统,170,79-88(2019)·doi:10.1016/j.knosys.2019.01.031
[40] Zhong,P.,训练具有光滑非凸损失函数的稳健支持向量回归,Optim Methods Softw,27,6,1039-1058(2012)·Zbl 1248.65067号 ·doi:10.1080/10556788.2011.557725
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。