×

基于角度的多类别支持向量机的安全样本筛选规则。 (英语) Zbl 07533784号

摘要:支持向量机是解决分类问题的常用技术,其中最优的分离超平面仅依赖于训练数据的子集。为了降低计算成本,文献中提出了安全的样本筛选规则,使我们能够在训练阶段之前删除多余的样本。然而,现有的关于安全样本筛选规则的工作主要集中在二进制分类。基于多类别角度的支持向量机(MASVM)是解决多类别分类问题的一种有效方法,它构造了一个无和零约束的决策函数。为了进一步降低线性MASVM的计算成本,提出了两种安全的样本筛选方法:间隙安全规则(MAGSR)和变分不等式对偶筛选(MADVI)。然后开发了一个结合MAGSR和MADVI的两阶段筛选框架。大量仿真和实际应用表明,与现有方法相比,该方法在计算上具有很大的优势。

MSC公司:

62至XX 统计
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bonnefoy,A。;埃米亚,V。;Ralaivola,L。;Gribonval,R.,《拉索的动态筛选原理》(第22届欧洲信号处理会议(2014)),6-10
[2] Boser,B.E。;盖恩,I.M。;Vapnik,V.N.,最佳边缘分类器的训练算法,(第五届计算学习理论年度研讨会论文集(1992)),144-152
[3] Chang,C.-C。;Lin,C.-J.,LIBSVM:支持向量机库,ACM Trans。智力。系统。技术。,2, 3, 1-27 (2011)
[4] 科尔特斯,C。;Vapnik,V.,支持向量网络,马赫。学习。,20, 3, 273-297 (1995) ·Zbl 0831.68098号
[5] 克拉默,K。;Singer,Y.,关于基于核的多类向量机的算法实现,J.Mach。学习。决议,第2号,12月,265-292(2001)·Zbl 1037.68110号
[6] 风机,R.-E。;Chang,K.-W。;谢长杰。;王,X.-R。;Lin,C.-J.,LIBLINEAR:大型线性分类库,J.Mach。学习。1871-1874年第9号决议(2008年)·Zbl 1225.68175号
[7] 范,Y。;卢,X。;刘,Y。;赵,J.,《使用精确标签嵌入的基于角度的层次分类》,J.Am.Stat.Assoc.(2020)
[8] Goudjil,M。;库迪尔,M。;贝达,M。;Ghoggali,N.,一种使用SVM进行文本分类的新型主动学习方法,国际J.Autom。计算。,15, 3, 290-298 (2018)
[9] Güler,O.,《优化基础》(2010),施普林格科学与商业媒体·Zbl 1220.90001号
[10] 盖恩,I。;Boser,B。;Vapnik,V.,《超大VC-维分类器的自动容量调节》,(神经信息处理系统进展(1993)),147-155
[11] Joachims,T.,《支持向量机文本分类:具有许多相关特征的学习》,(欧洲机器学习会议(1998)),137-142
[12] 兰格,K。;Tong Wu,T.,多类别顶点判别分析的MM算法,J.Compute。图表。Stat.,17,3,527-544(2008)
[13] Lee,Y。;Lin,Y。;Wahba,G.,《多类别支持向量机:微阵列数据和卫星辐射数据分类的理论和应用》,J.Am.Stat.Assoc.,9946567-81(2004)·Zbl 1089.62511号
[14] Lin,Y。;吕,F。;朱,S。;Yang,M。;库尔·T。;Yu,K。;曹,L。;Huang,T.,大尺度图像分类:快速特征提取和SVM训练,(IEEE计算机视觉和模式识别会议论文集(2011)),1689-1696
[15] 刘杰。;赵,Z。;Wang,J。;Ye,J.,变分不等式的安全筛选及其在套索中的应用,(国际机器学习会议(2014)),289-297
[16] 刘,Y。;温,K。;高奇。;高,X。;Nie,F.,基于SVM的图像注释缺失标签的多标签学习,模式识别。,78, 307-317 (2018)
[17] 刘,Y。;Yuan,M.,增强型多类别支持向量机,J.Compute。图表。统计,20,4,901-919(2011)
[18] 恩迪亚耶,E。;费尔科克,O。;Gramfort,A。;Salmon,J.,《稀疏执法处罚的间隙安全筛选规则》,J.Mach。学习。研究,18,1,4671-4703(2017)·Zbl 1442.62161号
[19] 小川,K。;铃木,Y。;Takeuchi,I.,路径支持向量机计算中非支持向量的安全筛选,(国际机器学习会议(2013)),1382-1390
[20] 潘,X。;Xu,Y.,一种新的安全的支持向量机两阶段筛选方法,IEEE Trans。神经网络。学习。系统。,30, 8, 2263-2274 (2018)
[21] 潘,X。;杨,Z。;Xu,Y。;Wang,L.,加速双支持向量机分类的安全筛选规则,IEEE Trans。神经网络。学习。系统。,29, 5, 1876-1887 (2017)
[22] 彭,X。;陈,D。;Kong,L.,求解支持向量机的裁剪双坐标下降算法,Knowl-基于系统。,71, 266-278 (2014)
[23] Platt,J.,《序列最小优化:训练支持向量机的快速算法》(1998),技术报告MSR-TR-98-14
[24] Wang,J。;Wonka,P。;Ye,J.,通过精确数据缩减缩放SVM和最小绝对偏差,(机器学习国际会议(2014)),523-531
[25] Wang,L。;Shen,X.,On(L_1)-范数多类支持向量机:方法论与理论,美国统计协会,102,478,583-594(2007)·Zbl 1172.62317号
[26] 王,Z。;克拉默,K。;Vucetic,S.,《打破核化的诅咒:大规模SVM训练的预算随机梯度下降》,J.Mach。学习。研究,13,1,3103-3131(2012)·Zbl 1433.68383号
[27] Wu,T.T。;Lange,K.,《高维数据的多类别顶点判别分析》,Ann.Appl。Stat.,4,4,1698-1721(2010年)·Zbl 1220.62086号
[28] 杨,Z。;Xu,Y.,拉普拉斯双参数边缘支持向量机的安全样本筛选规则,模式识别。,84, 1-12 (2018)
[29] 杨,Z。;Xu,Y.,拉普拉斯支持向量机的安全筛选规则,工程应用。Artif公司。智力。,67, 309-316 (2018)
[30] 张,C。;Liu,Y.,基于多类别角度的大边缘分类,Biometrika,101,3,625-640(2014)·Zbl 1335.62110号
[31] 赵,J。;Xu,Y.,Universum支持向量机的安全样本筛选规则,Knowl-基于系统。,138, 46-57 (2017)
[32] Zhao,Y。;曾博士。;拉什,A.J。;Kosorok,M.R.,《使用结果加权学习评估个体化治疗规则》,美国统计协会,107,499,1106-1118(2012)·Zbl 1443.62396号
[33] 郑洁。;沈,F。;风扇,H。;赵,J.,用于大规模数据的在线增量学习支持向量机,神经计算。申请。,22, 5, 1023-1035 (2013)
[34] 朱丽萍。;李,L。;李,R。;Zhu,L.-X.,超高维数据的无模型特征筛选,美国统计协会,106,496,1464-1475(2011)·兹比尔1233.62195
[35] Zimmert,J。;德维特,C.S。;Kerg,G。;Kloft,M.,支持向量机的安全筛选,(NIPS 2015机器学习优化研讨会(OPT)(2015))
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。