×

通过半径边界改进局部多核学习。 (英语) Zbl 1426.68242号

摘要:局部多核学习(LMKL)是一种有效的多核学习方法。它试图通过直接使用最大裕度原理从一组预定义的基本核中学习最优核,该原理体现在支持向量机(SVM)中。然而,LMKL并没有考虑最小包围球半径(MEB),这实际上影响了SVM的误差范围以及分离裕度。在本文中,我们提出了LMKL的一个改进版本,即ILMKL。该方法明确地考虑了边缘和半径,因此与同类方法相比,具有更好的性能。此外,该方法可以在学习最优核时自动调整正则化参数。因此,它避免了使用耗时的交叉验证过程来选择参数。进行了综合实验,结果很好地证明了该方法的有效性和效率。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Schölkopf,B。;Smola,A.,《使用内核学习》(2002),美国马萨诸塞州剑桥市:麻省理工学院出版社
[2] 阿科托马蒙杰,A。;巴赫,F。;Grandvalet,Y。;Canu,S.,SimpleMKL,机器学习研究杂志,9,2491-2521,(2008)·Zbl 1225.68208号
[3] 兰克里特,G.R。;北卡罗来纳州克里斯蒂亚尼尼。;Bartlett,P。;El Ghaoui,L。;Jordan,M.I.,用半定规划学习核矩阵,机器学习研究杂志,5,27-72,(2004)·Zbl 1222.68241号
[4] 巴赫,F.R。;柳叶刀,G.R.G。;Jordan,M.I.,《多核学习、二次曲线对偶和SMO算法》,第21届机器学习国际会议论文集·doi:10.1145/1015330.1015424
[5] Sonnenburg,S。;Ratsch,G。;Schafer,C.,《一种通用且高效的多核学习算法》,《神经信息处理系统的进展》,1273-1280,(2005)
[6] Sonnenburg,S。;Ratsch,G。;Schafer,C。;Scholkopf,B.,《大规模多核学习》,《机器学习研究杂志》,第7期,第1531-1565页,(2006)·Zbl 1222.90072号
[7] Bach,F.R.,组套索和多核学习的一致性,机器学习研究杂志,9,1179-1225,(2008)·Zbl 1225.68147号
[8] Gönen,M。;Alpaydin,E.,Cost-conscious多核学习,模式识别字母,31,9,959-965,(2010)·doi:10.1016/j.patrec.2009.12.027
[9] Gönen,M。;Alpaydn,E.,使用响应面方法规范化多核学习,模式识别,44,1,159-171,(2011)·Zbl 1207.68279号 ·doi:10.1016/j.patcog.2010.07.008
[10] Nazarpour,A。;Adibi,P.,用于监督降维的两阶段多核学习,模式识别,48,5,1854-1862,(2015)·doi:10.1016/j.patcog.2014.12.001
[11] 王,Z。;范,Q。;Ke,S。;Gao,D.,结构多元经验核学习,信息科学,301,20,124-140,(2015)·Zbl 1360.68718号 ·doi:10.1016/j.ins.2015.01.005
[12] 罗,W。;杨,J。;徐伟(Xu,W.)。;李,J。;Zhang,J.,基于多核学习的图像分类高级特征组合,神经计算,167,1,209-217,(2015)·doi:10.1016/j.neucom.2015.04.075
[13] 张,X。;Mahoor,M.H.,用于面部动作单元检测的任务相关多任务多核学习,模式识别,51,38187-196,(2016)·doi:10.1016/j.patcog.2015.08.026
[14] Vapnik,V.,《统计学习理论的本质》(1995),纽约州纽约市,美国:斯普林格,纽约州,美国·Zbl 0833.62008号 ·数字对象标识代码:10.1007/978-1-4757-2440-0
[15] Gönen,M。;Alpaydin,E.,本地化多核学习,机器学习国际会议论文集
[16] Gönen,M。;Alpaydin,E.,《多核学习算法》,《机器学习研究杂志》,第12期,第2211-2268页,(2011年)·Zbl 1280.68167号
[17] Gönen,M。;Alpaydñn,E.,多核学习的局部算法,模式识别,46,3,795-807,(2013)·Zbl 1254.68204号 ·doi:10.1016/j.patcog.2012.09.002
[18] 胡,M。;陈,Y。;郭敬堂,构建稀疏多核SVM分类器,IEEE神经网络汇刊,20,5827-839,(2009)·doi:10.1109/tnn.2009.2014229
[19] Xu,X。;Tsang,I.W。;Xu,D.,软边界多核学习,IEEE神经网络和学习系统汇刊,24,5,749-761,(2013)·doi:10.1109/tnnls.2012.2237183
[20] Song,Y。;郑义堂。;唐,S。;周,X。;Zhang,Y。;Lin,S。;Chua,T.-S.,视频中真实人体动作识别的本地化多核学习,IEEE视频技术电路和系统汇刊,21,9,1193-1202,(2011)·doi:10.1109/tcsvt.2011.2130230
[21] 韩,Y。;Liu,G.,概率置信度-基于核的局部多核学习_{p} 规范,IEEE系统、人与控制论汇刊B部分:控制论,42,3,827-837,(2012)·doi:10.1109/tsmcb.2011.2179291
[22] 韩,Y。;Yang,K。;马云(Ma,Y.)。;Liu,G.,通过抽样交替优化本地化多核学习,IEEE控制论汇刊,44,1,137-148,(2014)·doi:10.1109/TCYB.2013.2248710
[23] Jose,C。;戈亚尔,P。;阿格瓦尔,P。;Varma,M.,有效非线性SVM预测的局部深核学习,第30届机器学习国际会议论文集(ICML’13)
[24] Vapnik,V。;Chapelle,O.,支持向量机的误差期望界,神经计算,12,92013-2036,(2000)·doi:10.1162/089976600300015042
[25] 沙佩尔,O。;Vapnik,V。;O.布斯克。;Mukherjee,S.,为支持向量机选择多个参数,机器学习,46,1-3,131-159,(2002)·Zbl 0998.68101号 ·doi:10.1023/a:1012450327387
[26] Keerthi,S.S.,使用半径/边界和迭代算法有效调整SVM超参数,IEEE神经网络汇刊,13,5,1225-1229,(2002)·doi:10.1109/TNN.2002.1031955
[27] 钟,K.-M。;Kao,W.C。;孙,C.-L。;王,L.-L。;Lin,C.-J.,带RBF核的支持向量机的半径边界,神经计算,15,11,2643-2681,(2003)·Zbl 1085.68123号 ·doi:10.1162/08997660332385108
[28] Duan,K。;基尔西,S.S。;Poo,A.N.,调整SVM超参数的简单性能度量的评估,神经计算,51,41-59,(2003)·doi:10.1016/S0925-2312(02)00601-X
[29] Do,H。;卡卢西斯,A。;沃兹尼卡,A。;Hilario,M.,基于边缘和半径的多核学习,《欧洲机器学习会议论文集》(ECML’09)
[30] Fletcher,R.,《实用优化方法》(1987),美国纽约州纽约市:John Wiley&Sons,美国纽约市·Zbl 0905.65002号
[31] 税务,D.M.J。;Duin,R.P.W.,支持向量领域描述,模式识别字母,20,11–13,1191-1199,(1999)·doi:10.1016/s0167-8655(99)00087-2
[32] Lichman,M.,UCI机器学习库,(2007),美国加利福尼亚州欧文市:加利福尼亚大学信息与计算机科学学院,美国加州欧文市
[33] Alpaydin,E.,《机器学习导论》(2004),美国马萨诸塞州剑桥市:麻省理工学院出版社
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。