×

基于信息测度的多核增强分类框架。 (英语) Zbl 1360.68705号

摘要:核函数的选择对支持向量机等基于核的方法的性能有很大影响。多核学习(MKL)是一类有前途的机器学习算法,近年来受到了广泛关注。与单核学习相比,MKL结合了多个子核以寻求更好的结果。为了提高SVM和MKL的效率,本文推导了Kullback-Leibler核函数来开发SVM。该方法采用改进的集成学习框架KLMKB,将Adaboost应用于多核分类器的学习。在高光谱遥感图像分类实验中,我们使用通过可选指数因子(OIF)选择的特征对卫星图像进行分类。我们在一些基准分类数据集和高光谱遥感图像数据集上,与一些相关的和最先进的算法相比,广泛地检查了我们的方法的性能。实验结果表明,该方法对不同的数据集具有稳定的性能和显著的准确性。

MSC公司:

68T05年 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
62时35分 多元分析中的图像分析
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 肖尔科夫,B。;Smola,A.J.,《用内核学习》(2002),麻省理工学院出版社:麻省剑桥
[2] Kullback,S。;Leibler,R.,《论信息与充分性》,Ann Math Stat,2279-86(1951)·Zbl 0042.38403号
[3] Gönen,M。;AlpayIn,E.,《多核学习算法》,J Mach Learn Res,12211-2268(2011)·Zbl 1280.68167号
[4] Hughes,G.F.,《关于统计模式识别器的平均准确度》,IEEE Trans-Inf理论,IT-14,1,55-63(1968)
[5] Burges,C.J.C.,《维度缩减:导览》,《发现趋势——机器学习》,第2、4、275-365页(2010年)·Zbl 1211.68126号
[6] 查韦斯,P。;柏林,G。;Sowers,L.,《选择陆地卫星MSS比率的统计方法》,J Appl Photogr Eng,1,8,23-30(1982)
[7] Vapnik,V.N.,《统计学习理论》(1998),John Wiley&Sons·Zbl 0934.62009号
[8] 米勒,K。;米卡,S。;Rätsch,G。;Tsuda,K。;Schölkopf,B.,基于内核的学习算法简介,IEEE Trans Neural Netw,12,2,181-202(2001)
[9] 肖-泰勒,J。;Cristianini,N.,《模式分析的内核方法》(2004),剑桥大学出版社
[10] 高,L。;Li,J.等人。;Khodadadzadeh,M。;A广场。;张,B。;He,Z.,用于高光谱图像分类的基于子空间的支持向量机,IEEE Geosci Remote Sens Lett,12,2,349-353(2015)
[11] 柳叶刀,G.R.G。;北卡罗来纳州克里斯蒂亚尼尼。;Bartlett,P。;Ghaoui,L.E。;Jordan,M.I.,《用半定规划学习核矩阵》,J Mach Learn Res,5,27-72(2004)·Zbl 1222.68241号
[12] Alizadeh,F。;Goldfarb,D.,二阶锥规划,数学程序,95,3-51(2003)·Zbl 1153.90522号
[13] 阿科托马蒙杰,A。;巴赫,F.R。;卡努,S。;Grandvalet,Y.,SimpleMKL,J Mach Learn Res,9,2491-2521(2008)·Zbl 1225.68208号
[14] Sonnenburg,S。;Rätsch,G。;Schäfer,C。;附表?ölkopf,B.,《大规模多内核学习》,J Mach Learn Res,7,1,1531-1565(2006)·兹比尔1222.90072
[15] 北苏布拉曼尼亚。;Shin,Y.C.,《信号处理应用的稀疏多核学习》,IEEE Trans-Pattern Ana Mach Intell,32,5,788-798(2010)
[16] 铃木,T。;Tomioka,R.,SpicyMKL:一种使用数千个内核进行多内核学习的快速算法,《马赫学习》,85,1-2,1-32(2011)·Zbl 1237.68166号
[17] 科尔特斯,C。;莫赫里,M。;Rostamizadeh,A.,《两阶段学习核心算法》,第27届机器学习国际会议论文集,以色列海法,239-246(2010)
[18] 科尔特斯,C。;莫赫里,M。;Rostamizadeh,A.,基于中心对准的内核学习算法,J Mach Learn Res,13795-828(2012)·Zbl 1283.68286号
[19] 王,T。;赵,D。;Feng,Y.,带多类核极化的两阶段多核学习,基于知识的系统,48,10C16(2013)
[20] 巴甫洛夫,D。;毛,J。;Dom,B.,使用boosting算法的放大支持向量机,第15届模式识别国际会议论文集,2219-2222(2000)
[22] 李,X。;Wang,L。;Sung,E.,Adaboost with SVM-based component classifiers,Eng-Appl Artif Intell,21,5,785-795(2008)
[24] Sun,T。;Jiao,L。;冯,J。;刘,F。;Zhang,X.,基于最大边缘的非平衡高光谱图像分类,IEEE Geosci Remote Sens Lett,12,3,522-526(2015)
[25] Chang,C.I.,《高光谱数据开发:理论与应用》(2007),Wiley:Wiley Hoboken,NJ,USA
[26] Jolliffe,I.T.,《主成分分析导论》,1-9(2002),Springer-Verlag:Springer-Verlag纽约,纽约,美国·Zbl 1011.62064号
[27] Hyvarinen,A。;Oja,E.,《独立成分分析:算法和应用》,神经网络,13,4/5,411-430(2000)
[28] Jimenez-Rodriguez,洛杉矶。;Arzuaga-Cruz,E。;Velez-Reyes,M.,《无监督线性特征提取方法及其在高维数据分类中的作用》,IEEE Trans-Geosci遥感,45,2,469-483(2007)
[29] Li,J.等人。;黄,X。;Bioucas-Dias,J.M。;Benediktsson,J.A。;Plaza,A.,用于高光谱图像分类的多特征学习,IEEE Trans-Geosci Remote Sens,53,3,1592-1606(2015)
[30] 康,X。;李,S。;方,L。;李,M。;Benediktsson,J.A.,高光谱图像的扩展随机步行分类,IEEE Trans-Geosci遥感,53,1,144-153(2015)
[31] 冯,J。;焦立中。;张,X。;Sun,T.,基于三变量互信息和克隆选择的高光谱波段选择,IEEE Trans-Geosci遥感,52,7,4092-4105(2014)
[32] Asl,M.G。;Mobasheri,M.R。;Mojaradi,B.,使用原型空间中的几何测量进行高光谱图像的无监督特征选择,IEEE Trans Geosci Remote Sens,52,7,3374-3387(2014)
[33] 冯,J。;Jiao,L。;刘,F。;Sun,T。;Zhang,X.,基于互信息的高分辨率、高信息和低冗余半监督高光谱波段选择,IEEE Trans Geosci Remote Sens,53,5,2956-2969(2015)
[34] 袁,Y。;朱,G。;Wang,Q.,通过多任务稀疏追踪选择高光谱波段,IEEE Trans Geosci Remote Sens,53,2,631-644(2015)
[35] 张,Q。;田,Y。;Yang,Y。;Pan,C.,通过区分稀疏多模式学习为高光谱图像自动选择空间光谱特征,IEEE Trans-Geosci遥感,53,1,261-279(2015)
[36] 耿,X。;Sun,K。;纪磊。;Zhao,Y.,基于体粒度的高光谱图像快速波段选择方法,IEEE Trans Geosci Remote Sens,52,11,7111-7119(2014)
[37] 布鲁佐内(Bruzzone,L.)。;Serpico,S.B.,多类问题中的特征选择技术,Int J Remote Sens,21,3,549-563(2000)
[38] 帕特拉,S。;莫迪,P。;Bruzzone,L.,基于粗糙集的高光谱波段选择,IEEE Trans Geosci Remote Sens,53,10,5495-5503(2015)
[39] Yang,H。;杜琪。;苏,H。;Sheng,Y.,《监督高光谱波段选择的有效方法》,IEEE Geosci Remote Sens Lett,8,1,138-142(2011)
[40] Chang,C.-I。;Wang,S.,高光谱图像的约束波段选择,IEEE Trans-Geosci遥感器,44,61575-1585(2006)
[41] Martinez-Uso,A。;平面图,F。;索托卡,J.M。;Garcia-Sevilla,P.,使用信息测量的基于聚类的高光谱波段选择,IEEE Trans-Geosci遥感,45,12,4158-4171(2007)
[42] 杨,C。;刘,S。;布鲁佐内(Bruzzone,L.)。;Guan,R。;Du,P.,高光谱图像分类中用于特征选择的基于特征度量的亲和传播技术,IEEE Geosci Remote Sens Lett,10,5,1152-1156(2013)
[43] 沈,L。;Zhu,Z。;贾,S。;朱,J。;Sun,Y.,高光谱图像分类的判别gabor特征选择,IEEE Geosci Remote Sens Lett,10,1,29-33(2013)
[44] Das,A。;Ghosh,S。;Ghosh,A.,《使用分块波段图像相关性和容量鉴别对高光谱图像进行波段消除》,《国际遥感杂志》,35,2,554-577(2014)
[45] 帕特,N。;Kaushal,B.,通过最佳指数因子(OIF)选择的特征分类,以提高分类精度,J for Res,22,1,99-105(2011)
[46] 巴赫曼,C.M。;安斯沃思,T.L。;Fusina,R.A.,《利用高光谱图像中的流形几何》,IEEE Trans-Geosci遥感,43,3,441-454(2005)
[47] 吴,B。;张,L。;Zhao,Y.,通过cramer的v检验离散化进行远程图像分类的特征选择,IEEE Trans Geosci remote Sens,52,5,2593-2606(2014)
[48] 秦,X。;邹,H。;周,S。;Ji,K.,使用广义伽马分布之间的kullbackcleibler距离对SAR图像进行基于区域的分类,IEEE Geosci Remote Sens Lett,12,8,1655-1659(2015)
[49] 曾杰。;克鲁格,美国。;Geluk,J。;王,X。;Xie,L.,使用kullback-leibler散度检测异常情况,Automatica,502777-2786(2014)·Zbl 1300.93029号
[50] Ferracuti,F。;Giantomasis,A。;Iarlori,S。;伊波利蒂,G。;Longhi,S.,《基于核密度估计和质量控制场景中kullback-leibler发散的电机缺陷诊断》,《工程应用Artif Intell》,44,25-32(2015)
[51] Zien,A。;Ong,C.S.,多类多内核学习,第24届机器学习国际会议论文集,美国俄勒冈州科瓦利斯,1191-1198(2007)
[52] Rabiner,L.R.,语音识别中的隐马尔可夫模型和选定应用教程,IEEE Proc,77,257-286(1989)
[53] Kim,H.C。;庞,S。;Je,H。;Kim,D。;Bang,S.Y.,构建支持向量机集成,模式识别,36,12,2757-2767(2003)·兹比尔1059.68091
[54] 弗伦德,Y。;Schapire,R.E.,在线学习的决策理论推广及其在助推中的应用,计算机系统科学杂志,55,1,119-139(1997)·Zbl 0880.68103号
[55] 徐,Z。;金·R。;国王一世。;Lyu,M.R.,《有效多核学习的扩展级方法》,《神经信息处理系统学报》(2008年)
[56] 夏贝尔,O。;Rakotomamonjy,A.,核参数的二阶优化,神经信息处理系统(NIPS)研讨会进展(2008)
[57] 克拉默,K。;Keshet,J。;Singer,Y.,《使用增强的内核设计》,《神经信息处理系统(NIPS)进展论文集》,537-544(2002)
[58] Chen,C.C。;Lin,C.J.,LIBSVM:支持向量机库,ACM Trans Intell Syst Technol,2,27(2011)
[59] 康加尔顿,R.G。;Oderwald,R.G。;Mead,R.A.,《使用离散多元分析统计技术评估陆地卫星分类精度》,《Photogramma Eng Remote Sens》,49,12,1671-1678(1983)
[60] Foody,G.M.,《分类准确性比较:假设检验和置信区间在差异、等效性和非劣效性评估中的使用》,《遥感环境》,113,8,1658-1663(2009)
[61] Ramzi,P。;萨马扎德根,F。;Reinartz,P.,使用AdaBoostSVM技术对波段簇进行高光谱数据分类,IEEE J Sel Topics Appl Earth Observ Remote Sens,7,6(2014)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。