×

一种有效的核矩阵评估方法。 (英语) Zbl 1154.68469号

摘要:我们研究了分类任务中核矩阵优度的评估问题。由于核矩阵评估通常用于其他昂贵的过程,如特征和模型选择,因此必须有效计算优度测度。除了内核目标对齐(KTA)可以用(O(n^{2})时间复杂度计算外,大多数以前的方法都是无效的。虽然KTA被广泛使用,但我们发现它有一些严重的缺陷。基于类在特征空间中的数据分布,我们提出了一种有效的替代测度来评估核矩阵的优度。该测度不仅克服了KTA的局限性,而且还具有不变性、效率和误差界保证等其他性质。对比实验表明,该测度很好地反映了核矩阵的优度。

MSC公司:

68T05型 人工智能中的学习和自适应系统
68吨10 模式识别、语音识别
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Schölkopf,B。;Smola,A.J.,《与内核一起学习》(2002),麻省理工学院出版社:麻省理学院出版社,剑桥
[2] 肖-泰勒,J。;Cristianini,N.,《模式分析的核心方法》(2004),剑桥大学出版社:剑桥大学出版社,纽约州纽约市,美国
[3] Vapnik,N.V.,《统计学习理论的本质》(2000),Springer:Springer New York,NY·兹比尔0934.62009
[4] Schölkopf,B。;Smola,A.J。;Müller,K.-R.,核主成分分析,(核方法的进展:支持向量学习(1999)),327-352
[5] Wahba,G.,观测数据的样条模型,(CBMS-NSF应用数学区域会议系列,第59卷(1990),SIAM:SIAM Philadelphia)·兹伯利0813.62001
[6] 罚款,S。;Scheinberg,K.,《使用低阶核表示的高效SVM训练》,J.Mach。学习。第2号决议,243-264(2002年)·Zbl 1037.68112号
[7] Ong,C.S。;Smola,A.J。;Williamson,R.C.,《用超内核学习内核》,J.Mach。学习。第6号决议,1043-1071(2005)·Zbl 1222.68277号
[8] 北卡罗来纳州克里斯蒂亚尼尼。;肖-泰勒,J。;Elisseeff,A。;Kandola,J.,《关于核-目标对齐》(Dietterich,T.G.;Becker,S.;Ghahramani,Z.,《神经信息处理系统的进展》(2001),麻省理工学院出版社:麻省理学院出版社剑桥,MA)
[9] 柳叶刀,G.R.G。;北卡罗来纳州克里斯蒂亚尼尼。;Bartlett,P。;Ghaoui,L.E。;Jordan,M.I.,《用半定规划学习核矩阵》,J.Mach。学习。研究,5,27-72(2004)·Zbl 1222.68241号
[10] Neumann,J。;施诺尔,C。;Steidl,G.,基于SVM的特征选择和分类组合,马赫。学习。,61, 1-3, 129-150 (2005) ·Zbl 1137.90643号
[11] 吴,M。;Farquhar,J.,用于非线性特征提取的子空间核,(Veloso,M.M.,国际人工智能会议(2007)),1125-1130
[12] 郭敬通(Kwok,J.T.)。;Tsang,I.W.,用理想内核学习(2003年国际机器学习会议),400-407
[13] 克拉默,K。;Keshet,J。;Singer,Y.,使用增强的内核设计,(神经信息处理系统进展(2002)),537-544
[14] 坎多拉,J。;北卡罗来纳州克里斯蒂亚尼尼。;Shawe-Taylor,J.,学习语义相似性,(神经信息处理系统进展,第15卷(2003))
[15] 坎多拉,J。;Shawe-Taylor,J.,《为回归和不均匀分类问题细化核》(Bishop,C.;Frey,B.,《第九届人工智能与统计国际研讨会论文集》(2003))
[16] 博伊德,S。;Vandenberghe,L.,《凸优化》(2004),剑桥大学出版社:剑桥大学出版社,美国纽约州纽约市·Zbl 1058.90049号
[17] Meila,M.,《特征空间中的数据中心化》(Bishop,C.M.;Frey,B.J.,第九届人工智能和统计国际研讨会(2003年))
[18] 格雷斯泰恩,I.S。;Ryzhik,I.M.,《积分、系列和产品表》(2000),学术出版社:加州圣地亚哥学术出版社·兹伯利0981.65001
[19] Gartner,T.公司。;劳埃德,J.W。;Flach,P.A.,《结构化数据的内核和距离》,马赫。学习。J.,57,3,205-232(2004)·Zbl 1079.68086号
[20] Jebara,T。;康多,R。;Howard,A.,概率积核,J.Mach。学习。研究,5819-844(2004)·Zbl 1222.68226号
[21] Feller,W.,《概率论及其应用导论》,第2卷(1971年),Wiley:Wiley纽约·Zbl 0219.60003号
[22] 贾普科维奇,N。;斯蒂芬,S.,《阶级不平衡问题:系统研究》,《知识分子》。数据分析。,6, 5, 429-449 (2002) ·Zbl 1085.68628号
[23] 柳叶刀,G.R.G。;Ghaoui,L.E。;巴塔查里亚,C。;Jordan,M.I.,《稳健的最小极大分类法》,J.Mach。学习。研究,3,555-582(2002)·Zbl 1084.68657号
[24] 王丽萍,陈家乐,利用类可分性测度学习核参数,载《神经信息处理系统的进展》,第六届核机器研讨会,加拿大,2002年。;L.Wang,K.L.Chan,使用类可分性度量学习核参数,载于:神经信息处理系统的进展,核机器第六次研讨会,加拿大,2002年。
[25] Fukunaga,K.,《统计模式识别导论》(1990),学术出版社:纽约学术出版社·Zbl 0711.62052号
[26] A.Globerson。;Roweis,S.,通过折叠类进行度量学习,(Weiss,Y.;Schölkopf,B.;Platt,J.,《神经信息处理系统的进展》,第18卷(2006年),麻省理工学院出版社:麻省理学院出版社剑桥,马萨诸塞州),451-458
[27] 米卡,S。;Rätsch,G。;韦斯顿,J。;Schölkopf,B。;Müller,K.-R.,Fisher核判别分析,(Hu,Y.-H.;Larsen,J.;Wilson,E.;Douglas,S.,《信号处理神经网络IX》(1999),IEEE),41-48
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。