×

直接核感知器(DKP):基于ELM的超快速核分类,具有非迭代闭合形式的权重计算。 (英文) Zbl 1298.68219号

摘要:直接核感知器(DKP)是一种非常简单、快速的基于核的分类器,与支持向量机(SVM)和极端学习机(ELM)相关,后者的系数直接计算,无需任何迭代训练,使用只涉及训练模式的分析性封闭表达式。DKP受到直接并行感知器的启发,使用高斯核和线性分类器(感知器)。该分类器在特征空间中的权重向量最小化了结合训练误差和超平面边缘的误差测度,而不需要任何可调的正则化参数。该权重向量可以通过变量变化转换为(α)系数,并且这两个系数都是在无需迭代计算的情况下确定的。我们使用几个误差函数来计算解,用线性函数在精度和效率之间取得最佳平衡。这些α系数的解可以被视为ELM的替代方案,在误差和裕度方面具有新的物理意义:事实上,当正则化参数(C)取值(C=0)和(C=infty)时,线性和二次DKP是两类ELM的特例。线性DKP比12个非常流行和准确的分类器(包括SVM、多层感知器、Adaboost、随机森林和RPART决策树打包、线性判别分析、K-Nearest Neighbors、ELM、,概率神经网络、径向基函数神经网络和广义ART。此外,尽管DKP简单且效率极高,但它的准确率高于12个分类器中的7个,与速度较慢的最佳分类器(SVM、ELM、Adaboost和Random Forest)相比,差异很小。因此,DKP提供了一种简单快速的方法来实现分类精度,对于给定的问题来说,这种方法距离最佳分类精度不远。DKP的C和Matlab代码是免费的。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[2] Auer,P.等人。;Burgsteiner,H。;Maass,W.,由单层感知器组成的非常简单的通用逼近器的学习规则,神经网络,1,21,786-795(2008)·Zbl 1254.68196号
[3] Breiman,L.,打包预测,机器学习,24,2,123-140(1996)·Zbl 0858.68080号
[4] Breiman,L.,《随机森林,机器学习》,45,1,5-32(2001)·Zbl 1007.68152号
[5] 卡里翁,P。;Cernadas,E。;Gálvez,J.F。;Sá-Otero,P.,《使用多尺度纹理过滤方案对蜜蜂花粉进行分类》,《机器视觉与应用》,第15期,186-193页(2004年)
[7] 科尔特斯,C。;Vapnik,V.,支持向量网络,机器学习,20,3273-297(1995)·Zbl 0831.68098号
[8] Dacal-Nieto,A。;Formella,A。;卡里翁,P。;Vázquez-Fernández,E。;Fernández-Delgado,M.,《利用红外高光谱成像检测土豆上的常见痂病》,(Proc.int.conf.on image analysis and processing,Proc.int.conf.on image-analysis and process,LNCS,Vol.6979(2011),Springer),第303-312页
[9] 德洛古,R。;Fanni,A。;Montisci,A.,MLP神经网络的几何合成,神经计算,71,919-930(2008)
[11] 费尔南德斯·德尔加多,M。;里贝罗,J。;Cernadas,E。;Barro,S.,直接并行感知器(DPP):分类任务中带边缘控制的并行感知者权重的快速分析计算,IEEE神经网络汇刊,221837-1848(2011)
[13] González-Rufino,E。;卡里翁,P。;Cernadas,E。;费尔南德斯·德尔加多,M。;Domínguez-Petit,R.,《鱼类卵巢组织学图像中颜色纹理特征和分类方法的详尽比较》,模式识别,462391-2407(2013)
[14] Haykin,S.,《神经网络:综合基金会》(1994年),麦克米伦学院·Zbl 0828.68103号
[15] 徐,C.-W。;Lin,C.-J.,多类支持向量机方法的比较,IEEE神经网络汇刊,13,24115-425(2002)
[17] 黄,G.-B。;Chen,L.,基于增强随机搜索的增量极限学习机,神经计算,71,3460-3468(2008)
[18] 黄,G.-B。;丁,X。;Zhou,H.,基于优化方法的分类极端学习机,神经计算,74,155-163(2010)
[19] 黄,G.-B。;王,D。;Lan,Y.,《极限学习机器:一项调查》,《国际机器学习与控制论杂志》,第2107-122页(2011年)
[20] 黄,G.-B。;周,H。;丁,X。;Zhang,R.,回归和多类分类的极端学习机,IEEE系统汇刊,人与控制论,B部分(控制论),42,513-529(2012)
[21] 伊格莱西亚斯,R。;费尔南德斯·德尔加多,M。;巴西拉,J。;佩尼亚,R。;南卡罗来纳州加西亚·马汀。;Herrero,C.,根据其认证的原产地品牌对加利西亚(西班牙西北部)的奥鲁霍馏出物酒精样品进行分类的几种化学计术的比较,分析和生物分析化学,397,62603-2614(2010)
[24] 马丁内茨,T。;拉布什,K。;Schneegaß,D.,SoftDoubleMaxMinOver:支持向量机的类感知器训练,IEEE神经网络学报,20,7,1061-1072(2009)
[25] Miche,Y。;van Heeswijk,M。;Bas,P。;Simula,O。;Lendasse,A.,TROP-ELM:使用LARS和Tikhonov正则化的双正则ELM,神经计算,74,16,2413-2421(2011)
[27] Panagiotakopoulos,C。;Tsampouka,P.,The margitron:a generalized perceptron with margin,IEEE Transactions on Neural Networks,22,3,395-407(2011年)
[28] 彭,X。;Wang,Y.,基于仿射壳的大边缘分类器几何算法,IEEE神经网络汇刊,23,2,236-246(2012)
[29] 罗德里格斯·达米安,M。;Cernadas,E。;Formella,A。;费尔南德斯·德尔加多,M。;Sá-Otero,P.,基于形状和纹理的花粉粒自动检测和分类,IEEE系统汇刊,人类与控制论,C部分,36,531-542(2006)
[30] Sheskin,D.,《参数和非参数统计程序手册》(2006),CRC出版社
[31] Specht,D.,概率神经网络,神经网络,3,1,109-118(1990)
[32] Talukder,A。;Casasent,D.,用于从高维数据中提取歧视性特征的封闭式神经网络,神经网络,14,1201-1218(2001)
[34] Toh,K.-A.,用于模式分类的错误计数网络,神经计算,711680-1693(2008)
[35] 韦纳布尔斯。;Ripley,B.,《现代应用统计学与S》(2002),施普林格出版社·Zbl 1006.62003号
[36] 王,X。;邵,Q。;清,M。;翟,J.,使用局部泛化误差模型对使用极端学习机训练的网络进行架构选择,神经计算,102,3-9(2013)
[37] Yap,K.S。;Lim,C.P。;Abidin,I.Z.,具有(varepsilon)不敏感损失函数的混合ART-GRNN在线学习神经网络,IEEE神经网络汇刊,19,9,1641-1646(2008)
[38] 于健,L。;Bo,L。;Y.Xinwu。;姚宗,F。;Houjun,L.,Multiconlitron:一般分段线性分类器,IEEE神经网络汇刊,22,2,276-289(2011)
[39] 翟,J。;Xu,H。;Wang,X.,基于样本熵的动态集成极端学习机,软计算,16,9,1493-1502(2012)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。