×

一种新的基于包装器的特征子集选择方法,使用改进的二进制差分进化算法。 (英语) Zbl 1527.68194号

摘要:在分类问题中,通常存在大量的特征,但并不是所有这些特征都有助于提高分类性能。这些冗余特征使分类问题耗时,并且常常导致性能低下。提出了特征选择方法以减少特征数量、最小化计算成本和最大化分类精度。进化算法作为一种基于包装器的方法,在特征子集选择任务中得到了广泛的应用。然而,其中一些算法陷入了局部极小,特别是当特征数量增加时,而其他算法在计算时间上效率不高。本文提出了一种改进的差分进化(DE)特征选择方法(MDEFS),该方法利用两种新的变异策略在探索和利用之间建立一种可行的平衡,并在特征数量和准确度方面将分类性能保持在可接受的范围内。对标准DE交叉及其关键控制参数进行了一些修改,以进一步增强该算法的性能。将该方法与使用UCI存储库中标准数据集的几种最新方法进行了比较,实验结果证明了该方法的优越性。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
68T20型 人工智能背景下的问题解决(启发式、搜索策略等)
68瓦50 进化算法、遗传算法(计算方面)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿塔西,Q。;卡迪尔,S.J.A。;莱斯·H·M。;米尔贾利利,S。;Alhussian,H.,使用混合灰狼优化进行特征选择的二进制优化,IEEE Access,739496-39508(2019)
[2] Altman,N.S.,核和最近邻非参数回归导论,《美国统计》,46,3175-185(1992)
[3] Bennasar,M。;希克斯,Y。;Setchi,R.,《使用联合互信息最大化的特征选择》,专家系统。申请。,42, 22, 8520-8532 (2015)
[4] R.C.布莱尔。;希金斯,J.J。;Smitley,W.D.,关于u和t检验的相对幂,Br.J.Math。统计心理学。,33, 1, 114-120 (1980) ·Zbl 0449.62022号
[5] C.Blake,Uci机器学习数据库库,1998年。http://www.ics.uci.edu/mlearn/MLRepository.html。
[6] Chanson,H.,《明渠水流水力学》(2004),Elsevier
[7] Chanson,H。;Brattberg,T.,《水跃中气-水剪切流的实验研究》,国际期刊Multiph。流量,26,4,583-607(2000)·Zbl 1137.76546号
[8] Chuang,L.-Y。;蔡,S.-W。;Yang,C.-H.,使用鲶鱼效应进行特征选择的改进二进制粒子群优化,专家系统。申请。,38, 10, 12699-12707 (2011)
[9] 崔,L。;Li,G.等人。;林,Q。;陈,J。;Lu,N.,在多个子种群中采用新变异策略的自适应差分进化算法,计算。操作。决议,67,155-173(2016)·Zbl 1349.90852号
[10] 达斯,S。;Suganthan,P.N.,《差异进化:最先进技术的调查》,IEEE Trans。进化。计算。,15, 1, 4-31 (2010)
[11] Emary,E。;Zawbaa,H.M。;Hassanien,A.E.,用于特征选择的二元灰狼优化方法,神经计算,172,371-381(2016)
[12] J.Friedman,T.Hastie,R.Tibshirani,《统计学习的要素》。第1卷。斯普林格统计系列,纽约,2001年·Zbl 0973.62007号
[13] 关,B。;Zhao,Y。;Yin,Y。;Li,Y.,一种基于差分进化的高维数据特征组合选择算法,Inf.Sci。,547, 870-886 (2021) ·兹比尔1475.62187
[14] 盖恩,I。;Elisseeff,A.,《变量和特征选择简介》,J.Mach。学习。决议,1157-1182年3月3日(2003年)·Zbl 1102.68556号
[15] 哈姆达尼,T.M。;J.-M Won。;阿利米,A.M。;Karray,F.,使用nsga ii进行多目标特征选择,(自适应和自然计算算法国际会议(2007),Springer),240-247
[16] 卡比尔,M.M。;沙贾汗,M。;Murase,K.,一种新的基于局部搜索的混合遗传算法用于特征选择,神经计算,74,17,2914-2928(2011)
[17] Kanan,H.R。;Faez,K.,一种改进的基于蚁群优化(aco)的特征选择方法,在人脸识别系统上进行了评估,应用。数学。计算。,205,2716-725(2008年)·Zbl 1152.68684号
[18] Khushaba,R.N。;Al-Ani,A。;Al-Jumaily,A.,《使用差异进化和统计修复机制的特征子集选择》,专家系统。申请。,38, 9, 11515-11526 (2011)
[19] Kim,Y。;Choi,G。;帕克,H。;Byeon,S.,水闸水跃和消能,Water,7,9,5115-5133(2015)
[20] 李·T。;Dong,H。;Sun,J.,基于个体熵的二进制差分进化用于特征子集优化,IEEE Access,724109-24121(2019)
[21] 李·T。;Dong,H。;尹,G。;Sha,Y.,特征选择问题的有效差分进化与二进制策略,(2019年IEEE系统、人与控制论国际会议(SMC)(2019),IEEE),158-163
[22] 刘,H。;Yu,L.,《面向分类和聚类的集成特征选择算法》,IEEE Trans。知识。数据工程,17,4,491-502(2005)
[23] 刘,Y。;王,G。;陈,H。;Dong,H。;朱,X。;Wang,S.,用于特征选择的改进粒子群优化,J.Bionic Eng.,8,2,191-200(2011)
[24] Mafarja,M。;一、阿尔贾拉。;Faris,H。;哈穆里,A.I。;阿拉姆,A.-Z。;Mirjalili,S.,特征选择问题的二进制蝗虫优化算法方法,专家系统。申请。,117, 267-286 (2019)
[25] Mafarja,M。;一、阿尔贾拉。;Heidari,A.A。;法里斯,H。;Fournier-Viger,P。;李,X。;Mirjalili,S.,使用时变传递函数进行特征选择的二进制蜻蜓优化,Knowl-基于系统。,161, 185-204 (2018)
[26] Mafarja,M.M。;Mirjalili,S.,用于特征选择的模拟退火混合鲸鱼优化算法,神经计算,260,302-312(2017)
[27] Mallipeddi,R。;Suganthan,P.N。;潘,Q.-K。;Tasgetiren,M.F.,参数和变异策略集成的差分进化算法,应用。软计算。,11, 2, 1679-1696 (2011)
[28] Mantegna,R.N.,莱维稳定随机过程数值模拟的快速准确算法,物理。E版,49、5、4677(1994)
[29] Mohamed,A.W。;Mohamed,A.K.,用于数值优化的自适应引导差分进化算法,Int.J.Mach。学习。赛博。,10, 2, 253-277 (2019)
[30] 哦,我-S。;Lee,J.-S。;Moon,B.-R.,用于特征选择的混合遗传算法,IEEE Trans。模式分析。机器。智力。,26, 11, 1424-1437 (2004)
[31] Omran,M.G。;Salman,A。;Engelbrecht,A.P.,《自适应差分进化》,(计算与信息科学国际会议(2005),施普林格),192-199年
[32] Shunmugapriya,P。;Kanmani,S.,使用蚁群和蜂群优化进行特征选择和分类的混合算法(ac-abc hybrid),Swarm Evol。计算。,36, 27-36 (2017)
[33] 英国锡克达。;埃克贝尔,A。;萨哈,S。;俄亥俄州乌尔尤皮纳。;Poesio,M.,用于回指解析的基于差异进化的特征选择技术,Soft。计算。,19, 8, 2149-2161 (2015)
[34] 斯托恩,R。;Price,K.,《差分进化——连续空间上全局优化的一种简单有效的启发式算法》,J.global Optimiz。,11, 4, 341-359 (1997) ·Zbl 0888.90135号
[35] Tarkhaneh,O。;Moser,I.,一种改进的差分进化算法,使用阿基米德螺旋和基于邻域搜索的变异方法进行聚类分析,Future Gen.Compute。系统。,101, 921-939 (2019)
[36] Tarkhaneh,O。;Shen,H.,一种用于优化多层阈值的自适应差分进化算法,用于核磁共振脑图像分割,专家系统。申请。,第138条,第112820页(2019年)
[37] Tzortzis,G.等人。;Likas,A.,最小k均值聚类算法,模式识别。,47, 7, 2505-2516 (2014)
[38] Urbanowicz,R.J。;米克尔,M。;西拉卡瓦。;奥尔森,R.S。;Moore,J.H.,《基于浮雕的特征选择:简介和评论》,J.Biomed。Inf.,85,189-203(2018)
[39] 薛,B。;张,M。;Browne,W.N.,《分类中特征选择的粒子群优化:多目标方法》,IEEE Trans。赛博。,43, 6, 1656-1671 (2012)
[40] Zarshenas,A。;Suzuki,K.,二进制坐标上升:机器学习特征子集选择的有效优化技术,Knowl-基于系统。,110, 191-201 (2016)
[41] Zhang,Y。;龚,D。;胡,Y。;Zhang,W.,基于骨架粒子群优化的特征选择算法,神经计算,148150-157(2015)
[42] Zhang,Y。;龚(D.-W.)。;Cheng,J.,用于分类中基于成本的特征选择的多目标粒子群优化方法,IEEE/ACM Trans。计算。生物信息学。,14, 1, 64-75 (2015)
[43] Zhang,Y。;龚(D.-W.)。;高X.-Z。;田,T。;Sun,X.-Y.,多目标特征选择的自学习二进制差分进化,Inf.Sci。,507, 67-85 (2020) ·Zbl 1456.68235号
[44] Zhang,Y。;李,H.-G。;王,Q。;Peng,C.,用于无监督特征选择的基于滤波器的裸粒子群优化算法,应用。智力。,49, 8, 2889-2898 (2019)
[45] Zhang,Y。;宋,X.-F。;Gong,D.-W.,用于特征选择的基于返回树的二进制firefly算法,Inf.Sci。,418, 561-574 (2017)
[46] Zhang,Y。;王,Q。;龚(D.-W.)。;Song,X.-F.,用于无监督特征选择的非负拉普拉斯嵌入引导子空间学习,模式识别。,93, 337-352 (2019)
[47] 周,Y。;张伟。;Kang,J。;张,X。;Wang,X.,用于监督特征选择的特定问题非支配排序遗传算法,信息科学。,547, 841-859 (2021) ·Zbl 1475.62202号
[48] Zorarpaci̇,E。;Özel,S.A.,用于特征选择的差异进化和人工蜂群的混合方法,专家系统。申请。,62, 91-103 (2016)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。