×

基于协同进化的遥感场景分类参数学习。 (英语) Zbl 07526027号

摘要:超参数的适当设置是决定深度学习模型性能的关键因素。高效的超参数优化算法不仅可以提高模型超参数优化的效率和速度,而且可以降低深度学习模型的应用门槛。因此,我们提出了一种基于参数学习算法的协同进化遥感场景分类方法。首先,提出了一种协同进化框架来同时优化卷积神经网络(CNN)的优化器超参数和权重参数。其次,通过两种群协同进化策略,超参数可以在种群内学习,CNN的权重可以利用种群间的信息进行更新。最后,采用并行计算机制来加快学习过程,因为这两个种群可以同时进化。在三个公共数据集上的大量实验证明了该方法的有效性。

MSC公司:

68时01分 人工智能的一般主题
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Bei,Z.,Zhong,Y.,Xia,G.S.和Zhang,L.,Dirichlet导出的高空间分辨率遥感图像多主题场景分类模型,IEEE Trans。地质科学。远程传感器54(4)(2016)2108-2123。
[2] Ben-Nun,T.和Hoefler,T.,《解密并行和分布式深度学习:深度并发分析》,ACM Compute。《综述》52(4)(2019)1-43。
[3] Chen,G.,Zhang,Y.,Cai,Z.和Li,X.,基于深度信念网络的遥感图像建筑物识别与分析,Cogn。系统。第68(2021)号决议53-61。
[4] Cheng,G.,Xie,X.,Han,J.,Guo,L.和Xia,G.S.,《遥感图像场景分类遇到深度学习:挑战、方法、基准和机遇》,IEEE J.Sel。顶部。申请。地球观测卫星遥感器13(2020)3735-3756。
[5] Cheng,G.,Yang,C.,Yao,X.,Guo,L.和Han,J.,当深度学习遇到度量学习时:通过学习区分CNN进行遥感图像场景分类,IEEE Trans。地质科学。遥感器56(5)(2018)2811-2821。
[6] Dufourq,E.和Bassett,B.,EDEN:高效机器学习的进化深层网络,收录于Proc。第28届年度交响乐团。南非模式识别协会和第十届机器人与机电一体化国际会议(PRASA-RobMech),南非布隆方丹,2017年,第110-115页。
[7] 龚,C.,韩,J.和卢,X.,《遥感图像场景分类:基准和最新技术》,Proc。IEEE105(10)(2017)1865-1883。
[8] He,N.,Fang,L.,Li,S.,Plaza,J.和Plaza。神经网络。学习。系统31(5)(2019)1461-1474。
[9] Hutter,F.、Hoos,H.H.和Leyton-Brown,K.,通用算法配置的基于序列模型的优化,见Proc。第五届国际Conf.学习与智能优化(ICLIO),柏林,海德堡,2011年,第507-523页。
[10] M.Jaderberg、V.Dalibard、S.Osindero、W.M.Czarnecki、A.Razavi、O.Vinyals、T.Green、I.Dunning、C.Fernando和K.Kavukcuoglu,神经网络的基于人口的训练,预印本(2017),arXiv:1711.09846[cs]。
[11] 姜瑜,卓杰,张杰,肖欣,基于spark的并行卷积RBM优化,国际小波多分辨率。信息处理17(02)(2019)1940011·Zbl 1411.68109号
[12] Kingma,D.P.和Ba,J.L.,Adam:随机优化方法,见Proc。第三届国际学术代表大会(ICLR),2014年,arXiv:1412.6980。
[13] Li,Y.,Zhang,Y.和Zhu,Z.,遥感图像场景分类的容错深度学习,IEEE Trans。Cybernet.51(4)(2020)1756-1768。
[14] Liang,J.,Deng,Y.和Zeng,D.,将CNN和GCN相结合的深度神经网络用于遥感场景分类,IEEE J.Sel。顶部。申请。地球观测卫星遥感器13(2020)4325-4338。
[15] Linda,G.M.、Themozhi,G.和Bandi,S.R.,使用深度卷积神经网络进行横视步态识别的彩色轮廓步态图像,国际小波多分辨率。信息处理18(01)(2020)1941012·兹比尔1434.68541
[16] Liu,X.、Zhou,Y.、Zhao,J.、Yao,R.、Liu,B.、Ma,D.和Zheng,Y.,利用EMOAs进行遥感场景分类的多目标ResNet修剪,Neurocomputing381(2020)298-305。
[17] Lv,Y.,Zhang,X.,Xiong,W.,Cui,Y.和Cai,M.,用于遥感图像场景分类的端到端局部-全局融合特征提取网络,遥感11(24)(2019)3006。
[18] Ma,C.,Mu,X.,Lin,R.和Wang,S.,基于卷积神经网络的多层特征融合用于遥感场景分类,IEEE Geosci。遥感快报18(2)(2020)241-245。
[19] Navneet,D.和Bill,T.,土地利用分类的视觉词汇和空间扩展,见Proc。第18届ACM SIGSPATIAL国际地理信息系统进展会议,美国加利福尼亚州圣何塞,2010年,第270-279页。
[20] Oliva,A.和Torralba,A.,《场景形状建模:空间包络的整体表示》,《国际计算杂志》。见42(3)(2001)145-175·Zbl 0990.68601号
[21] Qi,K.,Yang,C.,Hu,C.,Shen,Y.,沈,S.和Wu,H.,利用卷积神经网络进行遥感图像场景分类的旋转不变性正则化,遥感。13(4)(2021)569。
[22] Quach,L.-D.,Pham-Quoc,N.,Tran,D.C.和Hassan,M.F.,《使用VGGNet和ResNet模型识别鸡疾病》,载于《国际协调工业网络和智能系统》(Springer,2020),第259-269页。
[23] Ran,H.,Wen,S.,Shi,K.和Huang,T.,记忆GoogLeNet神经网络的稳定和紧凑设计,神经计算441(2021)52-63。
[24] Rasley,J.、Rajbhandari,S.、Ruwase,O.和He,Y.,《DeepSpeed:系统优化能够训练超过1000亿个参数的深度学习模型》,见Proc。第26届ACM SIGKDD Int.Conf.Knowledge Discovery&Data Mining,Virtual Event,CA,USA,2020年,第3505-3506页。
[25] Snoek,J.、Rippel,O.、Swersky,K.、Kiros,R.、Satish,N.、Sundaram,N.,Patwary,M.M.A.、Prabhat和Adams,R.P.,《使用深度神经网络的可伸缩贝叶斯优化》,Proc。第32届国际计算机学习会议(ICML),法国里尔,2015年,第2171-2180页。
[26] Suganuma,M.、Shirakawa,S.和Nagao,T.,设计卷积神经网络架构的遗传编程方法,见Proc。第27届国际人工智能联合会(IJCAI),2018年,第5369-5373页。
[27] Tang,X.,Ma,Q.,Zhang,X.、Liu,F.、Ma,J.和Jiao,L.,遥感场景分类的注意力一致性网络,IEEE J.Sel。顶部。申请。地球观测卫星遥感器14(2021)2030-2045。
[28] Tong,W.、Chen,W.和Han,W.,Li,X.以及Wang,L.,用于遥感图像场景分类的基于通道关注度的DenseNet网络,IEEE J.Sel。顶部。申请。地球观测卫星遥感器13(2020)4121-4132。
[29] Tong,S.,Qi,K.,Guan,Q.,Zhu,Q.,Yang,C.和Zheng,J.,使用空间变换器融合网络的遥感场景分类,2020 IEEE国际地球科学与遥感研讨会。(IGARSS 2020)(IEEE,2020),第549-552页。
[30] Vimina,E.R.和Jacob,K.P.,使用BoVW框架增强图像检索的特征融合方法,IET图像处理。13(11)(2019)1979-1985。
[31] Wang,J.、Liu,W.、Ma,L.、Chen,H.和Chen,L.,IORN:一个有效的遥感图像场景分类框架,IEEE Geosci。遥感快报15(11)(2018)1695-1699。
[32] Wu,J.和Frazier,P.I.,批量贝叶斯优化的并行知识梯度方法。第30届神经信息处理系统年度会议,2016年,第1077-1084页。
[33] Xu,K.,Huang,H.,Deng,P.和Shi,G.,用于遥感图像场景分类的双流特征聚合深度神经网络,信息科学539(2020)250-268·Zbl 1474.68401号
[34] Yan,B.,Chen,Q.,Ye,R.和Zhou,X.,基于卷积神经网络的绝缘子爆炸检测和识别,国际小波多分辨率。信息处理17(02)(2019)1940008·Zbl 1408.94746号
[35] Yoshikawa,N.、Terayama,K.、Honma,T.、Oono,K.和Tsuda,K.,使用语法进化的基于种群的从头开始分子生成,化学。Lett.47(11)(2018)4131-4134。
[36] Young,S.R.、Rose,D.C.、Karnowski,T.P.、Lim,S.H.和Patton,R.M.,《通过进化算法优化深度学习超参数》,收录于Proc。高性能计算环境中的机器学习第一次研讨会(MLHPC),美国得克萨斯州奥斯汀,2015年,第1-5页。
[37] Yuan,Y.、Fang,J.、Lu,X.和Feng,Y.,利用重新排列的局部特征进行遥感图像场景分类,IEEE Trans。地质科学。遥感57(3)(2018)1779-1792。
[38] Zhang,S.,Cheng,Q.,Chen,D.和Zhang。H.,多通道结构卷积神经网络训练自动编码器的图像目标识别模型,IEEE Access8(2020)113090-113103。
[39] 张浩,金彦,郑汝,郝克浩,快速进化神经结构搜索的样本训练和节点继承,预印本(2020),arXiv:2003.11613[cs]。
[40] Zhu,H.,Ma,M.,Ma.,W.,Jiao,L.,Hong,S.,Shen,J.和Hou,B.,用于遥感分类的空间通道渐进融合ResNet,Inf.Fusion70(2021)72-87。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。