×

基于Spark的并行卷积RBM优化。 (英语) Zbl 1411.68109号

摘要:随着学者们对深度学习的广泛关注和研究,基于受限Boltzmann机器(RBM)的卷积限制Boltzman机器(CRBM)模型被广泛应用于图像识别、语音识别等领域。然而,耗时的训练似乎仍是一个不可忽视的问题。为了解决这一问题,本文主要使用基于Spark的优化并行CRBM,提出了一种基于Spark的并行比较发散算法,并将其用于训练CRBM模型以提高训练速度。实验表明,该方法比传统的序列算法速度更快。我们用该方法训练CRBM,并将其应用于乳腺X射线图像分类。实验表明,与传统算法相比,该算法可以提高训练的精度和速度。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
68单位10 图像处理的计算方法
68宽10 计算机科学中的并行算法

软件:

MapReduce
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] LeCun,Y.、Bengio,Y.和Hinton,G.,《深度学习》,《自然》521(7553)(2015)436。
[2] Palangi,H.、Ward,R.和Deng,L.,《分布式压缩传感的卷积深层叠加网络》,《信号处理》第131期(2017年)第181-189页。
[3] Zhang,T.等人,《可变光照下人脸识别的多尺度人脸结构表征》,《模式识别》42(2)(2009)251-258·兹比尔1162.68644
[4] C.Wang等人,DLAU:FPGA上的可扩展深度学习加速器单元,预印本(2016),arXiv:1605.06894。
[5] Wicht,B.、Fischer,A.和Hennebert,J.,《受限Boltzmann机器和卷积RBM的CPU性能优化》,载于IAPR模式识别中的人工神经网络研讨会(Springer,Cham,2016),第163-174页。
[6] Yang,J.和He,S.,基于Spark的并行DBN优化,《智能与进化系统》(Springer,Cham,2016),第157-169页。
[7] Dean,J.、Corrado,G.和Monga,R.,《大规模分布式深层网络,高级神经信息处理》。系统。(2012) 1223-1231.
[8] Seide,F.等人,《1位随机梯度下降及其在语音DNN数据并行分布式训练中的应用》,载于第十五届国际语音通信协会年会(2014年),第1058-1062页。
[9] De Grazia,M.D.F.、Stoianov,I.和Zorzi,M.,《深度网络的并行化》,摘自Proc。2012年欧洲交响乐团。人工神经网络,计算智能和机器学习(2012),第621-626页。
[10] 唐义勇,陶义明,林永明,基于分形行为的特征提取新方法,模式识别。35(5)(2002)1071-1081·Zbl 0997.68117号
[11] Chen,S.,Wu,C.和Yu,Y.,《Hadoop和Spark植物育种分析》,Adv.Agric.2016(2016),文章编号:7081491(6页)。
[12] Zhang,T.等人,《广义判别分析:矩阵指数法》,IEEE Trans。系统。人类网络。B Cybern40(1)(2010)186-197年。
[13] Dean,J.和Ghemawat,S.,MapReduce:大型集群上的简化数据处理,Commun。ACM51(1)(2008)107-113。
[14] Bakirov,A.、乔·阿尔米什,K.N.和Bulut,A.,可扩展情绪分析,土耳其J.Electr。工程计算。科学24(3)(2016)1560-1570。
[15] Lee,H.等人,卷积深信度网络分层表示的无监督学习,Commun。ACM54(10)(2011)95-103。
[16] Lee,H.等人,《用于分级表示的可扩展无监督学习的卷积深信念网络》,收录于Proc。第26届国际会议机器学习ACM(2009),第609-616页。
[17] Ren,J.S.和Xu,L.,《关于视觉任务中深度卷积神经网络的矢量化》,载于AAAI(2015),第1840-1846页。
[18] Cherian,A.、Koniusz,P.和Gould,S.,通过动作识别的内核线性化实现CNN特征的高阶池,2017 IEEE Winter Conf.计算机视觉应用(WACV)(2017),第130-138页。
[19] Ueyoshi,K.et al.,用于受限Boltzmann机器的可扩展和高度并行架构的FPGA实现,电路系统7(2016)2132-2141。
[20] Zaharia,M.等人,《火花:使用工作集的集群计算》,HotCloud10(10-10)(2010)95。
[21] Chen,N.等人,基于区分受限Boltzmann机器的医学图像分类方法,中国。J.计算。《科学》第42(5)(2015)315-319页。
[22] Inan,O.,Uzer,M.S.和Yilmaz,N.,一种新的基于关联规则和PCA的混合特征选择方法,用于乳腺癌检测,Int.J.Innov。计算。信息控制9(2)(2013)727-729。
[23] Lang,F.N.等人,基于自适应图像归一化和四元数PCA的彩色图像水印算法,专家系统。申请39(15)(2012)12046-12060。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。