×

无匹配跟踪的Fuzzy ARTMAP流水线:正确性、性能界限和Beowulf评估。 (英语) Zbl 1158.68442号

摘要:模糊ARTMAP神经网络已被证明是解决各种分类问题的良好分类器。然而,随着用于训练的模式数量的增加,模糊ARTMAP收敛到解决方案所需的时间迅速增加。在本文中,我们检查了模糊ARTMAP收敛到解所需的时间,并提出了一种基于流水线方法的粗粒度并行化技术,以加快训练过程。特别是,我们在没有匹配跟踪机制的情况下并行化了Fuzzy ARTMAP。我们提供了一系列定理和相关证明,显示了Fuzzy ARTMAP的特点,无需匹配跟踪,并行实现。在带有三个大型数据库的BEOWULF集群上运行的结果表明,随着管道中使用的处理器数量的增加,速度呈线性增长。用于我们实验的数据库是UCI机器学习库中的Forrest CoverType数据库和两个人工数据库,其中生成的数据是属于两个不同类别的16维高斯分布数据,具有不同的重叠量(5%和15%)。

MSC公司:

68T05型 人工智能中的学习和自适应系统
68吨10 模式识别、语音识别
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿格拉瓦尔,R。;Srikant,R.,《在大型数据库中挖掘关联规则的快速算法》(Bocca,J.B.;Jarke,M.;Zaniolo,C.,《第二十届超大数据库国际会议论文集》(1994),Morgan Kaufmann:Morgan Koufmann Santiago,智利),487-499
[2] Anagostopoulos,G.(2000年)。机器学习自适应共振理论的新方法。未发表的博士学位论文。计算机工程,UCF;Anagostopoulos,G.(2000年)。机器学习自适应共振理论的新方法。未发表的博士学位论文。UCF计算机工程
[3] 阿纳格诺斯托普洛斯,G.C。;Georgiopoulos,M.,(用于增量无监督和有监督学习的椭球ART和ARTMAP。用于增量无指导和有监督的学习的椭球ART与ARTMAP,IEEE-INNS-ENNS会议录,第2卷(2001年),IEEE-INNS-ENNS:IEEE-INNS ENNS华盛顿特区),1221-1226
[4] Anagostopoulos,G.C.和Georgiopoulos,M.(2003)。测试了匹配跟踪在模糊ARTMAP训练中的实用性。第七届基于知识的智能信息和工程系统国际会议; Anagostopoulos,G.C.和Georgiopoulos,M.(2003)。测试了匹配跟踪在模糊ARTMAP训练中的实用性。第七届基于知识的智能信息和工程系统国际会议
[5] Asanović,K。;贝克,J。;金斯伯里,B。;摩根,N。;约翰逊,D。;Wawrzynek,J.,《用SPERT-II训练神经网络》,(编辑,P.S.;Sundararajan,N.,《人工神经网络的并行架构:范例和实现》(1998),IEEE计算机社会出版社和John Wiley and Sons)
[6] Blackard,J.A.(1999)。神经网络和判别分析在森林覆盖类型预测中的比较。未发表的博士学位论文。科罗拉多州立大学森林科学系;Blackard,J.A.(1999)。神经网络和判别分析在森林覆盖类型预测中的比较。未发表的博士学位论文。科罗拉多州立大学森林科学系
[7] Carpenter,G.A。;Grossberg,S。;马库森,N。;雷诺兹,J.H。;Rosen,D.B.,Fuzzy ARTMAP:模拟多维映射增量学习的神经网络架构,IEEE神经网络汇刊,3,5,698-713(1992)
[8] Carpenter,G.A。;Grossberg,S。;Reynolds,J.H.,(Fuzzy ART:一种用于快速、稳定分类模拟模式的自适应共振算法。Fuzzy ART:一种自适应共振算法,用于快速、平稳分类模拟模式,国际神经网络联合会议,IJCNN’91,第二卷(1991),IEEE-INNS-ENNS:IEEE-INNS西雅图,华盛顿),411-416
[9] Carpenter,G.A。;Markuzon,N.,ARTMAP-IC和医学诊断:实例计数和不一致案例,神经网络,11793-813(1998)
[10] Carpenter,G.A。;Ross,W.D.,ART-EMAP:通过证据积累进行物体识别的神经网络架构,IEEE神经网络汇刊,6,5,805-818(1995)
[11] 考德尔,T.P。;Healy,M.J.,(LAPART-2体系结构的泛化研究。LAPART-1体系结构的通用化研究,神经网络国际联合会议,第3卷(1999),IEEE-INNS-ENNS:IEEE-INNS ENNS华盛顿特区),1979-1982
[12] Kasuba,T.,简化模糊ARTMAP,人工智能专家,18-25(1993)
[13] 金·R。;冯,C。;Shutherland,A.,STATLOG:大型现实问题分类算法的比较,应用人工智能,9,3,259-287(1995)
[14] 柯克帕特里克,S。;Stoll,E.,一种非常快速的移位寄存器序列随机数生成器,计算物理杂志,40517-526(1981)·Zbl 0458.65003号
[15] 马尔卡尼,A。;Vassiliadis,C.A.,超立方体上模糊ARTMAP神经网络范式的并行实现,专家系统,12,1,39-53(1995)
[16] Mangasarian,O。;Solodov,M.,通过非单调扰动最小化的串行和并行反向传播收敛,优化方法和软件,4,2,103-116(1994)
[17] Manolakos,E.S.,处理器环结构上ART1神经网络的并行实现,(Sundararajan,N.;Saratchandran,P.,神经网络的并行结构:范式和实现(1998),IEEE计算机学会出版社和John Wiley and Sons)
[18] 梅塔,M。;阿格拉瓦尔,R。;Rissanen,J.,《SLIQ:数据挖掘的快速可扩展分类器》,(Extending Database Technology(1996),Springer:Springer Avignon,France),18-32
[19] 佩特里迪斯,V。;卡布拉索斯,V.G。;弗拉戈,V.G。;Kehagais,A.,(使用(sigma)-FLNMAP神经网络进行文本分类。使用(signa)-FLMAP神经网络的文本分类,神经网络国际联合会议论文集,第2卷(2001),IEEE-INNS-ENNS:IEEE-INNS ENNS华盛顿特区),1362-1367
[20] Quinlan,J.R.,C4.5:机器学习程序(1993),Morgan Kaufmann:Morgan Koufmann San Mateo,California
[21] Rumelhart,D.E。;辛顿,G.E。;Williams,R.J.,通过错误传播学习内部表征,(并行分布式处理:认知微观结构的探索:第1卷:基础(1986)),318-362
[22] Shafer,J.C。;阿格拉瓦尔,R。;Mehta,M.,VLDB,SPRINT:用于数据挖掘的可扩展并行分类器,(Vijayaraman,T.M.;Buchmann,A.P.;Mohan,C.;Sarda,N.L.,Proc.22nd int.conf.very large databases(1996),Morgan Kaufmann:Morgan Koufmann Bombay,India),544-555
[23] Simpson,P.K.,Fuzzy Min-Max神经网络第1部分:分类,IEEE神经网络汇刊,3,5,776-786(1992)
[24] Taghi,M。;巴格米什,V。;Pavesic,N.,《快速简化模糊ARTMAP网络》,《神经处理快报》,第17期,第273-316页(2003年)
[25] Torresen,J.、Nakashima,H.、Tomita,S.和Landsverk,O.(1995)。前馈神经网络到MIMD计算机的一般映射。IEEE神经网络国际会议论文集; Torresen,J.、Nakashima,H.、Tomita,S.和Landsverk,O.(1995)。前馈神经网络到MIMD计算机的一般映射。IEEE神经网络国际会议论文集
[26] 托雷森,J。;Tomita,S.(Sundararajan,N.;Saratchandran,P.,《人工神经网络的并行架构:范例和实现》(1998),IEEE计算机社会出版社和John Wiley Sons),41-118
[27] 加州大学欧文分校(2003年)。UCI机器学习库。http://www.icf.uci.edu/mlearn/MLRepository.html; 加州大学欧文分校(2003年)。UCI机器学习库。http://www.icf.uci.edu/mlearn/MLRepository.html
[28] Williamson,J.R.,Gaussian ARTMAP:一种用于噪声多维地图快速增量学习的神经网络,神经网络,9,5,881-897(1996)
[29] Zhang,D.,并行VLSI神经系统设计(1998),Springer·Zbl 0928.68089号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。