×

一种无监督的神经形态聚类算法。 (英语) Zbl 1416.92010号

小结:大脑执行复杂任务所需的功率仅为在传统计算机上执行相同任务所需功率的一小部分。新的神经形态硬件系统正在广泛应用,旨在模拟更节能、高度并行的大脑操作。然而,要在应用程序中使用这些系统,我们需要能够在其上运行的“神经形态算法”。在这里,我们为神经形态硬件开发了一个尖峰神经网络模型,该模型使用尖峰时间相关的可塑性和侧向抑制来执行无监督聚类。使用该模型,时间不变的速率编码数据集可以映射到具有指定分辨率的特征空间,即簇数、,使用专门的神经形态硬件。我们使用GeNN框架开发并测试了SpiNNaker神经形态系统和GPU上的实现。我们表明,我们的神经形态聚类算法取得了与传统聚类算法(如自组织映射、神经气体或k均值聚类)相当的结果。然后,我们将其与之前报道的监督神经形态分类器网络相结合,以证明其作为神经形态预处理模块的实际用途。

MSC公司:

92秒20 生物研究、人工生命和相关主题中的神经网络
62页第10页 统计学在生物学和医学中的应用;元分析
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Behi T,Arous N(2011)通过递归自组织尖峰神经元进行连续语音和说话者无关的单词识别。信号处理国际J 5(5):215-226
[2] Benjamin BV、Gao P、McQuinn E、Choudhary S、Chandrasekaran AR、Bussat JM、Alvarez-Icaza R、Arthur JV、Merolla PA、Boahen K(2014)《神经网格:用于大规模神经模拟的混合模拟-数字多芯片系统》。程序IEEE 102(5):699-716。https://doi.org/10.109/JPROC.2014.2313565 ·doi:10.1109/JPROC.2014.2313565
[3] Bi GQ,Poo MM(1998)培养海马神经元的突触修饰:对放电时间、突触强度和突触后细胞类型的依赖性。神经科学杂志18(24):10464-10472·doi:10.1523/JNEUROSCI.18-24-10464.1998
[4] Bi GQ,Poo MM(2001)通过相关活动进行突触修饰:重新审视Hebb的假设。《神经科学年鉴》24:139-166。https://doi.org/10.1146/annurev.neuro.24.1.139。 http://www.ncbi.nlm.nih.gov/pubmed/1283308
[5] Choe Y,Miikkulainen R(1998)尖峰神经元横向连接方向图中的自我组织和分割。神经计算21(13):139-158。https://doi.org/10.1016/S0925-2312(98)00040-X·Zbl 0917.68180号 ·doi:10.1016/S0925-2312(98)00040-X
[6] Davies M、Srinivasa N、Lin T、Chinya G、Cao Y、Choday SH、Dimou G、Joshi P、Imam N、Jain S、Liao Y、Lin C、Lines A、Liu R、Mathaikutty D、McCoy S、Paul A、Tse J、Venkataramanan G、Weng Y、Wild A、Yang Y、Wang H(2018)Loihi:具有片上学习功能的神经形态多核处理器。IEEE Micro 38(1):82-99。https://doi.org/10.109/MM.2018.112130359 ·doi:10.10109/MM.201218.112130359
[7] Davison AP(2008)Pynn:神经元网络模拟器的通用接口。前Neuroninform。https://doi.org/10.3389/neuro.11.011.2008
[8] Deiseroth B、Brefeld U、Debes C、Gottfried F(2016)在线可训练扣球cmac网络。跨神经网络学习系统(综述中)
[9] 钻石A(2016)https://doi.org/10.5281/zenodo58100。www.github.com/alandiamond/spinaker-neuromorphic-classifier/releases网站
[10] Diamond A、Nowotny T、Schmuker M(2016a)《比较神经形态解决方案:在三个并行计算平台上对基准分类任务实施生物启发解决方案》。前神经科学。https://doi.org/10.3389/fnins.2015.00491
[11] Diamond A、Schmuker M、Berna AZ、Trowell S、Nowotny T(2016b)使用仿照昆虫嗅觉系统的生物激励尖峰网络对连续实时电子鼻传感器数据进行分类。Biosinric Biomim 11(2):26002。https://doi.org/10.1088/1748-3190/11/2/026002 ·doi:10.1088/1748-3190/11/2/026002
[12] Furber SB、Lester DR、Plana LA、Garside JD、Painkras E、Temple S、Brown AD(2013)《SpiNNaker系统架构概述》。IEEE传输计算62(12):2454-2467。https://doi.org/10.1109/TC.2012.142 ·doi:10.1109/TC.2012.142
[13] Gerstner W,Kempter R,van Hemmen JL,Wagner H(1996)亚毫秒时间编码的神经元学习规则。自然383:76。https://doi.org/10.1038/383076a0 ·数字对象标识代码:10.1038/383076a0
[14] Grünwald P(2000)基于最小描述长度的模型选择。数学心理学杂志44(1):133-152。https://doi.org/10.1006/jmps.1999.1280 ·Zbl 0968.62008年 ·doi:10.1006/jmps.1999.1280
[15] Khan M、Lester D、Plana L、Rast A、Jin X、Painkras E、Furber S(2008)《SpiNNaker:将神经网络映射到大规模并行芯片多处理器》。IEEE,第2849-2856页。https://doi.org/10.109/IJCNN.2008.4634199
[16] Knight JC,Nowotny T(2018)Gpus在模拟高度连接的皮层模型时,在速度和能量方面优于当前的HPC和神经形态解决方案。《前神经科学》12:941。https://doi.org/10.3389/fnins.2018.00941。 https://www.frontiersin.org/article/10.3389/fnins.2018.00941
[17] Markram H,Lübke J,Frotscher M,Sakmann B(1997)通过突触后aps和epsps的巧合调节突触效能。《科学》275(5297):213-215。https://doi.org/10.1126/science.275.5297.213。 http://science.sciencemag.org/content/275/5297/213。 http://science.sciencemag.org/content/275/5297/213.full.pdf
[18] Martinetz T,Schulten K(1991)神经气体网络学习拓扑。Artif神经网络1:397-402
[19] Masquelier T、Guyonneau R、Thorpe SJ(2009),基于竞争性STDP的尖峰模式学习。神经计算21:1259-1276。https://doi.org/10.1162/neco.2008.06-08-804 ·Zbl 1160.92315号 ·doi:10.1162/neco.2008.06-08-804
[20] Merolla PA、Arthur JV、Alvarez-Icaza R、Cassidy AS、Sawada J、Akopyan F、Jackson BL、Imam N、Guo C、Nakamura Y等人(2014)一种具有可扩展通信网络和接口的百万峰值神经元集成电路。科学345(6197):668-673·doi:10.1126/science.1254642
[21] Mochizuki Y、Onaga T、Shimazaki H、Shimokawa T、Tsubo Y、Kimura R、Saiki A、Sakai Y、Isomura Y、Fujisawa S、Ki Shibata、Hirai D、Furuta T、Kaneko T、Takahashi S、Nakazono T、Ishino S、Sakurai Y、Kitsukawa T、Lee JW、Lee H、Jung MW、Babul C、Maldonado PE、Takashi K、Arce-McShane FI、Ross CF、Sessle BJ、Hatsopoulos NG、Brochier T、Riehle A、,Chorley P、Grün S、Nishijo H、Ichihara-Takeda S、Funahashi S、Shima K、Mushiake H、Yamane Y、Tamura H、Fujita I、Inaba n、Kawano K、Kurkin S、Fukushima K、Kurata K、Taira M、Tsui KI、Ogawa T、Komatsu H、Koida K、Toyama K、Richmond BJ、Shinomoto S(2016)哺乳动物物种神经元放电机制的相似性。神经科学杂志36(21):5736-5747。https://doi.org/10.1523/JNEUROSCI.0230-16.2016。 http://www.jneurosci.org/content/36/21/5736。 http://www.jneurosci.org/content/36/21/5736.full.pdf
[22] Moradi S,Qiao N,Stefanini F,Indiveri G(2018)一种用于动态神经形态异步处理器(dynaps)的具有异构内存结构的可扩展多核架构。IEEE跨生物识别电路系统12(1):106-122。https://doi.org/10.109/TBCAS.2017.2759700 ·doi:10.1109/TBCAS.2017.2759700
[23] Nawrot MP、Boucsein C、Molina VR、Riehle A、Aertsen A、Rotter S(2008)《皮层棘波序列变异动力学的测量》。神经科学方法杂志169(2):374-390。https://doi.org/10.1016/j.jneumeth.2007.10.013。 http://www.sciencedirect.com/science/article/pii/S0165027007005146
[24] Neil D,Liu SC(2014)Minitaur,基于事件驱动的fpga峰值网络加速器。IEEE Trans超大规模集成VLSI系统22(12):2621-2628。https://doi.org/10.109/TVLSI.2013.2294916 ·doi:10.1010/TVLSI.2013.2294916
[25] Nessler B、Pfeiffer M、Buesing L、Maass W(2013)贝叶斯计算通过峰值时间依赖的可塑性出现在一般皮层微电路中。公共科学图书馆计算生物学。https://doi.org/10.1371/journal.pcbi.1003037
[26] Nowotny T(2014)模式识别中正确验证的两大挑战。前机器人AI 1:5。https://doi.org/10.3389/frobt.2014.00005。 https://www.frontiersin.org/article/10.3389/frobt.2014.0005
[27] Nowotny T,Huerta R,Abarbanel HDI,Rabinovich MI(2005),嗅觉系统中的自我组织:昆虫的一次性气味识别。《生物网络》93(6):436-46。https://doi.org/10.1007/s00422-005-0019-7 ·Zbl 1132.92321号 ·doi:10.1007/s00422-005-0019-7
[28] Nowotny T,Yavuz E,Turner J,Diamond A(2014)GeNN-GPU增强的神经元网络。https://github.com/genn-team/genn
[29] Rast AD、Galluppi F、Jin X、Furber S(2010)《漏出的整合核心神经元:SpiNNaker芯片上突触模型探索的平台》。参见:IEEE,第1-8页。https://doi.org/10.109/IJCNN.2010.5596364
[30] Riehle A、Brochier T、Nawrot M、Grün S(2018)行为情境决定了猴运动皮层的网络状态和可变性动力学。前神经回路12:52。https://doi.org/10.3389/fncir.2018.00052。 https://www.frontiersin.org/article/10.3389/fncir.2018.00052
[31] Rissanen J(1978)《最短数据描述建模》。自动化14(5):465-471。https://doi.org/10.1016/0005-1098(78)90005-5 ·Zbl 0418.93079号 ·doi:10.1016/0005-1098(78)90005-5
[32] Rowley AGD、Davidson S、Hopkins M、Stokes AB、Knight J、Davies S、Rast A、Lester DR、Bogdan P(2015)SpiNNaker软件上的PyNN 2015.004https://doi.org/10.5281/zenodo.19230
[33] Ruf B,Schmitt M(1998)使用动作电位计时的尖峰神经元的自我组织。IEEE Trans Neural Netw 9(3):575-578。https://doi.org/10.109/72.668899 ·doi:10.1109/72.668899
[34] Rulkov NF(2002)使用二维图对脉冲爆发神经行为进行建模。《物理学评论》E 65(4):41922。https://doi.org/10.103/PhysRevE.65.041922 ·Zbl 1244.34077号 ·doi:10.1103/PhysRevE.65.041922
[35] Schemmel J、Brüderle D、Grübl A、Hock M、Meier K、Millner S(2010)用于大规模神经建模的晶圆级神经形态硬件系统。在:ISCAS 2010-2010 IEEE电路和系统国际研讨会:纳米生物电路结构和系统,第1947-1950页。https://doi.org/10.109/ISCAS.2010.5536970
[36] Schmuker M,Schneider G(2007)受昆虫嗅觉启发的化学数据处理和分类。美国国家科学院院刊104(51):20285-20289。https://doi.org/10.1073/pnas.0705683104 ·doi:10.1073/pnas.0705683104
[37] Schmuker M,Pfeil T,Nawrot MP(2014)通用多元数据分类的神经形态网络。国家科学院院刊111(6):2081-2086。https://doi.org/10.1073/pnas.1303053111 ·doi:10.1073/pnas.1303053111
[38] Urbanczik R,Senn W(2009),尖峰神经元群体中的强化学习。《国家神经科学》12:250-252。https://doi.org/10.1038/nn.2264。 https://www.nature.com/articles/nn.2264
[39] Xu R,Wunsch D(2005)聚类算法综述。IEEE Trans Neural Netw Publ IEEE Neural-Netw Counc 16(3):645-78。https://doi.org/10.109/TNN.2005.845141 ·doi:10.1109/TNN.2005.845141
[40] Yavuz E、Turner J、Nowotny T(2016)GeNN:加速大脑模拟的代码生成框架。科学报告6(18):854。https://doi.org/10.1038/srep18854 ·doi:10.1038/srep18854
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。