×

一种用于学习任务的新型横向交互神经模型。 (英语) Zbl 1469.92020年9月

摘要:我们提出了一种用于学习任务的新型横向交互神经模型。该模型由两个功能字段组成:用于提取特征的基本字段和用于存储和识别模式的高级字段。每个场都由一些具有横向相互作用的神经元组成,不同场中的神经元通过突触可塑性规则连接。该模型建立在认知和神经科学的当前研究基础上,使其更加透明和生物可解释。我们提出的模型用于数据分类和聚类。相应的算法共享相似的过程,而不需要任何参数调整和优化过程。数值实验验证了该模型在不同的学习任务中是可行的,并且优于一些最新的方法,特别是在小样本学习、一次性学习和聚类方面。

MSC公司:

92B20型 生物研究、人工生命和相关主题中的神经网络
91E40型 心理学中的记忆和学习
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Ahmad,T.、Chen,H.、Huang,R.、Guo,Y.、Wang,J.、Shair,J.…Kazim,M.(2018)。基于监督的机器学习模型,用于不同建筑环境中的短期、中期和长期能源预测。能源,158,17-32。谷歌学者
[2] Alshehhi,R.、Hanson,C.、Gizon,L.和Hanasoge,S.(2019年)。日震环向图反演的监督神经网络。天文学和天体物理学,622。谷歌学者
[3] Amari,S.(1977年)。侧向抑制型神经场中模式形成的动力学。生物网络。,27, 77-87. 谷歌学者·Zbl 0367.92005年
[4] Campbell,W.、Sturim,D.、Reynolds,D.和Solomonoff,A.(2006年)。使用GMM超向量核和NAP可变性补偿的基于SVM的说话人验证。2006年IEEE声学语音和信号处理国际会议论文集。新泽西州皮斯卡塔韦:IEEE。
[5] Cao,Y.、Guan,D.、Wu,Y.和Yang,M.(2019)。盒级分割监督深度神经网络,用于精确和实时的多光谱行人检测。ISPRS摄影测量和遥感杂志,150,70-79。谷歌学者
[6] Chatterjee,N.和Sinha,S.(2007年)。了解蠕虫的心理:秀丽隐杆线虫神经系统功能的层次网络结构。脑研究进展,168145-153。谷歌学者
[7] Chen,L.、Papandreou,G.、Kokkinos,I.、Murphy,K.和Yuille,A.(2018年)。Deeplab:使用深度卷积网络、atrous卷积和完全连接的CRF进行语义图像分割。IEEE模式分析和机器智能汇刊,40(4),834-848。谷歌学者
[8] Coley,C.、Jin,W.、Rogers,L.、Jamison,T.、Jaakkola,T.,Green,W.…Jensen,K.(2019年)。用于预测化学反应性的图形-卷积神经网络模型。化学科学,10,370-377。谷歌学者
[9] Dayan,P.,&Abbott,L.F.(2002)。理论神经科学:神经系统的计算和数学建模。马萨诸塞州剑桥:麻省理工学院出版社·Zbl 1051.92010年
[10] Durand,T.,Mordan,T.、Thome,N.和Cord,M.(2017年)。WILDCAT:用于图像分类、逐点定位和分割的深度ConvNets的弱监督学习。2017年IEEE计算机视觉和模式识别会议论文集。新泽西州皮斯卡塔韦:IEEE。
[11] Ermentrout,G.B.和Terman,D.H.(2010年)。神经科学的数学基础。纽约:Springer Science+Business Media·Zbl 1320.92002年
[12] Foody,G.M.和Mathur,A.(2004年)。用支持向量机对多类图像分类进行相对评价。IEEE地球科学与遥感汇刊,421335-1343。谷歌学者
[13] Friston,K.(2008)。大脑中的层次模型。PLOS计算生物学,4,e1000211。谷歌学者
[14] Gao,S.,Yang,K.,Li,C.,&Li,Y.(2015)。使用双对异性的颜色恒常性。IEEE模式分析和机器智能汇刊,37(10),1973-1985。谷歌学者
[15] Han,S.,Liu,X.,Mao,H.,Pu,J.,Pedram,A.,Horowitz,M.,&Dally,W.(2016)。EIE:基于压缩深度神经网络的高效推理引擎。2016年ACM/IEEE第43届计算机体系结构国际研讨会论文集(第243-254页)。纽约:ACM。
[16] Hartigan,J.A.和Wong,M.A.(1979年)。算法AS 136:K均值聚类算法。《皇家统计学会杂志》,28(1),100-108。谷歌学者·Zbl 0447.62062号
[17] Hebb,D.O.(1949年)。行为的组织。纽约:Wiley。
[18] Houdard,A.、Bouveyron,C.和Delon,J.(2018年)。用于无监督图像去噪(HDMI)的高维混合模型。SIAM成像科学杂志,11(4),2815-2846。谷歌学者·Zbl 1475.94018号
[19] Iglesias,S.、Mathys,C.、Brodersen,K.、Kasper,L.、Piccirelli,M.、Ouden,H.和Stephan,K.(2019年)。感觉学习过程中中脑和基底前脑的分层预测错误。神经元,101(6),1196-1201。谷歌学者
[20] Jin,D.和Peng,J.(2015)。具有全局常数抑制的Amari动态神经场研究。神经网络,71,182-195。谷歌学者·Zbl 1396.92015号
[21] Kahn,G.、Villaflor,A.、Ding,B.、Abbeel,P.和Levine,S.(2018年)。机器人导航中基于广义计算图的自监督深度强化学习。2018年IEEE机器人与自动化国际会议记录(第5129-5136页)。新泽西州皮斯卡塔韦:IEEE。
[22] Lee,H.、Sohn,K.和Min,D.(2020年)。使用亮通道先验的无监督微光图像增强。IEEE信号处理快报,27251-255。谷歌学者
[23] Lee,T.和Lewicki,M.(2002年)。使用ICA混合模型的无监督图像分类、分割和增强。IEEE图像处理汇刊,1(3),270-279。谷歌学者
[24] Li,H.和Fan,Y.(2018)。使用无需训练数据的自监督全卷积网络进行非刚性图像配准。2018年IEEE第15届国际生物医学成像研讨会论文集(第1075-1078页)。新泽西州皮斯卡塔韦:IEEE。
[25] Lou,S.、Zhang,G.、Pan,H.和Wang,Q.(2012)。小样本问题的监督拉普拉斯判别分析及其在人脸识别中的应用。计算机研究与发展杂志,491730-1737。谷歌学者
[26] McCulloch,W.S.和Pitts,W.(1943年)。神经活动内在思想的逻辑演算。《数学生物物理公报》,52,115-133。谷歌学者·Zbl 0063.03860号
[27] Melnykov,V.和Michael,S.(2020年)。通过合并K-means解决方案对大型数据集进行聚类。分类杂志,37,97-123。谷歌学者·Zbl 07223591号
[28] Niebles,J.、Wang,H.和Li,F.(2008)。使用时空词汇对人类行为类别进行无监督学习。国际计算机视觉杂志,79,299-318。谷歌学者
[29] Rabaoui,A.、Kadri,H.、Lachiri,Z.和Hachem,N.(2008年)。一类SVM在音频检测和分类应用中面临挑战。EURASIP《信号处理进展杂志》,2008年,834973。谷歌学者·Zbl 1184.68424号
[30] Rauschecker,J.和Scott,S.(2009年)。听觉皮层中的地图和流:非人类灵长类照亮了人类的语音处理。《自然神经科学》,12718-724。谷歌学者
[31] Shipp,S.(2016年)。用于预测编码的神经元件。心理学前沿,71792。谷歌学者
[32] Sirosh,J.和Miikkulainen,R.(1997年)。初级视觉皮层自组织模型中的地形感受野和模式化横向相互作用。神经计算,9(3),577-594。谷歌学者
[33] Snyder,D.、Ghahremani,P.、Povey,D.、Garcia-Romero,D.、Carmiel,Y.和Khudanpur,S.(2016)。基于深度神经网络的说话人嵌入,用于端到端说话人验证。2016年IEEE口语技术研讨会论文集(第165-170页)。新泽西州皮斯卡塔韦:IEEE。谷歌学者
[34] Sutte,E.E.和Vaegan(1990年)。人体图形反转ERG中的横向相互作用分量和局部亮度非线性。视觉研究,30(5),659-671。谷歌学者
[35] Tzotsos,A.和Argialas,D.(2008)。基于对象的图像分析的支持向量机方法。T.Blaschke、S.Lang和G.J.Hay(编辑),基于对象的图像分析。柏林:斯普林格。谷歌学者
[36] Valpola,H.和Karhunen,J.(2002)。非线性动态状态空间模型的无监督集成学习方法。神经计算,14(11),2647-2692。谷歌学者·Zbl 1057.68094号
[37] Wang,W.,Pedretti,G.,Milo,V.,Carboni,R.,Calderoni,A.,Ramaswamy,N.,…Ielmini,D.(2018)。在带有电阻开关突触的尖峰神经网络中学习时空模式。科学进展,4(9),eaat4752。谷歌学者
[38] Wang,X.、Ma,X.和Grimson,W.(2009)。使用分层贝叶斯模型在拥挤和复杂场景中的无监督活动感知。IEEE模式分析和机器智能汇刊,31(3),539-555。谷歌学者
[39] Waydo,S.和Koch,C.(2008年)。从图像中对个人和类别进行无监督学习。神经计算,20(5),1165-1178。谷歌学者
[40] Weinberger,K.Q.和Saul,L.K.(2009年)。大幅度最近邻分类的距离度量学习。机器学习研究杂志,10207-244。谷歌学者·Zbl 1235.68204号
[41] Xie,J.、Girshick,R.和Farhadi,A.(2016)。用于聚类分析的无监督深度嵌入。在第33届国际机器学习会议论文集(第478-487页)。谷歌学者
[42] Yang,H.、Lin,K.和Chen,C.(2018年)。语义的监督学习:通过深度卷积神经网络保存哈希。IEEE模式分析和机器智能汇刊,40(2),437-451。谷歌学者
[43] Zeng,X.,Pan,Y.,Wang,M.,Zhang,J.,&Liu,Y.(2020年)。通过自我监督的身份和姿势的分离,真实再现面孔。第34届AAAI人工智能大会论文集。加利福尼亚州帕洛阿尔托:AAAI出版社。谷歌学者
[44] 詹,K.、石,J.、王,J.,王,H.和谢,Y.(2018)。多视图聚类的自适应结构概念分解。神经计算,30(4),1080-1103。谷歌学者·Zbl 1472.68168号
[45] Zhang,Q.、Zhen,S.和Huang,D.(2019)。通过将多实例学习与混合深层神经网络相结合来建模体内蛋白质-DNA结合。科学报告,98484。谷歌学者
[46] Zhang,S.、Li,X.、Zong,M.、Zhu,X.&Wang,R.(2018)。不同近邻数的高效kNN分类。IEEE神经网络和学习系统汇刊,29(5),1774-1785。谷歌学者
[47] Zhou,X.,Huang,Q.,Sun,X.、Xue,X.和Wei,Y.(2017)。面向野外三维人体姿势估计:一种弱监督方法。IEEE计算机视觉国际会议论文集(1:398-407)。新泽西州皮斯卡塔韦:IEEE。谷歌学者
[48] Zhu,B.,Liu,J.,Cauley,S.,Rosen,B.,&Rosen,M.(2018年)。基于域变换流形学习的图像重建。《自然》,555487-492。谷歌学者
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。