×
尹永华

随机神经网络方法和深度学习。 （英语） Zbl 1493.68335号

普罗巴伯。工程信息科学。 35，第1期，第6-36页（2021年）.
本文主要关注随机神经网络（RNN）方法和深度学习。前几页提供了现有文献的扩展信息，并与最近与RNN相关的文章进行了比较。
此外，第2节介绍了神经网络、深度学习（DL）和RNN的背景。第3节致力于说明用于降维的多层非负RNN自动编码器，该编码器在处理各种类型的数据时非常健壮有效。第4节总结了关于密集RNN的工作，包括数学建模和DL算法。第5节介绍了标准RNN的研究及其对DL的功率证明。由此产生的DL工具被证明是有效的，它可以说是五种不同DL方法中最有效的。第6节介绍了RNN及其DL算法在检测IoT设备异常和攻击以及通过图像识别目标方面的应用。最后，第7节给出了结论和未来工作的展望。
审核人：Arzu Ahmadova（埃森）

MSC公司：

68T07型 人工神经网络与深度学习
60K25码 排队论（概率论方面）
62M45型 神经网络及从随机过程推断的相关方法

关键词：

计算概率；排队论；随机建模

软件：

CIFAR公司；布瑞恩；达奇；阿达德尔塔；皮恩；神经元；SpiNNaker公司；TensorFlow公司；巢穴；伦敦银行支持向量机；UCI-毫升
PDF格式BibTeX公司 XML格式引用
\textit｛Y.Yin｝，遗嘱认证人。工程信息科学。35，编号1，6--36（2021；Zbl 1493.68335）
全文： 内政部

参考文献：

[1] Abadi，M.，Agarwal，A.，Barham，P.，Brevdo，E.，Chen，Z.，Citro，C.，Corrado，G.S.，Davis，A.，Dean，J.，Devin，M.版本，I.、Talwar，K.、Tucker，P.、Vanhoucke，V.、Vasudevan，V.，Viégas，F.、Vinyals，O.、Warden，P.，Wattenberg，M.、Wicke，M..、Yu，Y.和Zheng，X.（2015）。TensorFlow：异构系统上的大规模机器学习，可从TensorFlow.org获得软件。[在线]。可用：http://tensorflow.org/。
[2] Abdelbaki，H.E.（1999年）。随机神经网络模拟器，用于matlab。技术报告。
[3] Abdelbaki，H.、Gelenbe，E.和El-Khamy，S.E.（1999年）。纠错码的随机神经网络解码器。神经网络，1999年。99年IJCNN。第5卷国际联合会议。IEEE，3241-3245。
[4] Abdelbaki，H.、Gelenbe，E.和El-Khamy，S.E.（2000年）。随机神经网络模型的模拟硬件实现。IEEE-INNS-ENNS神经网络国际联合会议论文集。IJCNN 2000。神经计算：新千年的新挑战和展望。第4卷，197-201。
[5] Abdelbaki，H.M.、Hussain，K.和Gelenbe，E.（2001）。基于激光强度图像的车辆自动分类系统。智能运输系统，2001年。诉讼程序。2001年IEEE。IEEE，460-465。
[6] Adeel，A.、Larijani，H.和Ahmadinia，A.（2015）。使用随机神经网络和优化在lte上行链路系统中进行资源管理和细胞间干扰协调。IEEE访问3:1963-1979。
[7] Aguilar，J.和Gelenbe，E.（1997年）。分布式系统的任务分配和事务聚类启发式。信息科学97（1-2）：199-219。
[8] Anthony，M.，Bartlett，P.L.（2009）《神经网络学习：理论基础》。纽约：剑桥大学出版社·Zbl 0968.68126号
[9] Atalay，V.、Gelenbe，E.和Yalabik，N.（1992年）。纹理生成的随机神经网络模型。国际模式识别与人工智能杂志6（01）：131-141。
[10] Bakircioglu，H.&Gelenbe，E.（1998年）。强杂波中形状物体的随机神经网络识别。人工神经网络在图像处理中的应用III。第3307卷。国际光学和光子学学会，22-29。
[11] Bakárcóolu，H.&Koçak，T.（2000）。随机神经网络应用综述。欧洲运筹学杂志126（2）：319-330·Zbl 0969.90022号
[12] Basterrech，S.、Mohammed，S.，Rubino，G.和Soliman，M.（2009年）。随机神经网络的Levenberg-marquardt训练算法。计算机期刊54（1）：125-135。
[13] Bojarski，M.、Del Testa，D.、Dworakowski，D.、Firner，B.、Flepp，B.、Goyal，P.、Jackel，L.D.、Monfort，M.，Muller，U.、Zhang，J.、Zhang，X.、Zhao，J.和Zieba，K.（2016年4月）。自驾汽车的端到端学习，ArXiv电子打印。
[14] Bousquet，O.和Bottou，L.（2008）。大规模学习的权衡。神经信息处理系统的进展，161-168。
[15] Brun，O.，Wang，L.，&Gelenbe，E.（2016）。自主洲际叠加的大数据。IEEE通讯选定领域杂志34（3）：575-583。
[16] Brun，O.、Yin，Y.、Gelenbe，E.、Kadioglu，Y.M.、Augusto Gonzalez，J.和Ramos，M.（2018）。使用密集随机神经网络进行深度学习，以检测对物联网家庭环境的攻击。计算机和信息科学安全：2018年第一届国际ISCIS安全研讨会，2018年2月26日至27日，英国伦敦，Euro-CYBERSEC 2018。讲稿CCIS No.821，Springer Verlag。
[17] Brun，O.、Yin，Y.、Gelenbe，E.、Kadioglu，Y.、Augusto Gonzalez，J.和Ramos，M.（2018）。使用密集随机神经网络进行深度学习，以检测对物联网家庭环境的攻击。在Gelenbe，E.、Campegiani，P.、Czachorski，T.、Katsikas，S.、Komnios，I.、Romano，L.和Tzovaras，D.（编辑），《欧洲近期网络安全研究：2018年ISCIS安全研讨会论文集》，伦敦帝国理工学院。讲稿CCIS No.821，Springer Verlag。
[18] Brun，O.，Yin，Y.，&Gelenbe，E.使用密集随机神经网络进行深度学习，以检测对生物连接家庭环境的攻击，Procedia Computer Science。第134卷，458-4632018年，第15届移动系统和普适计算国际会议（MobiSPC 2018）/第13届未来网络和通信国际会议（FNC-2018）/附属研讨会。[在线]。可用：http://www.sciencedirect.com/science/article/pii/S1877050918311487。
[19] Burks，A.W.、Goldstine，H.H.和Von Neumann，J.（1946年）。电子计算仪器逻辑设计的初步讨论。向美国陆军军械部报告。
[20] Cai，D.、He，X.、Hu，Y.、Han，J.和Huang，T.（2007）。学习用于人脸识别的空间平滑子空间。2007年IEEE计算机视觉和模式识别会议。IEEE，1-7。
[21] Cambria，E.、Huang、G.-B.、Kasun，L.L.C.、Zhou、H.、Vong，C.M.、Lin，J.、Yin、J.、Cai，Z.、Liu、Q.、Li，K.、Leung，V.C.M.，Feng，L.、Ong、Y.-S.、Lim、M.-H.、Akusok，A.、Lendasse，A.、Corona，F.、Nian，R.、Miche，Y.、Gastaldo，P.、Zunino，R.，Decherchi，S.、Yang，X.、Mao，K.，Oh，B.-S.、Jeon，J.，Toh，K.-A.、Teoh，A..B.J.、Kim，J.、Yu，H.、Chen，Y.、。，&Liu，J.（2013）。极端学习机器[趋势和争议]。IEEE智能系统28（6）：30-59。[在线]。可用：http://dx.doi.org/10.1109/MIS.2013.140。
[22] Carnevale，N.T.和Hines，M.L.（2006年）。《神经元》一书。纽约：剑桥大学出版社。
[23] 乔尔凯兹，C.、艾贝，I.和哈利西，U.（1997）。随机神经网络模型的数字神经元实现。神经网络，1997年。国际会议第2卷。IEEE，1000-1004。
[24] Chang，C.-C.和Lin，C.-J.（2011）。Libsvm：支持向量机库。ACM智能系统与技术汇刊（TIST）2（3）：27。
[25] Cheng，H.-P.，Wen，W.，Song，C.，Liu，B.，Li，H.，&Chen，Y.（2016）。探索ibm truenorth平台的最佳学习技术以克服量化损失。纳米架构（NANOARCH），2016 IEEE/ACM国际研讨会，IEEE，185-190。
[26] Cramer，C.和Gelenbe，E.（2000年）。基于学习的子采样和接收机内插视频序列中的视频质量和流量qos。IEEE通信选择领域期刊18（2）：150-167。[在线]。可用：https://doi.org/10.109/49.824788。
[27] Cramer，C.、Gelenbe，E.和Bakirloglu，H.（1996）。使用神经网络和时间子采样的低比特率视频压缩。IEEE84（10）会议记录：1529-1543。
[28] Cramer，C.、Gelenbe，E.和Gelenbe（1998）。图像和视频压缩。IEEE潜力17（1）：29-33。
[29] Cramer，C.、Gelenbe，E.和Bakircioglu，H.（1996）。随机神经网络视频压缩。识别、控制、机器人和信号/图像处理的神经网络，1996年。诉讼程序。，IEEE国际研讨会，476-484。
[30] Davison，A.、Brüderle，D.、Kremkow，J.、Muller，E.、Pecevski，D.、Perrinet，L.和Yger，P.（2009年）。Pynn：神经元网络模拟器的通用接口。
[31] Diehl，P.U.、Pedroni，B.U.、Cassidy，A.、Merolla，P.、Neftci，E.和Zarrella，G.（2016）。真实快乐：对真实的神经形态情感识别。神经网络（IJCNN），2016年IEEE国际联合会议，4278-4285。
[32] Ding，C.，Li，T.，Peng，W.，&Park，H.（2006）。聚类的正交非负矩阵t分解。第12届ACM SIGKDD知识发现和数据挖掘国际会议论文集。美国医学会，126-135。
[33] Ding，C.H.，He，X.和Simon，H.D.（2005年）。关于非负矩阵分解和谱聚类的等价性。SDM。第5卷。暹罗，606-610。
[34] Dominguez-Morales，J.P.，Jimenez-Fernandez，A.，Rios-Navarro，A.，Cerezuela-Escudero，E.，Gutierrez-Galan，D.，Domingues-Morales，M.J.，&Jimenezz-Moreno，G.（2016）。多层尖峰神经网络用于使用微调器的音频样本分类。国际人工神经网络会议。施普林格，45-53。
[35] Esser，S.K.、Andreopoulos，A.、Appuswamy，R.、Datta，P.、Barch，D.、Amir，A.、Arthur，J.、Cassidy，A.、Flickner，M.、Merolla，P.等人（2013年）。认知计算系统：神经突触核心网络的算法和应用。神经网络（IJCNN），2013年IEEE国际联合会议，1-10。
[36] Esser，S.K.、Appuswamy，R.、Merolla，P.、Arthur，J.V.和Modha，D.S.（2015）。用于节能神经形态计算的反向传播。神经信息处理系统进展，1117-1125。
[37] Esser，S.K.，Merolla，P.A.，Arthur，J.V.，Cassidy，A.S.，Appuswamy，R.，Andreopoulos，A.，Berg，D.J.，Mckinstry，J.L.，Melano，T.，Barch，D.R.等人（2016年）。卷积网络用于快速、节能的神经形态计算。国家科学院院刊113:201604850。
[38] Fourneau，J.-M.和Gelenbe，E.（2017年）。带有加法器的G网络。未来互联网9（3），34。
[39] François，F.&Gelenbe，E.（2016）。面向软件定义网络的认知路由引擎。国际商会2016。IEEE，1-6。
[40] François，F.&Gelenbe，E.（2016）。通过认知路由优化安全的支持sdn的数据中心间覆盖网络。MASCOTS 2016，IEEE计算机学会。IEEE，283-288。
[41] Furber，S.B.、Galluppi，F.、Temple，S.和Plana，L.A.（2014年）。旋转木马项目。IEEE102（5）会议记录：652-665。
[42] Gelenbe，E.（1989）。带有正负信号和乘积形式解的随机神经网络。神经计算1（4）：502-510。
[43] Gelenbe，E.（1989）。Réseaux随机变量ouverts avec clients négatifs et positifs，et re seaux neuronaux。Comptes-Rendas学院。巴黎科学，Série 2309:979-982。
[44] Gelenbe，E.（1990年）。研究神经元的稳定状态。科学院院长。塞里2310（3）：177-180。
[45] Gelenbe，E.（1990年）。随机神经网络模型的稳定性。神经计算2（2）：239-247。
[46] Gelenbe，E.（1991）。具有消极和积极客户的产品形态排队网络。应用概率杂志28（3）：656-663·Zbl 0741.60091号
[47] Gelenbe，E.（1993）。G网络通过触发客户移动。应用概率杂志30（3）：742-748·Zbl 0781.60088号
[48] Gelenbe，E.（1993）。带有信号和批量删除的G网络。工程和信息科学中的概率7（3）：335-342。
[49] Gelenbe，E.（1993）。递归随机神经网络中的学习。神经计算5:154-164。
[50] Gelenbe，E.（1994年）。G网络：神经网络和排队网络的统一模型。运营研究年鉴48（5）：433-461·Zbl 0803.90058号
[51] Gelenbe，E.（2007年）。概率基因调控网络的稳态解。物理评论E76:031903-1-031903-8。
[52] Gelenbe，E.（2009）。走向自我保护网络的步骤。ACM52的通信（7）：66-75。
[53] Gelenbe，E.（2012）。自然计算。《计算机杂志》55（7）：848-851。
[54] Gelenbe，E.和Abdelrahman，O.H.（2018年）。具有能量收集功能的移动网络的能量包网络模型。非线性理论及其应用，IEICE9（3）：1-15。
[55] Gelenbe，E.&Ceran，E.T.（2016）。具有能量收集功能的能量包网络。IEEE访问4:1321-1331。
[56] Gelenbe，E.&Cramer，C.（1998年）。对躯体感觉输入的振荡性皮质丘脑反应。生物系统48（1-3）：67-75。
[57] Gelenbe，E.和Fourneau，J.-M.（1999）。具有多类信号的随机神经网络。神经计算11（4）：953-963。
[58] Gelenbe，E.&Hussain，K.F.（2002年）。在多类随机神经网络中学习。IEEE神经网络汇刊13（6）：1257-1267。
[59] Gelenbe，E.和Kazhmaganbetova，Z（2014）。双边不对称连接的认知包网络。IEEE传输。工业信息学10（3）：1717-1725。
[60] Gelenbe，E.&Marin，A.（2015）。具有能量采集功能的互联无线传感器。分析和随机建模技术及应用——第22届国际会议，ASMTA 2015，保加利亚阿尔贝纳，2015年5月26-29日。诉讼，87-99·Zbl 1392.68073号
[61] Gelenbe，E.&Morfopoulou，C.（2010年）。分组网络中能量感知路由的框架。计算机期刊54（6）：850-859。
[62] Gelenbe，E.和Pujolle，G.（1987年）。队列网络简介。《引言》（Introduction aux Réseaux de Files d“Attente”）的译本，巴黎埃罗勒斯，1982年，由纽约和奇切斯特的约翰·威利有限公司出版·Zbl 0547.60092号
[63] Gelenbe，E.和Schassberger，R.（1992年）。乘积形式g-网络的稳定性。工程和信息科学中的概率6（3）：271-276·Zbl 1134.60396号
[64] Gelenbe，E.和Sungur，M.（1994）。随机网络学习和图像压缩。神经网络，1994年。IEEE计算智能世界大会。，1994年IEEE国际会议，第6卷。IEEE，3996-3999。
[65] Gelenbe，E.和Timotheou，S.（2008）。具有同步交互的随机神经网络。神经计算20（9）：2308-2324·Zbl 1154.68462号
[66] Gelenbe，E.和Yin，Y.（2016）。使用随机神经网络进行深度学习。2016年国际神经网络联合会议（IJCNN），1633-1638。
[67] Gelenbe，E.和Yin，Y.（2016）。使用随机神经网络进行深度学习。2016年SAI智能系统会议，907-912。
[68] Gelenbe，E.和Yin，Y.（2017年）。使用密集随机神经网络进行深度学习。人机交互国际会议。施普林格，3-18。
[69] Gelenbe，E.、Glynn，P.和Sigman，K.（1991）。到达人数为负数的队列。应用概率杂志28（1）：245-250·Zbl 0744.60110号
[70] Gelenbe，E.、Stafylopatis，A.和Likas，A.（1991）。随机神经网络的联想记忆操作。人工神经网络国际会议论文集，307-312。
[71] Gelenbe，E.、Feng，Y.和Krishnan，K.R.R.（1996）。人脑体积磁共振成像的神经网络方法。IEEE84（10）会议记录：1488-1496。
[72] Gelenbe，E.、Sungur，M.、Cramer，C.和Gelenbe（1996）。自适应神经压缩的流量和视频质量。多媒体系统4（6）：357-369。[在线]。可用：https://doi.org/10.1007/s00530050037。
[73] Gelenbe，E.、Ghanwani，A.和Srinivasan，V.（1997）。用于多播路由的改进的神经启发式算法。IEEE通讯选定领域杂志15（2）：147-155。
[74] Gelenbe，E.、Mao，Z.和Li，Y.（1999年8月）。层数有界的随机网络的近似。信号处理神经网络IX:1999年IEEE信号处理学会研讨会论文集（分类号98TH8468），166-175。
[75] Gelenbe，E.，Mao，Z.，&Li，Y.（1999）。尖峰随机网络的函数逼近。IEEE神经网络汇刊10（1）：3-9·Zbl 0941.68118号
[76] Gelenbe，E.、Hussain，K.F.和Abdelbaki，H.（2000）。随机神经网络纹理模型。人工神经网络在图像处理中的应用V。第3962卷。国际光学和光子学学会，104-112。
[77] Gelenbe，E.、Koçak，T.和Wang，R.（2004）。从自上而下扫描电子显微镜图像重建晶圆表面。微电子工程75（2）：216-233。
[78] Gelenbe，E.、Mao，Z-H和Li，Y.-D（2004年）。层数有界的随机神经网络的函数逼近。微分方程和动力系统12（1）：143-170·Zbl 1490.62298号
[79] Georgiopoulos，M.、Li，C.和Kocak，T.（2011年）。前馈随机神经网络中的学习：评论。性能评估68（4）：361-384，g网络及其应用。[在线]。可用：http://www.sciencedirect.com/science/article/pii/S0166531610000970。 ·Zbl 1198.68189号
[80] Gewaltig，M.-O.和Diesmann，M.（2007）。Nest（神经模拟工具）。学者媒体2（4）：1430。
[81] Gloot，X.和Bengio，Y.（2010年）。了解训练深度前馈神经网络的困难。艾斯塔茨。第9卷，249-256。
[82] Gloot，X.，Bordes，A.，&Bengio，Y.，深度稀疏整流神经网络，In Gordon，G.J.&Dunson，D.B.，（编辑），《第十四届国际人工智能与统计会议论文集》（AISTATS-11），第15卷。《机器学习研究杂志-研讨会和会议论文集》，2011年，315-323。[在线]。可用：http://www.jmlr.org/proceedings/papers/v15/glorot11a/glorot11a.pdf。
[83] Goodfellow，I.、Pouget-Abadie，J.、Mirza，M.、Xu，B.、Warde-Farley，D.、Ozair，S.、Courville，A.和Bengio，Y.（2014）。生成性对抗网络。在Ghahramani，Z.、Welling，M.、Cortes，C.、Lawrence，N.D.和Weinberger，K.Q.（编辑），《神经信息处理系统的进展》27，Curran Associates，Inc.，2672-2680。[在线]。可用：http://papers.nips.cc/paper/5423-generative-adversarial-nets.pdf。
[84] Goodman，D.&Brette，R.（2008）。布莱恩：用python模拟神经网络。
[85] Grenet，I.、Yin，Y.、Comet，J.-P.和Gelenbe，E.（2018年）。机器学习预测化合物的毒性。第27届国际人工神经网络年会，ICANN18，接受出版。斯普林格·弗朗。
[86] He，K.，Zhang，X.，Ren，S.，&Sun，J.（2016）。用于图像识别的深度残差学习。IEEE计算机视觉和模式识别会议记录，770-778。
[87] Heeger，D.（2000）。尖峰产生的泊松模型。斯坦福大学讲义5:1-13。
[88] Hinton，G.E.&Salakhutdinov，R.R.（2006）。利用神经网络降低数据的维数。科学313（5786）：504-507·Zbl 1226.68083号
[89] Hinton，G.E.、Osindero，S.和Teh，Y.-W.（2006）。一种深度信念网的快速学习算法。神经计算18（7）：1527-1554·Zbl 1106.68094号
[90] Hornik，K.（1991年）。多层前馈网络的逼近能力。神经网络4（2）：251-257。
[91] Hornik，K.、Stinchcombe，M.和White，H.（1989年）。多层前馈网络是通用逼近器。神经网络2（5）：359-366·Zbl 1383.92015年
[92] Hoyer，P.O.（2002）。非负稀疏编码。信号处理神经网络，2002年。2002年第12届IEEE研讨会论文集，IEEE，557-565。
[93] https://en.wikipedia.org/wiki/go_（游戏）。
[94] Huang，G.-B.，Zhu，Q.-Y.，&Siew，C.-K.（2006）。极限学习机器：理论与应用。神经计算70（1）：489-501。
[95] Hussain，K.F.和Moussa，G.S.（2005年）。基于随机神经网络的激光强度车辆分类系统。第43届东南地区年会论文集——第1卷。顶点，31-35。
[96] Javed，A.、Larijani，H.、Ahmadinia，A.和Emmanuel，R.（2017）。随机神经网络学习启发式。工程和信息科学中的概率31（4）：436-456·兹比尔1441.68205
[97] Javed，A.、Larijani，H.、Ahmadinia，A.和Gibson，D.（2017）。使用云计算技术的智能随机神经网络暖通空调控制器。IEEE工业信息汇刊13（1）：351-360。
[98] Jo，S.、Yin，J.和Mao，Z.-H.（2005）。具有状态相关放电神经元的随机神经网络。IEEE神经网络汇刊16（4）：980-983。
[99] Kadioglu，Y.M.和Gelenbe，E.（2018年）。间歇能量级联网络的产品形式解决方案。IEEE系统杂志。doi:doi:10.1109/JSYST.2018.2854838。
[100] Kasun，L.L.C.、Zhou，H.和Huang，G.-B.（2013）。使用大数据极端学习机器进行表征学习。IEEE智能系统28（6）：31-34。
[101] Kim，H.和Gelenbe，E.（2012年）。基于希尔函数的开关样基因反应的随机基因表达模型。IEEE/ACM传输。计算。《生物信息生物学》9（4）：973-979。[在线]。可用：https://doi.org/10.109/TCBB.2011.153。
[102] Knight，J.、Voelker，A.R.、Mundy，A.、Eliasmith，C.和Furber，S.（2016）。使用神经工程框架对异联想记忆进行有效的spinnaker模拟。神经网络（IJCNN），2016国际联合会议。IEEE，5210-5217。
[103] Kocak，T.、Seeber，J.和Terzioglu，H.（2003）。随机神经网络路由引擎的设计与实现。IEEE神经网络汇刊14（5）：1128-1143。
[104] Krizhevsky，A.和Hinton，G.（2009年）。从微小图像中学习多层特征。
[105] Lecun，Y.、Bottou，L.、Bengio，Y.和Haffner，P.（1998）。基于梯度的学习应用于文档识别。IEEE86（11）会议记录：2278-2324。
[106] Lecun，Y.、Huang，F.J.和Bottou，L.（2004）。具有姿态和光照不变性的通用对象识别的学习方法。计算机视觉和模式识别，2004年。CVPR 2004。2004年IEEE计算机学会会议记录，第2卷。IEEE，II-97-104。
[107] Lecun，Y.、Bengio，Y.和Hinton，G.（2015）。深度学习。自然521（7553）：436-444。
[108] Lee，D.D.&Seung，H.S.（1999年）。通过非负矩阵分解来学习对象的各个部分。Nature401（6755）：788-791·兹比尔1369.68285
[109] Leshno，M.、Lin，V.Y.、Pinkus，A.和Schocken，S.（1993年）。具有非多项式激活函数的多层前馈网络可以逼近任何函数。神经网络6（6）：861-867。
[110] Lichman，M.（2013）。UCI机器学习库。[在线]。可用：http://archive.ics.uci.edu/ml。
[111] Likas，A.和Stafylopatis，A.（2000年）。使用准牛顿方法训练随机神经网络。欧洲运筹学杂志126（2）：331-339。[在线]。可用：http://www.sciencedirect.com/science/article/pii/S0377221799004828。 ·Zbl 0960.90094号
[112] Liu，X.、Yan，S.和Jin，H.（2010）。投影非负图嵌入。图像处理，IEEE汇刊19（5）：1126-1137·Zbl 1371.68216号
[113] Lu，R.和Shen，Y.（2006）。基于随机神经网络模型和gabor滤波器的图像分割。医学和生物学会工程学，2005年。IEEE-EMBS 2005。第27届国际年会。IEEE，6464-6467。
[114] Makhzani，A.、Shlens，J.、Jaitly，N.和Goodfellow，I.J.（2015）。对手自动编码器。CoRR，腹肌/1511.055644，1-16。[在线]。可用：http://arxiv.org/abs/1511.05644。
[115] Mcculloch，W.S.&Pitts，W.（1943年）。神经活动内在思想的逻辑演算。数学生物物理公报5（4）：115-133。[在线]。可用：https://doi.org/10.1007/BF02478259。 ·Zbl 0063.03860号
[116] Metropolis，N.&Ulam，S.（1949年）。蒙特卡罗方法。《美国统计协会杂志》44（247）：335-341·Zbl 0033.28807号
[117] 厄克·G和卢卡斯·G（2007）。基于最大似然检测和随机神经网络的拒绝服务检测器。计算机期刊50（6）：717-727。[在线]。可用：http://dx.doi.org/10.1093/comjnl/bxm066。
[118] Park，J.&Sandberg，I.W.（1991）。使用径向基函数网络的通用近似。神经计算3（2）：246-257。
[119] Park，J.&Sandberg，I.W.（1993）。近似和径向基函数网络。神经计算5（2）：305-316。
[120] Paudel，I.、Pokhrel，J.、Wehbi，B.、Cavalli，A.和Jouaber，B.（2014年9月）。从无线网络中的mac参数估计视频qoe：一种随机神经网络方法。2014年第14届通信与信息技术国际研讨会（ISCIT），51-55。
[121] Pavlus，J.（2015）。搜索新机器。《科学美国人》312（5）：58-63。
[122] Phan，H.T.T.、Sternberg，M.J.E.和Gelenbe，E.（2012年）。使用随机神经网络校准蛋白质相互作用网络。2012年IEEE生物信息学和生物医学国际会议，2012年BIBM，美国宾夕法尼亚州费城，2012年10月4-7日，1-6日。[在线]。可用：https://doi.org/10.109/BIBM.2012.6392664。
[123] Preissl，R.、Wong，T.M.、Datta，P.、Flickner，M.、Singh，R.，Esser，S.K.、Risk，W.P.、Simon，H.D.和Modha，D.S.（2012年）。指南针：认知计算架构的可扩展模拟器。高性能计算、网络、存储和分析国际会议论文集。IEEE计算机学会出版社，54。
[124] 秦，Z.，于，F.，石，Z.和王，Y.（2006）。自适应惯性权重粒子群优化算法。人工智能和软计算国际会议。施普林格，450-459·Zbl 1298.90138号
[125] Radford，A.、Metz，L.和Chintala，S.（2015）。深度卷积生成对抗网络的无监督表示学习。CoRR，腹肌/1511.06434，1-16。[在线]。可用：http://arxiv.org/abs/1511.06434。
[126] Radhakrishnan，K.和Larijani，H.（2011年）。使用不同的随机神经网络结构评估分组网络上的感知语音质量。性能评估68（4）：347-360，g-Networks及其应用。[在线]。可用：http://www.sciencedirect.com/science/article/pii/S0166531611000101。
[127] Riedmiller，M.和Braun，H.（1993）。一种快速反向传播学习的直接自适应方法：rprop算法。IEEE神经网络国际会议。第1卷，586-591。
[128] Rosenblatt，F.（1958年）。感知器：大脑中信息存储和组织的概率模型。《心理学评论》65（6），386。
[129] Rosenblatt，F.（1961年）。神经动力学原理。感知器和脑机制理论，DTIC文件，技术代表。
[130] Rumelhart，D.E.、Hinton，G.E.和Williams，R.J.（1985）。通过错误传播学习内部表征，加州大学圣地亚哥拉霍亚分校认知科学研究所。
[131] Rumelhart，D.E.、Hinton，G.E.和Williams，R.J.（1986年）。并行分布式处理：认知微观结构的探索。在Rumelhart，D.E.，Mcclelland，J.L.，&，（eds.），ch.通过错误传播学习内部表征。第1卷，马萨诸塞州剑桥，美国：麻省理工学院出版社，318-362。[在线]。可用：http://dl.acm.org/citation.cfm？id=104279.104293。
[132] Sakellari，G.和Gelenbe，E.（2010年）。演示认知数据包网络对蠕虫攻击的恢复能力。第17届ACM计算机和通信安全会议，会议记录。美国医学会，636-638。
[133] Scarselli，F.&Tsoi，A.C.（1998年）。使用前馈神经网络的通用逼近：一些现有方法的综述和一些新结果。神经网络11（1）：15-37。
[134] Serrano，W.&Gelenbe，E.（2018年）。用于网络搜索的神经计算应用程序中的随机神经网络。神经计算280:123-134。
[135] Silver，D.，Huang，A.，Maddison，C.J.，Guez，A.，Sifre，L.，Van Den Driessche，G.，Schrittwieser，J.，Antonoglou，I.，Panneershelvam，V.，Lanctot，M.等人（2016年）。掌握深度神经网络和树搜索的围棋游戏。自然529（7587）：484-489。
[136] Springenberg，J.T.、Dosovitskiy，A.、Brox，T.和Riedmiller，M.（2014）。力求简单：全卷积网络，arXiv预印本arXiv:1412.6806。
[137] Srivastava，N.、Hinton，G.E.、Krizhevsky，A.、Sutskever，I.和Salakhutdinov，R.（2014）。Dropout：一种防止神经网络过度拟合的简单方法。机器学习研究杂志15（1），1929-1958·Zbl 1318.68153号
[138] Stinchcombe，M.&White，H.（1989）。使用带有非乙状体隐层激活函数的前馈网络的通用近似。1989年国际神经网络联合会议。第1卷，613-617。
[139] Storn，R.&Price，K.（1997年）。差分进化（Differential evolution）–一种简单高效的启发式算法，用于连续空间上的全局优化。《全球优化杂志》11（4）：341-359。[在线]。可用：https://doi.org/10.1023/A:1008202821328。 ·Zbl 0888.90135号
[140] Tang，J.、Deng，C.和Huang，G.-B.（2016）。多层感知器的极端学习机器。IEEE神经网络和学习系统汇刊27（4）：809-821。
[141] Teke，A.和Atalay，V.（2006年）。使用随机神经网络模型进行纹理分类和检索。计算管理科学3（3）：193-205·Zbl 1127.62089号
[142] Timotheou，S.（2008年）。随机神经网络的非负最小二乘学习。人工神经网络国际会议。斯普林格，195-204年。
[143] Timotheou，S.（2009）。一种新的随机神经网络权值初始化方法。神经计算73（1-3）：160-168。
[144] Timotheou，S.（2010）。随机神经网络：综述。计算机杂志53（3）：251-267。
[145] Vlontzos，A.（2017年5月）。rnn-elm分类器。2017年国际神经网络联合会议（IJCNN），2702-2707。
[146] Wachsmuth，E.、Oram，M.和Perrett，D.（1994年）。物体及其组成部分的识别：猕猴颞叶皮层单个单位的反应。大脑皮层4（5）：509-522。
[147] Wang，L.&Gelenbe，E.（2016）。认知数据包网络上的实时流量，3-21。
[148] Wang，L.&Gelenbe，E.（2018年）。云中任务的自适应调度。IEEE云计算汇刊6（1）：33-45。
[149] Wang，Y.-X.和Zhang，Y.-J.（2013）。非负矩阵分解：综述。IEEE知识与数据工程汇刊25（6）：1336-1353。
[150] Wen，W.，Wu，C.，Wang，Y.，Nixon，K.，Wu.，Q.，Barnell，M.，Li，H.，&Chen，Y.（2016）。一种新的学习方法，用于truenorth芯片上的推理准确性、核心占用和性能协同优化。设计自动化会议（DAC），2016年第53届ACM/EDAC/IEEE。IEEE，1-6。
[151] 维基百科撰稿人，“Perceptron”，2018年，[在线；2018年9月25日访问]。[在线]。可用：https://en.wikipedia.org/wiki/Perceptron。
[152] Wilson，D.R.和Martinez，T.R.（1996年）。异构径向基函数网络。神经网络国际会议论文集（ICNN 96），1263-1267。
[153] Yin，Y.（2018）。用于深度学习的随机神经网络，伦敦帝国理工学院，博士论文，可用inhttps://san.ee.ic.ac.uk/publications/PhDThesis_Yonghua_Yin_v31.pdf。
[154] Yin，Y.和Gelenbe，E.（2016）。深入学习致密核多层结构，arXiv预印本arXiv:1609.07160。
[155] Yin，Y.和Gelenbe，E.（2016年9月）。带简化随机神经网络的非负自动编码器，ArXiv电子打印。
[156] Yin，Y.和Gelenbe，E.（2017年5月）。用于深度学习的基于单细胞的随机神经网络。2017年国际神经网络联合会议（IJCNN），86-93。
[157] Yin，Y.和Gelenbe，E.（2018年）。一种基于尖峰随机神经网络函数逼近器的分类器，可在ResearchGate.net上获得预印本。
[158] Yin，Y.和Zhang，Y.（2012）。用于模式分类的切比雪夫多项式神经网络的权重和结构确定。软件11048。
[159] Yin，Y.，Wang，L.，&Gelenbe，E.（2017年5月）。用于云服务器中面向服务质量的服务器状态分类的多层神经网络。2017年国际神经网络联合会议（IJCNN），1623-1627。
[160] Yunong，Z.、Kene，L.和Ning，T.（2009年）。直接确定中心、方差和权重的rbf神经网络分类器。计算技术与自动化3002。
[161] 医学博士泽勒（2012）。ADADELTA：一种自适应学习速率方法。CoRR abs/1212.5701，1-6。[在线]。可用：http://arxiv.org/abs/1212.5701。
[162] Zhang，Y.，Yin，Y.、Yu，X.、Guo，D.和Xiao，L.（2012）。使用第1类切比雪夫多项式确定二输入神经网络的删减权值和结构。智能控制与自动化（WCICA），2012年IEEE第十届世界大会，700-705。
[163] Zhang，Y.、Yin，Y.、Guo，D.、Yu，X.和Xiao，L.（2014）。用于模式分类的切比雪夫多项式神经网络的基于交叉验证的权重和结构确定。模式识别47（10）：3414-3428·Zbl 1373.68362号
[164] Zhang，Y.，Yu，X.，Guo，D.，Yin，Y.和Zhang（2014）。通过交叉验证确定由第2类切比雪夫多项式激活的多输入前馈神经网络的权重和结构。神经计算与应用25（7-8）：1761-1770。
[165] 朱旭（2005）。半监督学习文献调查。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。