×

基于SMT的尖峰神经网络建模与验证:案例研究。 (英语) Zbl 1529.68151号

Dragoi,Cezara(编辑)等人,《验证、模型检查和抽象解释》。第24届国际会议,VMCAI 2023,美国马萨诸塞州波士顿,2023年1月16-17日。诉讼程序。查姆:斯普林格。莱克特。注释计算。科学。13881, 25-43 (2023).
摘要:在本文中,我们使用可满足模理论(SMT)求解器对尖峰神经网络(SNN)进行了建模和验证的案例研究。SNN是一种特殊的神经网络,其结构和操作与人脑非常相似。与能量需求相对较少的传统网络相比,这些网络显示出类似的性能。我们讨论了SNN的不同性质及其功能。然后,我们使用Z3(一种流行的SMT解算器)对网络及其属性进行编码。具体来说,我们使用了线性实数运算(LRA)的理论。最后,我们提出了一个用于验证和对抗性鲁棒性分析的框架,并在Iris和MNIST基准上进行了演示。
关于整个系列,请参见[Zbl 1517.68010号].

MSC公司:

60年第68季度 规范和验证(程序逻辑、模型检查等)
2007年第68季度 受生物启发的计算模型(DNA计算、膜计算等)
92B20型 生物研究、人工生命和相关主题中的神经网络
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 规范和基准。https://github.com/Soham-Banerjee/SMT-Encoding-for-Spiking-Neural-Network(https://github.com/Soham-Banaerjee/SMT-Encoding-for-Spiking-Network)
[2] 阿鲁尔(Alur,R.)。;Peled,D.,《时间自动机,计算机辅助验证》,8-22(1999),海德堡:斯普林格·Zbl 1046.68574号 ·doi:10.1007/3-540-48683-63
[3] 阿曼,B。;Ciobanu,G.,加权峰值神经系统的建模和验证,理论。计算。科学。,623, 92-102 (2016) ·Zbl 1336.68064号 ·doi:10.1016/j.tcs.2015.11.005
[4] De Maria,E.,Di Giusto,C.,Laversa,L.:建模为带参数学习的时间自动机的尖峰神经网络(2018)
[5] De Maria,E。;Muzy,A。;加菲,D。;Ressouche,A。;格拉蒙特,F。;Cinquemani,E。;Donzé,A.,《模拟为同步反应系统的神经元原型的时间特性验证》,《混合系统生物学》,97-112(2016),Cham:Springer,Cham·Zbl 1428.92008年 ·doi:10.1007/978-3-319-47151-87
[6] 德明,V。;Nekhaev,D.,基于神经元活动竞争最大化的递归尖峰神经网络学习,Front。神经信息学。,12, 79 (2018) ·doi:10.3389/fninf.2018.00079
[7] Deng,L.,用于机器学习研究的手写数字图像MNIST数据库,IEEE信号处理。Mag.,29,6,141-142(2012)·doi:10.1109/MSP.2012.2211477
[8] 迪尔,PU;Cook,M.,使用尖峰时间依赖可塑性的数字识别的无监督学习,前沿。计算。神经科学。,9, 99 (2015) ·doi:10.3389/fncom.2015.00099
[9] Ding,J.,Yu,Z.,Tian,Y.,Huang,T.:深度峰值神经网络快速准确推理的最佳ANN-SNN转换(2021)
[10] Elboher,YY;J.Gottschlich。;Katz,G。;拉希里,斯洛伐克;Wang,C.,神经网络验证的基于抽象的框架,计算机辅助验证,43-65(2020),Cham:Springer,Cham·Zbl 1478.68154号 ·doi:10.1007/978-3-030-53288-83
[11] Eshraghian,J.K.等人:利用深度学习的经验教训训练峰值神经网络(2021年)
[12] Fisher,R.:Iris,《UCI机器学习库》(1988)。https://archive.ics.uci.edu/ml/datasets/Iris网站
[13] Gokulanathan,S。;Feldsher,A。;Malca,A。;巴雷特,C。;Katz,G。;李·R。;Jha,S。;Mavridou,A。;Giannakopoulou,D.,使用形式验证简化神经网络,NASA形式方法,85-93(2020),Cham:Springer,Cham·doi:10.1007/978-3-030-55754-65
[14] Goldberger,B.,Katz,G.,Adi,Y.,Keshet,J.:使用验证对深层神经网络进行最小修改。输入:LPAR23。LPAR-23:第23届程序设计、人工智能和推理逻辑国际会议,第73卷,第260-278页(2020年)
[15] 郭伟。;马萨诸塞州福达;上午Eltawil;Salama,KN,尖峰神经网络中的神经编码:鲁棒神经形态系统的比较研究,Front。神经科学。,15, 638474 (2021) ·doi:10.3389/fnins.2021.638474
[16] Katz,G.、Barrett,C.、Dill,D.L.、Julian,K.、Kochenderfer,M.J.:Reluplex:深层神经网络推理的微积分。形式方法系统。设计1-30(2021)·Zbl 1494.68167号
[17] Kim,T.,具有具有非线性权重更新的忆阻突触的Spiking神经网络(SNN),Front。计算。神经科学。,15 (2021) ·doi:10.3389/fncom.2021.646125
[18] Kuper,L.,Katz,G.,Gottschlich,J.,Julian,K.,Barrett,C.,Kochenderfer,M.:面向安全关键型深层网络的可扩展验证(2018)
[19] Lahav,O.,Katz,G.:使用形式验证修剪和切片神经网络(2021)
[20] 李,S。;张,Z。;毛,R。;肖,J。;Chang,L。;Zhou,J.,具有自适应时钟/事件驱动计算方案和在线学习的快速节能SNN处理器,IEEE Trans。电路系统。我是Regul。爸爸。,68, 4, 1543-1552 (2021) ·doi:10.10109/TCSI.2021.3052885
[21] 刘,TY;Mahjoubfar,A。;普鲁辛斯基博士。;Stevens,L.,基于内容的图像检索的神经形态计算,PLOS One,17,4,1-13(2022)·doi:10.1371/journal.pone.0264364
[22] Malik,N.:人工神经网络及其应用(2005)
[23] de Maria,E.,Gaffé,D.,Ressouche,A.,Girard Riboulleau,C.:减少峰值神经网络的模型检查方法。摘自:2018年生物信息学——第九届生物信息学模型、方法和算法国际会议,第1-8页(2018年)
[24] de Moura,L。;比约纳,N。;罗马克里希南,CR;Rehof,J.,Z3:高效SMT求解器,系统构建和分析的工具和算法,337-340(2008),海德堡:施普林格·doi:10.1007/978-3-540-78800-3_24
[25] Stimberg,M.,Brette,R.,Goodman,D.F.:Brian 2,一个直观高效的神经模拟器。eLife 8,e47314(2019)
[26] Tavanaei,A.,Ghodrati,M.,Kheradpisheh,S.R.,Masquelier,T.,Maida,A.S.:尖峰神经网络的深度学习(2018)
[27] Tjeng,V.,Xiao,K.,Tedrake,R.:使用混合整数规划评估神经网络的鲁棒性(2017)
[28] 于,Z。;阿卜杜勒加尼,AM;扎希德,A。;Heidari,H。;马萨诸塞州伊姆兰;阿巴斯,QH,基于硬件的人工智能hopfield神经网络的神经形态计算概述,IEEE Access,867085-67099(2020)·doi:10.1109/ACCESS.2020.2985839
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。