二进制网络 swMATH ID: 35872 软件作者: 马蒂厄·库巴里奥(Matthieu Courbariaux)、伊泰·胡巴拉(Itay Hubara)、丹尼尔·苏德利(Daniel Soudry)、兰·埃尔·亚尼夫(Ran El-Yaniv)、约舒亚·本吉奥 描述: 二值化神经网络:训练权重和激活约束为+1或-1的深度神经网络。我们介绍了一种训练二值化神经网络(BNN)的方法,即在运行时使用二进制权重和激活的神经网络。在训练时,二进制权重和激活被用于计算参数梯度。在转发过程中,BNN大大减少了内存大小和访问,并用位操作取代了大多数算术操作,预计这将大大提高功率效率。为了验证BNN的有效性,我们在Torch7和Theano框架上进行了两组实验。在这两个方面,BNN在MNIST、CIFAR-10和SVHN数据集上取得了几乎最先进的结果。最后但并非最不重要的是,我们编写了一个二进制矩阵乘法GPU内核,使用该内核可以比使用未优化的GPU内核运行MNIST BNN快7倍,而不会损失任何分类准确性。培训和运行BNN的代码可在线获取。 主页: https://arxiv.org/abs/1602.02830 源代码: https://github.com/Matthieu Courbariaux/BinaryNet网站 相关软件: ImageNet公司;二进制连接;亚当;AlexNet公司;XNOR-网络;DoReFa-Net公司;CIFAR公司;阿达格拉德;github;MNIST公司;更快的R-CNN;NeST公司;AMC公司;PruneTrain公司;MobileNetV2手机;深度愚人;掌中宽带;FitNets公司;ProxylessNAS公司;移动网络 引用于: 31文件 全部的 前5名105位作者引用 5 Xin,Jack X。 5 尹鹏航 3 斯坦利·乔尔·奥斯尔 2 龙,济安 2 柳建城 2 齐英勇 2 沈左伟 2 丹尼尔·苏德利 2 杨海照 2 张世军 2 张帅 2 张,郑 1 Aleksić,达尼耶拉 1 乔纳森·阿什布罗克 1 皮埃尔·巴尔迪 1 罗恩·班纳 1 柴姆巴斯金 1 吉尔·本·沙洛姆 1 伊多·本·耶尔 1 约书亚·本吉奥 1 安德烈·路易斯·贝尔托齐 1 丹尼尔·宾斯托克 1 P.Jeffrey,Brantingham 1 亚历克斯·M·布朗斯坦。 1 陈洪刚 1 陈瑞芝 1 陈玉荣 1 布莱恩·克米尔 1 马蒂厄·库巴里奥 1 崔春峰 1 道尔巴耶夫,塔尔加特 1 丁文瑞 1 大卫·多尔曼 1 董银鹏 1 E、 渭南 1 兰·埃尔亚尼夫 1 莫舍·埃利亚索夫 1 冯俊熙 1 苏里雅·古纳塞卡尔 1 郭国栋 1 朱莉娅·古萨克 1 科尔·霍金斯 1 何晓海 1 费比安·赫尔德曼 1 霍弗,埃拉德 1 胡,袁 1 黄浩恩 1 意大利Hubara 1 阿塔州卡班 1 克莱门斯·卡纳 1 弗拉基米尔·卡泽耶夫。 1 克拉姆罗斯、凯瑟琳 1 李冰 1 李波 1 李建国 1 李玲 1 李倩晓 1 李树斌 1 李阳 1 李、姚 1 廖、珊 1 刘春雷 1 刘建庄 1 刘嘉勇 1 刘玲乔 1 刘星 1 低,布莱恩·金香 1 陆志钦 1 阿维·门德尔森 1 穆尼奥斯,冈萨罗 1 莫尔·施皮格尔·纳森 1 尤里·纳山 1 迪安娜·尼德尔 1 倪仁坤 1 Jelena R.Nikolić。 1 Oseledets、Ivan Valer’evich 1 阿纳斯塔西亚·佩里奇 1 佩里奇,佐兰·H。 1 菲利普·克里斯蒂安·彼得森 1 塞巴斯蒂安·波库塔 1 亚历山大·鲍威尔。 1 拉杰帕尔,莫希特 1 马琳娜·雷内斯 1 萨博、拉扬 1 大卫·萨阿德 1 彼得·萨多夫斯基 1 沈春华 1 内森·斯雷布罗 1 迈克尔·斯蒂格迈尔 1 苏,杭 1 Tai,Cheng先生 1 滕其志 1 埃兰·特里斯特 1 安德鲁·特纳。 1 安东·范登·亨格尔 1 王宝 1 保罗·W·威尔逊。 1 蒂娜·伍尔夫 1 肖秀春 1 法比奥·扎纳西 …还有5位作者 全部的 前5名18篇连载文章中引用 4 机器学习研究杂志(JMLR) 3 机器学习 3 国际计算机视觉杂志 3 数学科学研究 2 神经网络 2 神经计算 2 SIAM数据科学数学杂志 1 人工智能 1 应用力学与工程中的计算机方法 1 中国数学年鉴。B系列 1 计算机与运筹学 1 应用和计算谐波分析 1 计算数学进展 1 工程中的数学问题 1 离散优化 1 物理学杂志A:数学与理论 1 SIAM成像科学杂志 1 采样理论、信号处理和数据分析 全部的 前5名在14个字段中引用 27 计算机科学(68至XX) 8 运筹学、数学规划(90-XX) 4 统计学(62-XX) 2 数值分析(65-XX) 2 信息与通信理论、电路(94-XX) 1 线性代数和多线性代数;矩阵理论(15-XX) 1 范畴理论;同调代数(18-XX) 1 偏微分方程(35-XX) 1 近似值和展开值(41-XX) 1 变分法与最优控制;最优化(49至XX) 1 凸和离散几何(52至XX) 1 可变形固体力学(74-XX) 1 博弈论、经济学、金融和其他社会和行为科学(91-XX) 1 生物学和其他自然科学(92-XX) 按年份列出的引文