二进制连接 swMATH ID: 35871 软件作者: 马蒂厄·库巴里奥(Matthieu Courbariaux)、约书亚·本吉奥(Yoshua Bengio)、珍妮·皮埃尔·戴维(Jean-Pierre David) 描述: BinaryConnect:在传播过程中使用二进制权重训练深度神经网络。深度神经网络(DNN)在广泛的任务中取得了最先进的结果,在大型训练集和大型模型中取得了最好的结果。在过去,GPU实现了这些突破,因为它们具有更高的计算速度。未来,在训练和测试期间更快的计算对于进一步进步和低功耗设备上的消费应用可能至关重要。因此,人们对用于深度学习(DL)的专用硬件的研究和开发非常感兴趣。二进制权重,即仅限于两个可能值(例如-1或1)的权重,通过用简单的累加代替许多乘法累加操作,将给专用的DL硬件带来巨大的好处,因为乘法器是神经网络数字实现中空间和功耗最大的组件。我们引入了BinaryConnect,这是一种在正向和反向传播期间使用二进制权重训练DNN的方法,同时保留累积梯度的存储权重的精度。与其他丢包方案一样,我们证明了BinaryConnect作为正则化器,并且我们在置换invariant MNIST、CIFAR-10和SVHN上使用BinaryConnection获得了接近最新的结果。 主页: https://arxiv.org/abs/1511.00363 源代码: https://github.com/MatthieuCourbariaux/BinaryConnect网站 依赖项: 蟒蛇 关键词: 机器学习(cs.LG);计算机视觉和模式识别(cs.CV);神经和进化计算(cs.NE) 相关软件: ImageNet公司;XNOR-网络;AlexNet公司;亚当;二进制网络;DoReFa-Net公司;CIFAR公司;更快的R-CNN;阿达格拉德;MNIST公司;PyTorch公司;DARTS公司;西雅娜;卡费;ThiNet公司;TensorFlow公司;效率网;github;RMS公司;宾州树库 引用于: 33文件 全部的 前5名93位作者引用 5 Xin,Jack X。 5 尹鹏航 三 斯坦利·乔尔·奥斯尔 三 萨博、拉扬 2 龙,济安 2 柳建城 2 齐英勇 2 保罗·W·威尔逊。 2 法比奥·扎纳西 2 张帅 1 乔纳森·阿什布罗克 1 Baydin,Atm Günesh 1 约书亚·本吉奥 1 安德烈·路易斯·贝尔托齐 1 卞凤淼 1 P.Jeffrey,Brantingham 1 陈玉荣 1 迈克尔·康诺利(Michael P.Connolly)。 1 马蒂厄·库巴里奥 1 杰弗里·S·H·克鲁特韦尔。 1 邓磊 1 邓,向 1 董银鹏 1 E、 渭南 1 兰·埃尔亚尼夫 1 方彪 1 弗朗西斯科·费尔南德斯(Francisco E.jun Fernandes)。 1 克劳迪奥·甘贝拉 1 布鲁诺加夫拉诺维奇 1 比桑·加达 1 尼尔·加尼 1 威森特·格里彭 1 格伦蒂尔克,塞马莱丁·西南 1 尼古拉斯·海姆。 1 黄海平 1 黄一华 1 伊泰州胡巴拉 1 焦、彭 1 居西平 1 阿塔·卡班 1 李国奇 1 李建国 1 李杰 1 李倩晓 1 李伟林 1 刘、任 1 刘晓宇 1 低,布莱恩·金香 1 洛韦,马提亚斯 1 埃里克·莱布兰德 1 马新迪 1 西奥·A·玛丽。 1 Naoum Sawaya,乔 1 迪安娜·尼德尔 1 倪仁坤 1 聂、严 1 大冢、高沼 1 巴拉克·A·皮尔默特。 1 裴靖 1 塔贾纳·彼得罗夫 1 亚历山大·鲍威尔。 1 阿列克谢·安德烈耶维奇·拉杜尔 1 拉杰帕尔,莫希特 1 瓦西姆·拉瓦特 1 丹尼斯·雷宾 1 Issei佐藤 1 杰弗里·马克·西斯金德 1 丹尼尔·苏德利 1 苏,杭 1 Tai,Cheng(程泰) 1 唐华金 1 唐元燕 1 安德鲁·特纳。 1 弗米特、弗兰克 1 王宝 1 王增辉 1 蒂娜·伍尔夫 1 吴振志 1 徐晓亮 1 徐卓尔 1 严锐 1 Gary G.Yen。 1 索玛·横滨 1 袁春峰 1 张金杰 1 张太平 1 张晓群 1 张业红 1 张忠飞 1 赵林昌 1 周一轩 1 朱广辉 1 朱军 全部的 前5名21篇连载文章中引用 5 机器学习研究杂志(JMLR) 4 机器学习 2 神经网络 2 神经计算 2 数学科学研究 1 统计物理杂志 1 信息科学 1 中国数学年鉴。B系列 1 构造性近似 1 信息与计算 1 科学计算杂志 1 欧洲运筹学杂志 1 SIAM科学计算杂志 1 应用和计算谐波分析 1 国际计算机视觉杂志 1 复杂性 1 国际小波、多分辨率和信息处理杂志 1 统计力学杂志:理论与实验 1 SIAM成像科学杂志 1 SIAM数据科学数学杂志 1 采样理论、信号处理和数据分析 全部的 前5名13个领域引用 24 计算机科学(68至XX) 9 运筹学、数学规划(90-XX) 7 统计学(62-XX) 5 数值分析(65-XX) 三 生物学和其他自然科学(92-XX) 2 范畴理论;同调代数(18-XX) 2 概率论与随机过程(60-XX) 2 统计力学,物质结构(82-XX) 1 近似和展开(41至XX) 1 变分法与最优控制;最优化(49至XX) 1 博弈论、经济学、金融学以及其他社会和行为科学(91-XX) 1 系统论;控制(93至XX) 1 信息与通信理论、电路(94-XX) 按年份列出的引文