MagNet公司 swMATH ID: 41285 软件作者： 孟东玉、郝晨 描述： MagNet：对抗对手的双刃剑。近年来，深度学习在难知觉问题上显示出良好的效果。然而，人们发现深度学习系统容易受到人类几乎察觉不到的微小对抗性扰动的影响。这种精心设计的扰动会导致深度学习系统输出错误的决策，并可能带来灾难性的后果。这些漏洞阻碍了安全性非常重要的深度学习系统的部署。保护深度学习系统的尝试要么针对特定的攻击，要么被证明是无效的。在本文中，我们提出了MagNet，这是一个用于防御神经网络分类器对抗对抗性示例的框架。MagNet不会修改受保护的分类器，也不知道生成对抗性示例的过程。MagNet包括一个或多个独立的检测网络和一个改革者网络。与以前的工作不同，Mag Net通过近似多个正常示例来学习区分正常示例和对抗示例。由于它不依赖于任何生成对抗性示例的过程，因此它具有强大的泛化能力。此外，MagNet通过将对抗性示例向流形移动来重构对抗性示例，这对于正确分类小扰动的对抗性示例是有效的。我们讨论了防御白盒攻击的固有困难，并提出了防御灰盒攻击的机制。受密码学中使用随机性的启发，我们建议使用多样性来加强MagNet。我们的经验表明，MagNet在黑匣子和灰匣子场景中对最先进的攻击是有效的，同时将正常示例的误报率保持在非常低的水平。 主页： https://arxiv.org/abs/1705.09064 源代码： https://github.com/GokulKarthik/MagNet.pytorch网站 依赖项： PyTorch公司 相关软件： 梯度-CAM;聪明人;ImageNet公司;CIFAR公司;深度傻瓜;AlexNet公司;Adv-BNN公司;亚当;PyTorch公司;形状;面具GAN;NATTACK公司;混淆;MNIST公司;TensorFlow公司;广告盒;艺术;模型动物园;二月;BadNets（BadNet） 引用于： 6文件 全部的 前5名32位作者引用 1 陈一舟 1 戴忠祥 1 Derek多兰 1 何德华 1 黄晓伟 1 丹尼尔·科宁 1 李天林 1 刘爱珊 1 刘向龙 1 低，布莱恩·金香 1 阿图罗·马尔班 1 穆勒，克劳斯·罗伯特 1 中岛，新一 1 加布里埃尔·拉斯拉 1 塞巴·罗勒 1 阮文杰 1 沃伊切赫·萨米克 1 詹姆斯·夏普。 1 维涅什·斯里尼瓦桑 1 孙友成 1 泰莫，Emese 1 Ivor Wai-Hung曾 1 范·格文（Marcel A.J.van Gerven）。 1 吴敏 1 谢宁 1 谢晓飞 1 徐一涛 1 易新平 1 尹、杰 1 于海斌 1 张崇志 1 周晓伟 全部的 前5名6篇连载文章中引用 1 人工智能 1 信息科学 1 神经网络 1 机器学习 1 人工智能研究杂志 1 计算机科学评论 在5个字段中引用 6 计算机科学（68至XX） 1 统计学（62-XX） 1 数值分析（65-XX） 1 统计力学，物质结构（82-XX） 1 博弈论、经济学、金融和其他社会和行为科学（91-XX） 按年份列出的引文