BadNets（BadNet） swMATH ID: 41281 软件作者： 顾天宇、布伦丹·多兰·加维特、西德哈斯·加格 描述： BadNets:识别机器学习模型供应链中的漏洞。基于深度学习的技术在各种识别和分类任务中取得了最先进的性能。然而，这些网络的训练通常计算成本很高，需要在许多GPU上进行数周的计算；因此，许多用户将培训过程外包给云端，或依赖于预先训练好的模型，然后对这些模型进行微调以完成特定任务。本文表明，外包训练引入了新的安全风险：对手可以创建一个恶意训练的网络（后门神经网络或emph{BadNet}），该网络在用户训练和验证样本上具有最先进的性能，但在特定攻击选择输入上表现不佳。我们首先通过创建后门手写数字分类器，在一个玩具示例中探索BadNets的属性。接下来，我们通过创建美国路标分类器，在停车标志上添加特殊标签时，将停车标志识别为限速标志，从而在更现实的场景中演示后门；此外，我们还显示，即使网络稍后被重新训练以完成另一项任务，我们的美国路标检测器中的后门也会持续存在，并导致{25}的精确度下降 主页： https://arxiv.org/abs/1708.06733 源代码： https://github.com/Kooscii/BadNets网站 关键词： 密码学；安全；arXiv_cs。CR公司；机器学习；arXiv_cs。LG公司；BadNets（BadNet）；深度学习 相关软件： ImageNet公司；AlexNet公司；梯度-CAM；模型动物园；AI2公司；Reluplex公司；科学Py；古罗比；DARTS公司；Caltech-UCSD鸟类；移动网络；效率网；MobileNetV2手机；形状；MS-COCO公司；OverFeat（覆盖特征）；Xception公司；SqueezeNet公司；拼图-CAM；Res2Net公司 引用于： 4文件 标准条款 1出版物描述软件 年份 BadNets:识别机器学习模型供应链中的漏洞arXiv公司顾天宇、布伦丹·多兰·加维特、西德哈斯·加格 2017 全部的 前5名被13位作者引用 1 窦德静 1 黄思玉 1 季、石磊 1 Koh，Pang Wei先生 1 塞缪尔·科斯特 1 李旭红 1 梁佩西 1 Pham、Long H。 1 赫尔穆特·谢本 1 冈特·塞姆勒 1 雅各布·斯坦哈特 1 孙骏 1 熊浩毅 2篇连载文章中引用 2 机器学习 1 数学地球科学 在3个字段中引用 三 计算机科学（68至XX） 1 统计学（62-XX） 1 地球物理学（86-XX） 按年份列出的引文