×

坏蛋

swMATH标识: 41281
软件作者: 天宇谷,布伦丹·多兰·加维特,悉达特·加尔格
说明: BadNets:识别机器学习模型供应链中的漏洞。基于深度学习的技术在各种识别和分类任务上取得了最先进的性能。然而,这些网络训练的计算成本很高,需要在许多gpu上进行数周的计算;因此,许多用户将培训过程外包给云,或依赖于预先培训的模型,然后针对特定任务进行微调。在本文中,我们证明外包训练引入了新的安全风险:对手可以创建一个恶意训练的网络(后门神经网络,或者emph{BadNet}),它在用户的训练和验证样本上具有最先进的性能,但在特定攻击者选择的输入上表现不佳。我们首先通过创建一个后门手写数字分类器来研究BadNets的属性。接下来,我们通过创建一个美国街道标志分类器,在停车标志上添加特殊标签时,将停车标志识别为限速,从而在更真实的场景中演示后门;此外,我们还展示了在我们的美国路标检测器中的后门可以持续存在,即使网络后来为另一个任务而重新训练,并导致{25}的精确度下降
主页: https://arxiv.org/abs/1708.06733
关键词: 密码学;安全;arXiv公司;机器学习;arXiv公司;坏蛋;深度学习
相关软件: 模型动物园;图像网;广告盒;艺术;二月;特洛伊;特罗伊德尔;DEEPSEC公司;磁铁;克利夫汉;VG面2;CIFAR公司;火把;蟒蛇;特洛伊动物园;梯度凸轮;MNIST公司;初始-v4;霓虹灯;MXNet公司
参考文献: 2个出版物

标准条款

1个出版物描述软件
BadNets:识别机器学习模型供应链中的漏洞
天宇谷,布伦丹·多兰·加维特,悉达特·加尔格
2017

引用2个系列

1 机器学习
1 数学地学

按年份引用出版物