计算机工程与应用››2024,第60卷››发行(10): 61-75.内政部:10.3778/j.issn.1002-8331.2310-0362

•研究热点和评论• 以前的文章   下一篇文章

针对目标检测模型的物理对抗攻击综述

蔡伟、DI Xingyu、姜新浩、王欣、高伟杰  

  1. 火箭动力工程大学导弹工程学院,西安710025
  • 在线:2024-05-15 出版:2024-05-15

针对目标检测模型的物理对抗攻击综述

蔡伟,狄星雨,蒋昕昊,王鑫,高蔚洁  

  1. 火箭军工程大学 导弹工程学院,西安 710025

摘要:深度学习模型很容易受到对抗性样本的影响,即使是肉眼无法察觉的微小图像扰动也会使训练有素的深度学习模型失效。最近的研究表明,这些扰动可以存在于物理世界中。本文深入研究了深度学习对象检测模型中的物理对抗攻击,阐明了物理对抗攻击的概念,并概述了此类攻击对对象检测的一般过程。根据攻击任务的不同,从车辆检测和行人检测两个方面综述了近年来针对目标检测网络的一系列物理对抗攻击方法。简要介绍了针对目标检测模型的其他攻击、其他攻击任务和其他攻击方法。讨论了当前物理对抗攻击面临的挑战,指出了对抗训练的局限性,并提出了未来的发展方向和应用前景。

关键词: 对抗性攻击, 身体攻击, 深度学习, 深度神经网络

摘要:深度学习模型容易受到对抗样本的影响,在图像上添加肉眼不可见的微小扰动就可以使训练有素的深度学习模型失灵。最近的研究表明这种扰动也存在于现实世界中。聚焦于深度学习目标检测模型的物理对抗攻击,明确了物理对抗攻击的概念,并介绍了目标检测物理对抗攻击的一般流程,依据攻击任务的不同,从车辆检测和行人检测两个方面综述了近年来一系列针对目标检测网络的物理对抗攻击方法,简单介绍了其他针对目标检测模型的攻击、其他攻击任务和其他攻击方式。最后讨论了物理对抗攻击当前面临的挑战,引出了对抗训练的局限性,并展望了未来可能的发展方向和应用前景。

关键词: 对抗攻击, 物理攻击, 深度学习, 深度神经网络