跳到主要内容
研究论文
开放式访问

SDLV:自驾汽车转向角安全性验证

作者信息和声明
出版:2021年6月1日出版历史
跳过抽象节

摘要

摘要

在过去十年里,无人驾驶汽车取得了重大进展,比如在没有任何人为干预的情况下行驶了数百万英里。然而,将基于深度神经网络(DNN)的系统应用于自动驾驶汽车时的行为安全无法得到保证。现实世界中已经发生了几起涉及自动驾驶汽车的事故,其中一些导致了致命碰撞。在本文中,我们提出了一种新的自动验证自动驾驶汽车转向角安全性的技术。该技术基于深度学习验证(DLV),这是一种用于图像分类神经网络安全性的自动验证框架。我们利用神经元覆盖和松弛关系对DLV进行扩展,以解决预测行为的判断问题,从而实现自动驾驶汽车转向角安全性的验证。我们评估了NVIDIA端到端自动驾驶架构的技术,该架构是许多现代自动驾驶汽车的关键组成部分。实验结果表明,我们的技术可以成功地发现给定区域内存在的对抗性错误分类(即错误的转向决策)。因此,我们可以实现安全验证(如果没有发现所有DNN层的错误分类,在这种情况下,网络可以说是稳定的或可靠的w.r.t.转向决策)或伪造(在这种情况中,可以使用对抗性示例来微调网络)。

工具书类

  1. [公元14年]阿尔霍夫M多兰·约翰·M使用可达性分析对自动化道路车辆进行在线验证IEEE Trans机器人201430490391810.1109/TRO.2014.2312453谷歌学者谷歌学者交叉引用交叉引用
  2. 【BIL+16】Bastani O、Ioannou Y、Lampropoulos L、Vytiniotis D、Nori AV、Criminisi A(2016)《带约束的神经网络鲁棒性测量》。主题:神经信息处理系统进展29:2016年12月5日至10日在西班牙巴塞罗那举行的神经信息处理体系年会,第2613-2621页谷歌学者谷歌学者
  3. 【BLPL06】Bengio Y、Lamblin P、Popovici D、Larochelle H(2006)《深度网络的贪婪分层训练》。摘自:《神经信息处理系统的进展》19,第二十届神经信息处理体系年会论文集,加拿大不列颠哥伦比亚省温哥华,2006年12月4-7日,第153-160页谷歌学者谷歌学者
  4. 【BTD+16】Bojarski M、Del Testa D、Dworakowski D、Firner B、Flepp B、Goyal P、Jackel LD、Monfort M、Muller U、Zhang J、Zhang-X、Zhao J、Zieba K(2016)《自动驾驶汽车的端到端学习》。CoRR中,arXiv:1604.07316谷歌学者谷歌学者
  5. [第16章]司机模型(2016)谷歌学者谷歌学者
  6. 【2017年12月】数字没有撒谎:自动驾驶汽车越来越好(2017)谷歌学者谷歌学者
  7. 【DERW98】Hinton GE,Rumelhart DE,Williams RJ(1998)通过反向传播误差学习表示。In:认知建模,1998年谷歌学者谷歌学者
  8. 【Epo16】时代模型(2016)谷歌学者谷歌学者
  9. 【FFF15】Fawzi A、Fawzi O、Frossard P(2015)《分类器对对抗扰动的鲁棒性分析》。CoRR公司,arXiv:150202590谷歌学者谷歌学者
  10. [FSA17]Feth P、Schneider D、Adler R(2017),自治系统概念安全监管定义和评估框架。In:计算机安全、可靠性和安全——第36届国际会议,2017年9月13日至15日,意大利特伦托SAFECOMP 2017,会议记录,第135–148页谷歌学者谷歌学者
  11. 【GBC16】古德费罗IJ本吉奥YCourville AC公司深度学习2016自适应计算与机器学习麻省理工学院出版社,柏林1373.68009谷歌学者谷歌学者数字图书馆数字图书馆
  12. [谷歌16]谷歌的自动驾驶汽车引发了其首次撞车事故(2016年)谷歌学者谷歌学者
  13. [HK11]Hauke J,Kossowski T(2011)相同数据集上Pearson和Spearmans相关系数值的比较。收录:Quaestions geographicae,第87页谷歌学者谷歌学者
  14. [HKWW17]Huang X,Kwiatkowska M,Wang S,Wu M(2017)深度神经网络的安全验证。In:计算机辅助验证——2017年7月24日至28日在德国海德堡举行的2017年CAV第29届国际会议,会议记录,第一部分,第3-29页谷歌学者谷歌学者
  15. [华]黄X谷歌学者谷歌学者
  16. [KBD+17a]Katz G、Barrett CW、Dill DL、Julian K、Kochenderfer MJ(2017)Reluplex:验证深层神经网络的高效SMT解算器。收件人:计算机辅助验证——2017年7月24日至28日在德国海德堡举行的2017年CAV第29届国际会议,会议记录,第一部分,第97–117页谷歌学者谷歌学者
  17. [KBD+17b]Katz G,Barrett CW,Dill DL,Julian K,Kochenderfer MJ(2017)Reluplex:一种用于验证深度神经网络的高效SMT求解器。CoRR公司,arXiv:1702.01135谷歌学者谷歌学者
  18. 【KCDK15】Kane A、Chowdhury O、Datta A、Koopman P(2015)《自主研究车辆(ARV)系统运行时监控案例研究》。参加:运行时验证–第六届国际会议,2015年9月22日至25日,奥地利维也纳,RV 2015。会议记录,第102–117页谷歌学者谷歌学者
  19. [Ker19]Keras(2019年)。https://keras.io网址谷歌学者谷歌学者
  20. 【KP16】Kalra N,Paddock SM(2016)《安全驾驶:证明自动驾驶汽车的可靠性需要行驶多少英里?》?。In:交通研究A部分:政策与实践,第94卷,第182C193页谷歌学者谷歌学者
  21. 【NH10】Nair V,Hinton GE(2010),整流线性单元改善了受限的Boltzmann机器。在:第27届机器学习国际会议记录(ICML-10),2010年6月21-24日,以色列海法,第807-814页谷歌学者谷歌学者
  22. 【NKS19】Naumann M,Königshof H,Stiller C(2019)混合交通中的车道变换安全平稳。参加:2019年IEEE智能交通系统会议,2019年ITSC,2019月27日至30日,新西兰奥克兰,第1832-1837页谷歌学者谷歌学者
  23. 【PCYJ17】Pei K,Cao Y,Yang J,Jana S(2017)深度探索:深度学习系统的自动白盒测试。摘自:2017年10月28日至31日在中国上海举行的第26届操作系统原理研讨会论文集,第1-18页谷歌学者谷歌学者
  24. 【PKA19】Pek C、Koschi M、Althoff M(2019)具有安全保障的自动驾驶车辆运动规划的在线验证框架。输入:AAET谷歌学者谷歌学者
  25. [PMG+16]Papernot N、McDaniel PD、Goodfellow IJ、Jha S、Celik ZB、Swami A(2016)使用对抗性示例对深度学习系统进行实际黑盒攻击。CoRR公司,arXiv:1602.02697号谷歌学者谷歌学者
  26. [PT12]普利纳L塔切拉A挑战SMT求解器验证神经网络AI通讯2012252117135301256910.3233/AIC-2012-0525谷歌学者谷歌学者交叉引用交叉引用
  27. 【PZA17】Pek C、Zahn P、Althoff M(2017)《基于正式交通规则验证自动驾驶车辆换道操作的安全性》。摘自:IEEE智能车辆研讨会,2017年第四届,2017年6月11-14日,美国加利福尼亚州洛杉矶,第1477-1483页谷歌学者谷歌学者
  28. [坡道16]兰博模型(2016)谷歌学者谷歌学者
  29. [冲压17]兰博模型(2017)。https://github.com/udacity/self-driving-car/tree/master/steering-models/community-models/rambo谷歌学者谷歌学者
  30. [RKW+18]Roohi N、Kaur R、Weimer J、Sokolsky O、Lee I(2018),自驾汽车验证基准。CoRR,arXiv:1806.08810谷歌学者谷歌学者
  31. [SEBD20]Stahl T、Eicher M、Betz J、Diermeyer F(2020)《自动驾驶汽车在线验证概念——轨迹规划模块的实证研究》。CoRR公司,arXiv:2005.07740号谷歌学者谷歌学者
  32. [SHE+17]Schürmann B、Hess D、Eilbrecht J、Stursberg O、Köster F、Althoff M(2017)使用形式化方法确保计划运动的驾驶性。在:第20届IEEE智能交通系统国际会议,ITSC 2017,日本横滨,2017年10月16日至19日,第1–8页谷歌学者谷歌学者
  33. [SHR15]Rishi K,Samer H,Chris R(2015),使用卷积神经网络进行图像识别。2015年技术报告谷歌学者谷歌学者
  34. [拼写04]斯皮尔曼C(1904)两个事物之间联系的证明和测量。美国心理学杂志72C101谷歌学者谷歌学者
  35. 【SSS17】Shalev-Shwartz S、Shammah S、Shashua A(2017)关于安全可扩展自动驾驶汽车的正式模型。CoRR公司,arXiv:1708.06374谷歌学者谷歌学者
  36. 【苏丹】Sully Chen。驱动数据集谷歌学者谷歌学者
  37. 【2018年上半年】深度神经网络的安全性和可靠性:一项调查。CoRR公司,arXiv公司:1812.08342, 2018. 撤回谷歌学者谷歌学者
  38. 【深证+14】Szegedy C、Zaremba W、Sutskever I、Bruna J、Erhan D、Goodfellow IJ、Fergus R(2014)《神经网络的有趣特性》。参加:2014年4月14日至16日在加拿大阿联酋班夫举行的第二届国际学习代表大会,ICLR 2014,会议记录谷歌学者谷歌学者
  39. 【苔丝18】特斯拉表示,致命撞车事故中的车辆处于自动驾驶状态(2018年)谷歌学者谷歌学者
  40. 【TPJR18】Tian Y,Pei K,Jana S,Ray B(2018)深度测试:深度神经网络驱动的自动驾驶汽车的自动化测试。摘自:2018年5月27日至6月3日在瑞典哥德堡举行的第40届国际软件工程会议记录,第303–314页谷歌学者谷歌学者
  41. 【TYCY98】Cheung SC,Chen TY,Yiu SM(1998)变形测试:生成下一个测试用例的新方法。香港科技大学计算机科学系技术报告、技术报告HKUST-CS98-01谷歌学者谷歌学者
  42. [Ube18]涉及自动驾驶uber的致命车祸表明,涉及自动驾驶车辆的软件、硬件和测试程序存在重大缺陷(2018年)谷歌学者谷歌学者
  43. [Z319]Z3(2019)。http://rise4fun.com/z3谷歌学者谷歌学者
  44. [ZZZ+18]Zhang M,Zhang Y,Zhang-L,Liu C,Khurshid S(2018)Deeproad:基于Gan的自动驾驶系统变形测试和输入验证框架。收录:第33届ACM/IEEE自动化软件工程国际会议论文集,ASE 2018,法国蒙彼利埃,2018年9月3日至7日,第132–142页谷歌学者谷歌学者

建议

评论

登录选项

检查您是否可以通过登录凭据或您的机构访问本文。

登录

完全访问权限

  • 发布于

    封面图像计算的形式方面
    计算的形式方面 第33卷第3期
    形式方法与人工智能专题
    2021年6月
    156页
    国际标准编号:0934-5043
    EISSN公司:1433-299X年
    期刊目录

    ©英国计算机学会2021

    出版商

    Springer-Verlag公司

    柏林,海德堡

    出版历史

    • 出版:2021年6月1日
    • 认可的:2021年1月30日
    • 收到:2020年9月10日
    发布于fac公司第33卷第3期

    限定符

    • 研究论文
  • 文章指标

    • 下载次数(过去12个月)107
    • 下载次数(最近6周)12

    其他指标

PDF格式

以PDF文件查看或下载。

PDF格式

电子阅读器

使用eReader联机查看。

电子阅读器