Reluplex公司

Reluplex:一个用于验证深层神经网络的有效SMT求解器。深度神经网络已经成为一种广泛使用的有效的方法来处理复杂的现实世界的问题。然而,将它们应用于安全关键系统的一个主要障碍是难以对它们的行为提供正式的保证。我们提出了一种新的,可扩展的,有效的技术来验证深度神经网络的性质(或提供反例)。该技术基于单纯形法,扩展到处理非凸校正线性单元(ReLU)激活函数,这是许多现代神经网络的关键组成部分。验证过程将神经网络作为一个整体来处理,而不做任何简化假设。我们在下一代无人机机载防撞系统(ACAS-Xu)的原型深神经网络实现上评估了我们的技术。结果表明,我们的技术可以成功地证明网络的性质,比用现有方法验证的最大网络大一个数量级。


zbMATH中的参考文献(参考文献20条)

显示第1到第20个结果,共20个。
按年份排序(引用)

  1. 卡尔,史蒂文;尼尔斯詹森;Topcu,Ufuk:部分可观测Markov决策过程的任务感知可验证RNN策略(2021)
  2. 科索,安东尼;莫斯,罗伯特J。;科伦,马克;李,里奇;Kochenderfer,Mykel J.:网络物理系统黑盒安全验证算法综述(2021)
  3. 甘贝拉,克劳迪奥;加达,比桑;Naoum Sawaya,Joe:机器学习的优化问题:调查(2021)
  4. 科佩茨基,安娜·凯瑟琳;Günnemann,Stephan:分类器与回归模型的可达集:(非)稳健性分析与稳健训练(2021)
  5. 穆罕默德·内贾德,萨拉;保尔森,布兰登;德什穆克,乔蒂莫伊五世。;王超:递归神经网络的微分验证(2021)
  6. Rössig,安加;Petkovic,Milena:ReLU神经网络验证进展(2021)
  7. 索图德,马修;Thakur,Aditya V.:SyReNN:分析深层神经网络的工具(2021年)
  8. 川,黄勇;帕尔,尼兰贾娜;曼扎纳斯·洛佩兹,迭戈;穆绍,帕特里克;杨晓东;阮、阮越;项伟明;巴克,斯坦利;Johnson,Taylor T.:分段深度神经网络的验证:带zonotope预滤波器的星集方法(2021)
  9. 吴惠慧;吕德云;崔腾祥;侯,刚;渡边正彦;孔伟强:SDLV:自动驾驶汽车转向角安全性验证(2021)
  10. 杨鹏飞;李建林;刘江超;黄成超;李仁觉;陈丽倩;黄晓伟;张立军:基于符号传播的深层神经网络鲁棒性验证(2021)
  11. 赵恒军;曾、夏;陈韬略;刘志明;伍德考克,吉姆:学习安全神经网络控制器与障碍证书(2021年)
  12. 安德森,罗斯;赫切特,乔伊;妈,威尔;Tjandraatmadja,基督徒;Vielma,Juan Pablo:训练神经网络的强混合整数规划公式(2020)
  13. 布内尔,鲁迪;伊尔克图尔卡斯兰;托尔,菲利普·H·S。;库马尔,M.帕万;吕静月;Kohli,Pushmeet:分段线性神经网络验证的分支与界(2020)
  14. 克罗齐,弗朗西斯科;劳伯,乔纳斯;Hein,Matthias:扩大随机无梯度对抗性攻击揭示了使用现有攻击对鲁棒性的高估(2020)
  15. Edward Ayes,Francisco Eiras,Majd Hawaly,Iain Whiteside:PaRoT:强健深层神经网络训练的实用框架(2020)阿尔十四
  16. Hoang Dung Tran,Xiaodong Yang,Diego Manzanas Lopez,Patrick Musau,Luan Vietuan Nguyen,Weiming Xiang,Stanley Bak,Taylor T Johnson:NNV:用于深层神经网络和学习的网络物理系统的神经网络验证工具(2020)阿尔十四
  17. 黄晓伟;丹尼尔·克罗宁;阮文杰;锋利,詹姆斯;孙友成;塔莫,埃梅斯;吴敏;易新平:深层神经网络的安全性与可信度调查:验证、测试、对抗性攻击与防御以及可解释性(2020)
  18. 久和岛,广石;安冈、广东弘;Nakae,Toshihiro:机器学习系统中的工程问题(2020)
  19. 王璐;张欢;易,金凤;谢朝瑞;姜元:跨越式攻击:用未标记数据加强黑盒攻击(2020)
  20. 吴敏;柳条,马修;阮文杰;黄晓伟;Kwiatkowska,Marta:基于博弈的具有可证明保证的深层神经网络的近似验证(2020)