Reluplex公司

Reluplex：一个用于验证深层神经网络的有效SMT求解器。深度神经网络已经成为一种广泛使用的有效的方法来处理复杂的现实世界的问题。然而，将它们应用于安全关键系统的一个主要障碍是难以对它们的行为提供正式的保证。我们提出了一种新的，可扩展的，有效的技术来验证深度神经网络的性质（或提供反例）。该技术基于单纯形法，扩展到处理非凸校正线性单元（ReLU）激活函数，这是许多现代神经网络的关键组成部分。验证过程将神经网络作为一个整体来处理，而不做任何简化假设。我们在下一代无人机机载防撞系统（ACAS-Xu）的原型深神经网络实现上评估了我们的技术。结果表明，我们的技术可以成功地证明网络的性质，比用现有方法验证的最大网络大一个数量级。