NNV公司

NNV:用于深层神经网络和学习支持的网络物理系统的神经网络验证工具。本文介绍了神经网络验证(NNV)软件工具,一个基于集合的深层神经网络(DNNs)和支持学习的网络物理系统(CPS)的验证框架。NNV的关键是一系列的可达性算法,这些算法使用各种集合表示,如多面体、星集、zonotopes和抽象域表示。NNV支持精确(健全和完全)和超近似(健全)可达性算法,以验证具有不同激活函数的前馈神经网络(FFNNs)的安全性和鲁棒性。对于具有学习能力的CPS,如包含神经网络的闭环控制系统,NNV为线性对象模型和具有分段线性激活函数的FFNN控制器(如ReLUs)提供精确和超近似的可达性分析方案。对于具有非线性对象模型的类似神经网络控制系统(NNCS),NNV通过将用于FFNN控制器的星集分析与基于CORA的非线性对象动力学分析相结合,支持过近似分析。我们使用两个实际案例来评估NNV:第一个是ACAS-Xu网络的安全验证,第二个是基于深度学习的自适应巡航控制系统的安全验证。