分段线性神经网络验证的分支与界
鲁迪·巴内尔（Rudy Bunel）、卢靖岳（Jingyue Lu）、伊尔克·图尔卡斯兰（Ilker Turkaslan）、菲利普·托尔（Philip H.S.Torr）、普希米特·科利（Pushmet Kohli）、巴万·库马尔; 21(42):1−39, 2020.
摘要
深度学习的成功及其在许多安全关键应用中的潜在应用推动了对神经网络（NN）模型形式验证的研究。在这种情况下，验证涉及证明或反驳一个NN模型满足某些输入-输出特性。尽管学习过的NN模型被誉为黑箱，而且理论上很难证明它们的有用属性，但研究人员通过利用其分段线性结构并从形式化方法（如Satisifiability Modulo Theory）中获得见解，成功地验证了一些模型类。然而，这些方法还远未扩展到实际的神经网络。为了促进这一关键领域的进展，我们利用混合整数线性规划（MIP）验证公式提出了一系列基于分支定界（BaB）的算法。我们表明，我们的系列包含以前的验证方法作为特殊情况。在BaB框架的帮助下，我们做出了三个关键贡献。首先，我们确定了新的方法，这些方法结合了多种现有方法的优点，实现了比以往技术水平更大的性能改进。其次，我们介绍了一种有效的ReLU非线性分支策略。这种分支策略使我们能够高效、成功地处理卷积网络体系结构中的高输入维问题，而以前的方法在这些问题上经常失败。最后，我们提出了综合测试数据集和基准，其中包括以前发布的测试用例的集合。我们使用这些数据集对现有算法和新算法进行了彻底的实验比较，并对影响验证问题难度的因素进行了包容性分析。
[腹肌]
[pdf格式][围兜]
