论文2024/703

一种高效可扩展的神经网络零知识证明框架

摘要

近年来，云供应商已经开始通过提供训练有素的神经网络模型的接口，为数据分析提供付费服务。然而，面对懒惰或恶意的供应商，客户缺乏工具来验证云供应商提供的结果是否是来自特定模型的正确推断。名为零知识证明（ZKP）的加密原语解决了这个问题。它使结果可以验证，而不会泄漏有关模型的信息。不幸的是，现有的神经网络ZKP方案具有很高的计算开销，尤其是对于神经网络中的非线性层。本文提出了一种高效且可扩展的ZKP神经网络框架。我们的工作改进了非线性层证明的性能。与以往依赖位分解技术的工作相比，我们将复杂的非线性关系转换为范围和指数关系，这大大减少了证明非线性层所需的约束数量。此外，我们采用模块化设计，使我们的框架与更多的神经网络兼容。具体来说，我们提出了两个增强的范围和查找证明作为基本块。它们可以有效地证明区间关系和指数关系的满足性。然后，我们使用少量范围和指数关系约束原始非线性运算的正确计算。最后，我们构建了从原始操作到整个神经网络的ZKP框架，为扩展到各种神经网络提供了灵活性。我们实现了卷积和变换神经网络的ZKP。评估结果表明，与最先进的工作Mystique相比，我们的工作在分离非线性层上实现了超过168.6美元乘以$（高达477.2美元乘以$）的加速，在整个ResNet-101卷积神经网络上实现了41.4美元乘以$的加速。此外，我们的工作可以在287.1$秒内证明GPT-2，一个参数为1.17$百万美元的变压器神经网络，比ZKML实现了35.7倍的加速，这是一项支持变压器神经网络的最先进的工作。