GAIA：挖掘基于梯度的归因异常用于分布外检测

的一部分神经信息处理系统进展36（NeurIPS 2023）主要会议轨道

作者

陈京刚、李俊杰、瞿晓阳、王建宗、万继光、晶晓

摘要

检测分布外（OOD）示例对于保证深度神经网络在现实世界中的可靠性和安全性至关重要。在本文中，我们提供了一个创新的视角来量化分布内（ID）和OOD数据之间的差异——分析模型试图解释其预测决策时产生的不确定性。我们观察到，基于梯度的属性方法在为OOD数据分配特征重要性时遇到了挑战，从而产生了不同的解释模式，这一观点由此得到了启发。因此，我们研究了属性梯度如何导致不确定的解释结果，并引入了两种形式的异常用于OOD检测：零偏差异常和通道平均异常。然后我们提出了GAIA，这是一种简单有效的方法，它结合了梯度异常检测和聚集。GAIA的有效性在常用（CIFAR）和大规模（ImageNet-1k）基准上进行了验证。具体而言，与先进的事后方法相比，GAIA在CIFAR10上将平均FPR95降低了23.10%，在CIFAR100上将平均FPR95降低了45.41%。