计算机科学>机器学习
标题: GAIA:挖掘基于梯度的归因异常用于分布外检测
摘要: 检测分布外(OOD)示例对于确保真实环境中深层神经网络的可靠性和安全性至关重要。 在本文中,我们提供了一个创新的视角来量化分布(ID)和OOD数据之间的差异——分析当模型试图解释其预测决策时出现的不确定性。 我们观察到,基于梯度的属性方法在为OOD数据分配特征重要性时遇到了挑战,从而产生了不同的解释模式,这一观点由此得到了启发。 因此,我们研究了属性梯度如何导致不确定的解释结果,并引入了两种形式的异常用于OOD检测:零偏差异常和通道平均异常。 然后我们提出了GAIA,这是一种简单有效的方法,它结合了梯度异常检测和聚集。 GAIA的有效性在常用(CIFAR)和大规模(ImageNet-1k)基准上进行了验证。 具体而言,与高级事后方法相比,GAIA将CIFAR10的平均FPR95降低了23.10%,将CIFAR100的平均FPR降低了45.41%。