深度神经网络可解释性方法的基准

的一部分神经信息处理系统进展32（NeurIPS 2019）

作者

Sara Hooker、Dumitru Erhan、Pieter-Jan Kindermans、Been Kim

摘要

我们提出了深度神经网络中特征重要性估计近似准确性的经验度量。我们在几个大规模图像分类数据集上的结果表明，许多流行的可解释性方法产生的特征重要性估计并不比随机指定的特征重要性好。只有某些基于集合的方法——VarGrad和SmoothGrad-Squared——优于这种随机重要性分配。集成的方式仍然很关键，我们表明有些方法并不比底层方法好，但计算负担要高得多。