Shapley值估计的抽样置换
Rory Mitchell、Joshua Cooper、Eibe Frank、Geoffrey Holmes; 23(43):1−46, 2022.
摘要
基于Shapley值的博弈论属性技术用于解释黑盒机器学习模型，但其精确计算通常为NP-hard，需要对非平凡模型进行近似。由于Shapley值的计算可以表示为对一组排列的求和，因此常用的方法是对这些排列的子集进行采样以进行近似。不幸的是，标准蒙特卡罗抽样方法可能会表现出缓慢的收敛性，而更复杂的准蒙特卡罗方法尚未应用于置换空间。为了解决这个问题，我们研究了基于两类近似方法的新方法，并对它们进行了实证比较。首先，我们在包含置换函数的RKHS中演示求积技术，使用Mallows核结合核羊群和顺序贝叶斯求积。RKHS的观点也导致了准蒙特卡罗类型的误差边界，在排列上定义了一个可处理的差异度量。其次，我们利用超球面$\mathbb{S}^{d-2}$和置换之间的联系，创建实用的算法来生成具有良好特性的置换样本。实验表明，与现有方法相比，上述技术显著改进了Shapley值估计，在相同数量的模型评估中收敛到较小的RMSE。
[腹肌]
[pdf格式][围兜]
