榜样不够，学会批评！可解释性批评

的一部分神经信息处理系统进展29（NIPS 2016）

作者

Been Kim、Rajiv Khanna、Oluwasanmi O.Koyejo

摘要

基于实例的解释被广泛用于提高高度复杂分布的可解释性。然而，原型本身很少足以代表复杂性的要点。为了让用户构建更好的心智模型并理解复杂的数据分布，我们还需要{em批评}来解释原型捕捉到了什么。在贝叶斯模型批评框架的激励下，我们开发了能够有效学习原型和批评的\texttt{MMD-critical}，旨在帮助人类理解。一项人体实验研究表明，MMD-critical选择了有助于促进人类理解和推理的原型和批评。我们还通过最近的原型分类器评估了\texttt{MMD-critic}选择的原型，显示了与基线相比的竞争性能。