计算机科学>人工智能
标题: 因果关系解释和XAI
摘要: 尽管标准的机器学习模型被优化用于对观察结果进行预测,但它们越来越多地被用于对行动结果进行预测。 可解释人工智能(XAI)的一个重要目标是通过提供关于ML模型预测的解释来补偿这种不匹配,以确保它们是可靠的行动指导。 由于行动导向解释是因果解释,因此有关这一主题的文献开始接受有关因果模型文献的见解。 在这里,我通过正式定义充分解释和反事实解释的因果概念,进一步沿着这条道路前进了一步。 我展示了这些概念如何与现有工作相联系(并改进),并通过说明不同的解释在不同的情况下是如何指导行动的来激发它们的充分性。 此外,这项工作是第一次对完全建立在行动指导解释中的实际因果关系提供正式定义。 虽然这些定义是基于对XAI的关注,但对因果解释和实际因果关系的分析通常适用。 我还通过展示如何使用实际因果关系来改进路径特定的反事实公平的概念,触及了这项工作对人工智能中公平的重要性。