×
盖伊，范登·布勒克;安东·利科夫;马克西米利安·施莱奇;丹·苏秋

关于沙普解释。 （英语） Zbl 07566000号

J.阿蒂夫。智力。研究（JAIR） 74, 851-886 (2022).
总结：沙普解释是可解释人工智能的一种流行的特征属性机制。他们使用游戏理论概念来衡量单个特征对机器学习模型预测的影响。尽管学术界和工业界最近都有很多兴趣，但尚不清楚沙普可以有效地计算常见机器学习模型的解释。在本文中，我们建立了计算沙普在三个重要的场景中进行解释。首先，我们考虑完全无序的数据分布，并表明计算沙普解释与计算模型期望值的复杂性相同。这种完全因子化的设置通常用于简化沙普计算，但我们的结果表明，对于常用的模型（如logistic回归），计算可能很困难。除了完全工业化分布之外，我们还展示了计算沙普对于一个非常简单的设置来说，解释已经很难了：计算沙普朴素贝叶斯分布上平凡分类器的解释。最后，我们展示了即使计算沙普经验分布为#P-hard。

引用于4文件

MSC公司：

68泰克 人工智能

关键词：

机器学习;机器学习

软件：

形状
PDF格式BibTeX公司 XML格式引用
\textit{G.Van den Broeck}等人，J.Artif。智力。研究（JAIR）74，851--886（2022；Zbl 07566000）
全文： DOI程序 arXiv公司

参考文献：

[1] Aas，K。；朱卢姆，M。；和罗兰，A.2019。当特征相关时解释单个预测：Shapley值的更准确近似值。arXiv预打印arXiv:1903.10464·Zbl 1520.68136号
[2] 阿雷纳斯，M。；Barcel´o，P。；贝托西，L。；和莫奈，M.2020。基于SHAPScore的确定性和可分解布尔电路解释的可拓性。arXiv预印本arXiv:2007.14045。
[3] Beame，P。；Van den Broeck，G.公司。；格里布科夫，E。；和Suciu，D.2015。对称加权一阶模型计数。第34届ACM数据库系统原理研讨会论文集，PODS 2015，澳大利亚维多利亚州墨尔本，2015年5月31日至6月4日，313-328。
[4] 贝托西，L。；李，J。；Schleich，M。；苏秋（D.Suciu）。；和Vagena，Z.2020。基于因果关系的分类结果解释。第四届端到端机器学习数据管理国际研讨会论文集，DEEM'20。美国纽约州纽约市：计算机协会。
[5] Bryant，R.E.，1986年。用于布尔函数操作的基于图的算法。计算机，IEEE汇刊100（8）：677-691·Zbl 0593.94022号
[6] 查维拉，M。；和Darwiche，A.2008。通过加权模型计数进行概率推断。人工智能172（6-7）：772-799·Zbl 1182.68297号
[7] Darwiche，A。；和Marquis，P.2002。知识汇编图。《人工智能研究杂志》17:229-264·Zbl 1045.68131号
[8] Datta，A。；Sen，S。；和Zick，Y.，2016年。通过定量输入影响实现算法透明度：学习系统的理论和实验。2016年5月22日至26日，美国加利福尼亚州圣何塞市，IEEE安全与隐私研讨会，SP2016，598-617。
[9] Elkind，E。；洛杉矶Goldberg。；Goldberg，P.W。；和Wooldridge，M.J.2008。一类易于处理和表达的边际贡献网及其应用。第七届国际自治代理和多代理系统联合会议（AAMAS 2008），葡萄牙埃斯托里尔，2008年5月12日至16日，第2卷，1007-1014·Zbl 1175.91022号
[10] 费拉拉，A。；潘·G。；和Vardi，M.Y.2005。验证中的树宽：本地与全局。在人工智能和推理编程逻辑国际会议上，489-503。斯普林格·Zbl 1143.68450号
[11] 盖德，K。；Geyik，S.C。；肯塔帕迪，K。；米塔尔五世。；和Taly，A.2019。工业中的可解释人工智能。第25届ACM SIGKDD知识发现与数据挖掘国际会议论文集，KDD’19，3203-3204。美国纽约州纽约市：计算机协会。
[12] Janzing，D。；未成年人。；和Bloebaum，P.2020。可解释人工智能中的特征相关性量化：一个因果问题。机器学习研究进展第108卷，2907-2916。PMLR公司。
[13] Khosravi，P。；Choi，Y。；梁，Y。；Vergari，A。；和Van den Broeck，G.2019a。关于预期预测的可追踪计算。神经信息处理系统研究进展32（NeurIPS）。
[14] Khosravi，P。；梁，Y。；Choi，Y。；和den Broeck，G.V.2019b。对分类器的期望是什么？关于缺失特征的Logistic回归的推理。第二十届国际人工智能联合会议论文集，2019年8月10日至16日，中国澳门，2019，2716-2724。
[15] Khosravi，P。；Vergari，A。；Choi，Y。；梁，Y。；和Van den Broeck，G.2020。处理决策树中的缺失数据：概率方法。在ICML（Artemiss）的学习艺术与缺失价值研讨会上。
[16] 库马尔，I.E。；Venkatasubramanian，S。；Scheidegger，C。；和Friedler，S.2020。Shapley-value-based解释作为特征重要性度量的问题。第37届国际机器学习会议论文集，奥地利维也纳，PMLR 1192020。
[17] 梁，Y。；和Van den Broeck，G.2019。学习逻辑电路。第33届人工智能大会论文集。
[18] 伦德伯格，S.M。；埃里昂，G。；陈，H。；DeGrave，A。；普鲁特金，J.M。；奈尔，B。；Katz，R。；Himmelfarb，J。；北班萨尔。；和Lee，S.2020。用可解释的树人工智能从局部解释到全球理解。自然机器智能2:56-67。
[19] 伦德伯格，S.M。；伊利昂，G.G。；和Lee，S.-I，2018。树集合的一致个性化特征归因。arXiv预印本arXiv:1802.03888。
[20] 伦德伯格，S.M。；Lee，S.，2017年。解释模型预测的统一方法。神经信息处理系统进展，4765-4774。
[21] Merrick，L。；和Taly，A.2020。解释游戏：使用Shapley值解释机器学习模型。国际机器学习和知识提取跨领域会议，17-38。斯普林格。
[22] Ng，A.Y。；和Jordan，M.I.2002。区分性分类器与生成性分类器：逻辑回归与朴素贝叶斯的比较。神经信息处理系统进展，841-848。
[23] Provan，J.S。；和Ball，M.O.1983年。计算割集和计算图连通概率的复杂性。SIAM J.计算12（4）：777-788·Zbl 0524.68041号
[24] Rendle，S.2010年。保理机。2010年IEEE国际数据挖掘会议，995-1000。电气与电子工程师协会。
[25] Roth，A.e.1988，《Shapley价值观：纪念Lloyd S.Shapley的论文》。剑桥大学出版社·兹比尔0694.00032
[26] 桑·T。；Beame，P。；和Kautz，H.A.2005。通过加权模型计数进行贝叶斯推理。InAAAI，第5卷，475-481页。
[27] Slack，D。；希尔加德，S。；贾，E。；辛格，S。；和Lakkaraju，H.2020。愚弄LIME和SHAP：对事后解释方法的对抗性攻击。InAAAI/ACM人工智能、道德和社会会议（AIES）。
[28] ˇ
[29] 斯特伦贝尔，E。；和Kononenko，I.2014。解释预测模型和具有特征贡献的单个预测。知识和信息系统41（3）：647-665。
[30] Sundararajan，M。；和Najmi，A.2020。模型解释的许多Shapley值。第37届国际机器学习会议记录，奥地利维也纳，PMLR 1192020。
[31] Van den Broeck，G。；Meert，W。；和Darwiche，A.2014。加权一阶模型计数的Skolemization。《知识表示和推理原则：第十四届国际会议论文集》，KR 2014，奥地利维也纳，2014年7月20日至24日。
[32] Vergari，A。；Choi，Y。；佩哈兹，R。；和Van den Broeck，G.2020。概率电路：表示、推理、学习和应用。AAAI教程。
[33] 魏伟（Wei，W.）。；和Selman，B.2005。一种新的模型计数方法。在可满足性测试理论和应用国际会议上，324-339。施普林格·Zbl 1128.68487号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。