×

使用学习稀疏布尔公式的有效方法解释AI决策。 (英语) 兹比尔1468.68149

小结:在本文中,我们考虑从主动查询可以将这些示例标记为正或负的预言机获得的示例中学习布尔公式的问题。这个问题在机器学习和形式化方法社区中都受到了关注,并且已经证明在一般情况下以及在许多限制条件下,它具有指数的最坏情况复杂性。在本文中,我们重点学习稀疏布尔公式,该公式仅依赖于原子命题整体词汇表中的一个小(但未知)子集。我们提出了两种算法——第一种是基于Hamming空间中的二进制搜索,第二种是基于布尔超立方体上的随机行走,以在给定的置信度下学习这些稀疏布尔公式。这种稀疏性假设的动机是挖掘人工智能(AI)算法所做决策的解释问题,其中单个决策的解释可能依赖于算法所有输入的一个小但未知的子集。我们演示了这些算法在自动生成这些决策的解释中的使用。这些解释将使智能系统更易于理解,并对人类用户负责,有助于更轻松的审计,并在发生故障时提供诊断信息。所提出的方法将人工智能算法视为一个黑盒预言机;因此,它对特定的人工智能算法具有广泛的适用性和不确定性。我们表明,这两种算法所需的示例数量仅随原子命题词汇表的大小呈对数增长。我们在一组不同的案例研究中说明了我们的方法的实际有效性。

MSC公司:

68时01分 人工智能的一般主题
68问题32 计算学习理论
68T05型 人工智能中的学习和自适应系统

软件:

MNIST公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Abouzied,A.,Angluin,D.,Papadimitriou,C.,Hellerstein,J.M.,Silberschatz,A.:通过示例学习和验证量化布尔查询。摘自:ACM数据库系统原理研讨会,第49-60页。ACM(2013)
[2] Angluin,D.:计算学习理论:调查和精选书目。摘自:ACM计算理论研讨会,第351-369页。ACM(1992)
[3] Angluin,D.,Kharitonov,M.:什么时候会员资格查询没有帮助?摘自:ACM计算理论研讨会,第444-454页。ACM(1991年)·Zbl 0827.68039号
[4] Baehrens,D.,Schroeter,T.,Harmeling,S.,Kawanabe,M.,Hansen,K.,Aáller,K.-R.M.:如何解释个人分类决策。J.马赫。学习。1803-1831年(2010年)第11号决议(6月)·Zbl 1242.62049号
[5] Bittner,B.、Bozzano,M.、Cimatti,A.、Gario,M.和Griggio,A.:单调成本函数的帕累托最优参数综合。收录于:FMCAD,第23-30页(2014年)
[6] Boigelot,B.,Godefroid,P.:根据反应程序的动态观察自动合成规范。收录于:TACAS,第321-333页(1997年)
[7] Boneh,A.,Hofri,M.:耦合收集器问题重新审视了工程问题和计算方法。斯托克。型号13(1)、39-66(1997)·Zbl 0871.60009号 ·doi:10.1080/1532634970807412
[8] Botinćan,M.,Babić,D.:Sigma*:输入-输出规范的符号学习。收录于:POPL,第443-456页(2013年)·Zbl 1301.68095号 ·doi:10.1145/2480359.2429123
[9] Cook,B.,Kroening,D.,Rümmer,P.,Wintersteiger,C.M.:位向量关系的排名函数综合。FMSD 43(1),93-120(2013)·兹比尔1291.68138
[10] de Fortuny,E.J.,Martens,D.:基于主动学习的教学规则提取。IEEE传输。神经网络。学习。系统。26(11), 2664-2677 (2015) ·doi:10.1109/TNNLS.2015.2389037
[11] Dutta,S.,Jha,S.、Sanakaranarayanan,S.和Tiwari,A.:深层神经网络的输出范围分析。arXiv预印本,arXiv:1709.09130(2017)
[12] Ehrenfeucht,A.,Haussler,D.,Kearns,M.,Valiant,L.:学习所需示例数量的一般下限。Inf.计算。82(3), 247-261 (1989) ·Zbl 0679.68158号 ·doi:10.1016/0890-5401(89)90002-3
[13] Elizalde,Francisco;恩里克·苏卡尔(Enrique Sucar);朱丽叶·诺格斯;Reyes,Alberto,《基于马尔可夫决策过程的解释生成》,51-62(2009),柏林,海德堡·doi:10.1007/978-3-642-05258-35
[14] 冯、曹;斯蒂芬·马格尔顿(Stephen Muggleton),《高阶逻辑中的归纳概括》(Towards Inductive Generalisation in Higher Order Logic),154-162(1992)·doi:10.1016/B978-1-55860-247-2.50025-5
[15] Godefroid,P.,Taly,A.:从i/o样本自动合成符号指令编码。SIGPLAN不是。47(6),441-452(2012)·doi:10.1145/2345156.2254116
[16] Goldsmith,J.、Sloan,R.H.、SzöRényi,B.、Turán,G.:理论修正与查询:喇叭、只读和奇偶公式。Artif公司。因特尔。156(2), 139-176 (2004) ·Zbl 1085.68071号 ·doi:10.1016/j.artint.2004.01.002
[17] 阿里·古芬克尔(Arie Gurfinkel);安东·贝洛夫(Anton Belov);Marques-Silva,Joao,《合成安全位精度不变量》,93-108(2014),柏林,海德堡·doi:10.1007/978-3-642-54862-87
[18] Harbers,M.,Meyer,J.-J.,van den Bosch,K.:通过自我解释代理解释模拟。J.人工制品。Soc.Soc.模拟。12, 6 (2010)
[19] Hellerstein,L.,Servedio,R.A.:关于富布尔函数类的pac学习算法。西奥。计算。科学。384(1), 66-76 (2007) ·Zbl 1124.68052号 ·doi:10.1016/j.tcs.2007.05.018
[20] Jha,S.、Gulwani,S.,Seshia,S.A.、Tiwari,A.:In:Oracle-guided component-based program synthesis。收录于:ICSE,第215-224页。IEEE(2010)
[21] Jha,S.,Raman,V.,Pinto,A.,Sahai,T.,Francis,M.:关于学习稀疏布尔公式来解释人工智能决策。收录于:美国国家航空航天局正式方法第九届国际研讨会,2017年5月16日至18日,美国加利福尼亚州莫菲特菲尔德,NFM 2017,会议记录,第99-114页(2017)·Zbl 1468.68149号
[22] Jha,S.,Seshia,S.A.:通过归纳学习的形式合成理论。In:Acta Informatica,综合专刊(2016)·Zbl 1380.68124号
[23] Jha,S.,Seshia,S.A.,Tiwari,A.:混合系统最佳开关逻辑的合成。收录于:EMSOFT,第107-116页。ACM(2011)
[24] Kearns,M.、Li,M.和Valiant,L.:学习布尔公式。J.ACM 41(6),1298-1328(1994)·Zbl 0830.68108号 ·数字对象标识代码:10.1145/195613.195656
[25] Kearns,M.,Valiant,L.:学习布尔公式和有限自动机的密码限制。J.ACM 41(1),67-95(1994)·Zbl 0807.68073号 ·数字对象标识代码:10.1145/174644.174647
[26] Lakkaraju,H.,Bach,S.H.,Leskovec,J.:可解释决策集:描述和预测的联合框架。摘自:第22届ACM SIGKDD知识发现和数据挖掘国际会议记录,第1675-1684页。ACM(2016)
[27] LaValle,S.M.:规划算法。剑桥大学出版社,剑桥(2006)·Zbl 1100.68108号 ·doi:10.1017/CBO9780511546877
[28] Lecun,Y.,Cortes,C.:MNIST手写数字数据库。http://yann.lecun.com/exdb/mnist/
[29] Lee,J.,Moray,N.:人机系统中的信任、控制策略和功能分配。人类工效学35(10),1243-1270(1992)·doi:10.1080/00140139208967392
[30] Mansour,Yishay,《通过傅里叶变换学习布尔函数》,391-424(1994),马萨诸塞州波士顿·Zbl 0845.68093号 ·doi:10.1007/978-1-4615-2696-4_11
[31] Nau,D.,Ghallab,M.,Traverso,P.:自动化规划:理论与实践。Morgan Kaufmann出版社,旧金山(2004年)·Zbl 1074.68613号
[32] Pitt,L.,Valiant,L.G.:从示例中学习的计算限制。J.ACM 35(4),965-984(1988)·Zbl 0662.68086号 ·数字对象标识代码:10.1145/48014.63140
[33] Raman,V.:多机器人高级任务的反应式切换协议。收录于:IEEE/RSJ,第336-341页(2014年)
[34] Raman,V.,Lignos,C.,Finucane,C.,Lee,K.C.T.,Marcus,M.P.,Kress-Gazit,H.:对不起,Dave,我恐怕我做不到:用自然语言解释无法实现的机器人任务。In:机器人:科学与系统(2013)
[35] Reynolds,A.,Deters,M.,Kuncak,V.,Tinelli,C.,Barrett,C.:SMT合成中的反例引导量化器实例化,第198-216页(2015)·Zbl 1381.68059号
[36] 里贝罗,M.T.,辛格,S.,Guestrin,C.:我为什么要相信你解释任何分类器的预测。摘自:第22届ACM SIGKDD知识发现和数据挖掘国际会议记录,第1135-1144页。ACM(2016)
[37] 里贝罗,M.T.,辛格,S.,Guestrin,C.:“为什么我要相信你?”:解释任何分类器的预测。收录于:KDD,第1135-1144页(2016)
[38] Robnik-Šikonja,M.,Kononenko,I.:解释单个实例的分类。IEEE传输。知识。数据工程20(5),589-600(2008)·doi:10.1109/TKDE.2007.190734
[39] Russell,J.,Cohn,R.:OODA循环。In:按需预订(2012)
[40] Sankaranarayanan,S.:使用理想不动点为混合系统自动生成不变量。收录于:HSCC,第221-230页(2010年)·Zbl 1360.34082号
[41] Sankaranarayanan,S.、Miller,C.、Raghunathan,R.、Ravanbakhsh,H.、Fainekos,G.:基于模型的糖尿病患者胰岛素输注泵使用参数合成方法。摘自:Allerton通信、控制和计算年度会议,第1610-1617页(2012年)
[42] Sankaranarayanan,S.,Sipma,H.B.,Manna,Z.:构建混合系统的不变量。FMSD 32(1),25-55(2008)·兹比尔1133.68365
[43] Štrumbelj,E.,Kononenko,I.:用特征贡献解释预测模型和个别预测。KIS 41(3),647-665(2014)
[44] 城市,卡特里娜;阿里·古芬克尔(Arie Gurfinkel);Kahsai,Temesghen,《从比特和碎片合成排名函数》,54-70(2016),柏林,海德堡·doi:10.1007/978-3-662-49674-94
[45] Yuan,C.,Lim,H.,Lu,T.-C.:贝叶斯网络中最相关的解释。J.人工制品。因特尔。研究(JAIR)42,309-352(2011)·Zbl 1263.68161号
[46] Zintgraf,L.M.,Cohen,T.S.,Adel,T.,Welling,M.:可视化深度神经网络决策:预测差异分析。arXiv预印arXiv:1702.04595(2017)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。