×
亚辛·伊扎;阿列克谢·伊格纳提耶夫;若昂·西尔瓦侯爵

关于解决决策树中的解释冗余问题。 （英语） Zbl 07603113号

J.阿蒂夫。智力。研究（JAIR） 75, 261-321 (2022).
摘要：决策树（DT）概括了机器学习（ML）模型可解释性的理想。决策树的可解释性通过所谓的内在可解释性激发了可解释性方法，这是最近将可解释ML模型应用于高风险应用的提议的核心。DT可解释性的信念是合理的，因为DT预测的解释通常被认为是简洁的。实际上，在DT的情况下，解释与DT路径相对应。由于决策树在理想情况下是浅的，因此路径包含的特征远远少于特征总数，因此DT中的解释应该简洁，因此可以解释。本文提供了理论和实验论据，证明只要决策树的可解释性等同于解释的简洁性，那么决策树就不应该被认为是可解释的。本文引入了逻辑严格的路径解释和路径解释冗余，并证明了存在一些函数，决策树必须显示解释冗余比实际路径解释任意大的路径。本文还证明了只有非常有限的一类函数才能用没有解释冗余的DT表示。此外，本文还包括实验结果，证明路径解释冗余在决策树中普遍存在，包括使用不同树学习算法获得的路径解释冗余，但也存在于广泛的公共决策树中。本文还提出了消除路径解释冗余的多项式时间算法，这些冗余在实际中需要的计算时间可以忽略不计。因此，这些算法可以间接地获得决策树的不可约且简洁的解释。此外，本文还包含了与对偶性和解释枚举相关的新结果，这些结果基于使用SAT解算器作为证词产生的NP有机体。

引用于4文件

MSC公司：

68泰克 人工智能

关键词：

决策树;自动推理;约束编程;可满足性

软件：

HgMUS公司;J工具;GOSDT公司;4.5条;PMLB公司;勒图尔;信息技术产业;PySAT公司;形状;UCI-毫升;AIspace公司;MediBoost公司;PyDL8.5型;Scikit公司
PDF格式BibTeX公司 XML格式引用
\textit{Y.Izza}等人，J.Artif。智力。研究（JAIR）75，261--321（2022；Zbl 07603113）
全文： DOI程序 arXiv公司

参考文献：

[1] Adadi，A.和Berrada，M.（2018年）。窥视黑盒子：关于可解释人工智能（XAI）的调查。IEEE接入，6:52138-52160。
[2] Aglin，G.、Nijssen，S.和Schaus，P.（2020a）。使用缓存分支定界搜索学习最优决策树。InAAAI，第3146-3153页。
[3] Aglin，G.、Nijssen，S.和Schaus，P.（2020b）。PyDL8.5：学习最优决策树的库。第5222-5224页。
[4] Alos，J.、Ansotegui，C.和Torres，E.（2021）。使用MaxSAT学习最优决策树。CoRR，abs/2110.13854。
[5] Alpaydin，E.（2014）。机器学习简介。麻省理工学院出版社·Zbl 1298.68002号
[6] Alpaydin，E.（2016）。《机器学习：新人工智能》麻省理工出版社。
[7] Angwin，J.，Larson，J.、Mattu，S.和Kirchner，L.（2016）。机器偏差。propublica.org，https://bit.ly/3d8UZkJ。
[8] Appuswamy，R.、Franceschetti，M.、Karamchandani，N.和Zeger，K.（2011年）。用于计算的网络编码：割集边界。IEEE传输。信息理论，57（2）：1015-1030·Zbl 1366.90030号
[9] Arenas，M.、Baez，D.、Barcel´o，P.、P´erez，J.和Subercaseaux，B.（2021）。模型可解释性的符号语言基础。InNeurIPS。
[10] Arif，M.F.，Menc´­11 a，C.和Marques-Silva，J.（2015）。角公式的有效MUS枚举及其公理精确定位应用。InSAT，第324-342页·兹比尔1471.68173
[11] Arrieta，A.B.，Rodr´ónguez，N.D.，Ser，J.D.，Bennetot，A.，Tabik，S.，Barbado，A.，Garc´´un A，S.、Gil-Lopez，S.和Molina，D.，Benjamins，R.，Chatila，R.和Herrera，F.（2020年）。可解释人工智能（XAI）：概念、分类、机遇和挑战，面向负责任的人工智能。信息融合，58:82-115。
[12] Asher，N.、Paul，S.和Russell，C.（2021）。公平和充分的解释。InCD-MAKE，第79-97页。
[13] Audemard，G.、Bellart，S.、Bounia，L.、Koriche，F.、Lagniez，J.和Marquis，P.（2021）。布尔分类器的计算可懂度。InKR，第74-86页。
[14] Audemard，G.、Koriche，F.和Marquis，P.（2020年）。基于编译表示的可处理XAI查询。InKR，第838-849页。
[15] Avellaneda，F.（2019年）。从大型数据集中学习最优决策树。CoRR，abs/1904.06314。
[16] Avellaneda，F.（2020年）。最优决策树的有效推理。InAAAI，第3195-3202页。
[17] Bach，S.、Binder，A.、Montavon，G.、Klauschen，F.、Müuller，K.-R.和Samek，W.（2015）。通过分层相关传播对非线性分类器决策进行像素级解释。公共科学图书馆，10（7）：e0130140。
[18] Bailey，J.、Manoukian，T.和Ramamohanarao，K.（2003年）。超图横截的快速算法及其在新兴模式挖掘中的应用。InICDM，第485-488页。
[19] Bandi，H.和Bertsimas，D.（2021年）。多样性的代价。CoRR，abs/2107.03900。
[20] Barcel´o，P.、Monet，M.、P´erez，J.和Subercaseaux，B.（2020年）。通过计算复杂性的透镜来模拟可解释性。在NeurIPS中。
[21] Belov，A.、Lync，I.和Marques-Silva，J.（2012）。实现高效MUS提取。AI通讯。，25(2):97-116. ·Zbl 1248.68450号
[22] Berthold，M.R.、Borgelt，C.、H¨oppner，F.和Klawonn，F.（2010年）。《智能数据分析指南-如何智能地理解真实数据》，计算机科学文本第42卷。斯普林格·Zbl 1210.68049号
[23] Bertsimas，D.和Dunn，J.（2017）。最佳分类树。机器。学习。，106(7):1039- 1082. ·Zbl 1455.68159号
[24] Bertsimas，D.、Dunn，J.、Gibson，E.和Orfanoudaki，A.（2020a）。最优生存树。CoRR，abs/2012.04284。
[25] Bertsimas，D.、Dunn，J.和Mundru，N.（2019a）。最优规定树。信息优化杂志，1（2）：164-183。
[26] Bertsimas，D.、Dunn，J.、Pawlowski，C.、Silberholz，J.，Weinstein，A.、Zhuo，Y.D.、Chen，E.和Elfiky，A.A.（2018a）。应用信息学决策支持工具预测癌症患者的死亡率。JCO临床癌症信息学，2:1-11。
[27] Bertsimas，D.、Dunn，J.、Pawlowski，C.和Zhuo，Y.D.（2019b）。稳健的分类。INFORMS优化杂志，1（1）：2-34。
[28] Bertsimas，D.、Dunn，J.、Steele，D.W.、Trikalinos，T.A.和Wang，Y.（2019c）。机器学习最优分类树和儿科急救应用研究网络头部创伤决策规则的比较。《美国医学会杂志儿科》，173（7）：648-656。
[29] Bertsimas，D.、Dunn，J.、Velmahos，G.C.和Kaafarani，H.M.（2018b）。手术风险不是线性的：在急诊手术风险（波特）计算器中推导和验证一种新颖、用户友好、基于机器学习的预测最优树。外科年鉴，268（4）：574-583。
[30] Bertsimas，D.、Kung，J.、Trichakis，N.、Wang，Y.、Hirose，R.和Vagefi，P.A.（2019d）。肝移植候选者死亡率优化预测的开发和验证。美国移植杂志，19（4）：1109-1118。
[31] Bertsimas，D.、Li，M.L.、Paschalidis，I.C.和Wang，T.（2020b）。减少普外科手术后30天医院再次入院的处方分析。公共科学图书馆，15（9）：e0238118。
[32] Bertsimas，D.、Masiakos，P.T.、Mylonas，K.S.和Wiberg，H.（2019e）。预测年轻儿科患者的颈椎损伤：一种最佳树人工智能方法。儿科外科杂志，54（11）：2353-2357。
[33] Bertsimas，D.、Orfanoudaki，A.和Weiner，R.B.（2019f）。冠心病患者的个性化治疗：机器学习方法。CoRR，abs/1910.08483。
[34] Bertsimas，D.、Orfanoudaki，A.和Weiner，R.B.（2020c）。冠心病患者的个性化治疗：一种机器学习方法。卫生保健管理科学，23（4）：482-506。
[35] Bertsimas，D.、Pauphilet，J.、Stevens，J.和Tandon，M.（2021年）。使用可解释的分析预测大型医院的住院流量。制造和服务运营管理。
[36] Bertsimas，D.和Stellato，B.（2021年）。优化的声音。机器。学习。，110(2):249- 277. ·Zbl 07432802号
[37] Bertsimas，D.和Wiberg，H.（2020年）。肿瘤学中的机器学习：方法、应用和挑战。JCO临床癌症信息学，4:885-894。
[38] Bessiere，C.、Hebrard，E.和O'Sullivan，B.（2009年）。最小化决策树大小作为组合优化。InCP，第173-187页。
[39] Bienvenu，M.（2009年）。素蕴涵和素蕴涵：从命题逻辑到模态逻辑。J.阿蒂夫。智力。研究，36:71-128·Zbl 1179.68149号
[40] Biere，A.、Heule，M.、van Maaren，H.和Walsh，T.，编辑（2021年）。可满足性手册。IOS出版社·Zbl 1456.68001号
[41] Birnbaum，E.和Lozinskii，E.L.（2003）。不一致系统的一致子集：结构和行为。J.实验理论。Artif公司。智力。，15(1):25-46. ·Zbl 1025.68090号
[42] Blanc，G.、Lange，J.和Tan，L.（2021年）。高效、简洁、准确的解释。InNeurIPS。
[43] Blockeel，H.和Raedt，L.D.（1998年）。一阶逻辑决策树的自上而下归纳。Artif公司。智力。，101(1-2):285-297. ·Zbl 0909.68034号
[44] Boumazouza，R.、Alili，F.C.、Mazure，B.和Tabia，K.（2020年）。反事实解释的象征方法。在SUM中，第270-277页·Zbl 1517.68325号
[45] Boumazouza，R.、Alili，F.C.、Mazure，B.和Tabia，K.（2021）。ASTERYX：一种基于卫星的模型无关方法，用于符号和基于分数的解释。《公民权利和政治权利国际公约》，第120-129页。
[46] Bramer，M.（2020年）。数据挖掘原理，第4版。计算机科学本科专题。斯普林格·Zbl 1435.68005号
[47] Breiman，L.（2001）。统计建模：两种文化。统计科学，16（3）：199-231·Zbl 1059.62505号
[48] Breiman，L.、Friedman，J.H.、Olshen，R.A.和Stone，C.J.（1984）。分类和回归树。华兹华斯·兹伯利0541.62042
[49] Breslow，L.A.和Aha，D.W.（1997年）。简化决策树：调查。知识工程评论，12（1）：1-40。
[50] Brodley，C.E.和Utgoff，P.E.（1995年）。多元决策树。机器。学习。，19(1):45- 77. ·兹比尔08316.8091
[51] Camburu，O.、Giunchiglia，E.、Foerster，J.、Lukasiewicz，T.和Blunsom，P.（2019年）。我能相信解释者吗？验证事后解释方法。CoRR，abs/1910.02065。
[52] Cho，B.-J.、Kim，K.M.、Bilegsaikhan，S.-E.和Suh，Y.J.（2020年）。机器学习改进了韩国乳腺癌化疗患者中性粒细胞减少性发热的预测。科学报告，10（1）：1-8。
[53] Choi，A.、Shih，A.、Goyanka，A.和Darwiche，A.（2020年）。关于随机森林行为的符号编码。CoRR，abs/2007.01493。
[54] 库克，S.A.（1971年）。理论证明程序的复杂性。在Harrison，M.A.、Banerji，R.B.和Ullman，J.D.，STOC编辑，第151-158页·Zbl 0253.68020号
[55] Cooper，M.C.和Marques-Silva，J.（2021）。关于分类器解释决策的可处理性。在米歇尔·L.D.，CP编辑，第21:1-21:18页。
[56] Crama，Y.和Hammer，P.L.（2011）。布尔函数-理论、算法和应用。剑桥大学出版社·Zbl 1237.06001号
[57] Darwiche，A.（2020）。AI中逻辑的三个现代角色。InPODS，第229-243页。
[58] Darwiche，A.和Hirth，A.（2020年）。关于决策背后的原因。InECAI，第712-720页。
[59] Darwiche，A.和Marquis，P.（2021）。布尔逻辑中的量化文字及其在可解释AI.J.Artif中的应用。智力。研究·Zbl 1522.68526号
[60] Demirovic E.、Lukina A.、Hebrard E.、Chan J.、Bailey J.、Leckie C.、Ramamohanarao K.和Stuckey P.J.（2022年）。Murtree：通过动态规划和搜索的最佳决策树。J.马赫。学习。研究，23:26:1-26:47·Zbl 07625179号
[61] Demirovic，E.和Stuckey，P.J.（2021）。非线性度量的最优决策树。在AAAI中，第3733-3741页。
[62] Dillig，I.、Dillig、T.、McMillan，K.L.和Aiken，A.（2012年）。SMT的最低满意任务。《加拿大民航法》，第394-409页。
[63] Dimanov，B.、Bhatt，U.、Jamnik，M.和Weller，A.（2020年）。你不应该相信我：学习模型可以通过多种解释方法掩盖不公平。InECAI，第2473-2480页。
[64] Duda，R.O.、Hart，P.E.和Stork，D.G.（2001）。模式分类。313 ·Zbl 0968.68140号
[65] D’zeroski，S.和Lavra’c，N.，编辑（2001年）。关系数据挖掘。斯普林格·Zbl 1003.68039号
[66] Eiter，T.和Gottlob，G.（1995年）。识别超图的最小横截和相关问题。SIAM J.计算。，24(6):1278-1304. ·Zbl 0842.05070号
[67] El Hechi，M.W.、Maurer，L.R.、Levine，J.、Zhuo，D.、El Moheb，M.、Velmahos，G.C.、Dunn，J.，Bertsimas，D.和Kaafarani，H.M.（2021）。急诊普外科和急诊剖腹手术患者急诊手术风险（波特）计算器中基于人工智能的预测最优树的验证。美国外科学院学报，232（6）：912-919。
[68] Flach，P.A.（2012年）。机器学习-使数据有意义的算法的艺术和科学。杯·Zbl 1267.68010号
[69] Fletcher，S.和Islam，M.Z.（2019年）。具有差异隐私的决策树分类：一项调查。ACM计算。调查。，52(4):83:1-83:33.
[70] Fredman，M.L.和Khachiyan，L.（1996年）。单调析取范式对偶的复杂性。《算法杂志》，21（3）：618-628·Zbl 0864.68038号
[71] Freitas，A.A.（2013）。可理解的分类模型：立场文件。SIGKDD探索，15（1）：1-10。
[72] Gennatas，E.D.、Friedman，J.H.、Ungar，L.H.、Pirrachio，R.、Eaton，E.、Reichmann，L.G.、Interian，Y.、Luna，J.M.、Simone，C.B.、Auerbach，A.等人（2020年）。专家增强的机器学习。《美国国家科学院院刊》，117（9）：4571-4577。
[73] Gorji，N.和Rubin，S.（2021年）。在存在约束的情况下进行分类器决策的充分理由。CoRR，abs/2105.06001。
[74] Gorji，N.和Rubin，S.（2022年）。在存在域约束的情况下进行分类器决策的充分理由。InAAAI。
[75] Guidotti，R.、Monreale，A.、Ruggieri，S.、Turini，F.、Giannotti，F.和Pedreschi，D.（2019年）。黑箱模型解释方法综述。ACM计算。调查。，51(5):93:1- 93:42.
[76] Hachtel，G.D.和Somenzi，F.（2006年）。逻辑综合和验证算法。斯普林格·Zbl 1149.94016号
[77] Holzinger，A.、Goebel，R.、Fong，R.，Moon，T.、M¨uller，K.和Samek，W.编辑（2022年）。xxAI-超越可解释的AI-国际研讨会，与ICML 2020联合举办，2020年7月18日，奥地利维也纳，修订和扩展论文，计算机科学讲稿第13200卷。斯普林格。
[78] Holzinger，A.、Saranti，A.、Molnar，C.、Biecek，P.和Samek，W.（2020年）。可解释的人工智能方法-简要概述。InxxAI，第13-38页。
[79] Hu，H.、Siala，M.、Hebrard，E.和Huguet，M.（2020年）。使用MaxSAT学习最优决策树及其在AdaBoost中的集成。InIJCAI，第1170-1176页。
[80] Hu，X.，Rudin，C.和Seltzer，M.I.（2019年）。最优稀疏决策树。InNeurIPS，第7265-7273页。
[81] Huang，X.、Izza，Y.、Ignatiev，A.、Cooper，M.C.、Asher，N.和Marques-Silva，J.（2021a）。知识编译语言的有效解释。CoRR，abs/2107.01654。
[82] Huang，X.、Izza，Y.、Ignatiev，A.、Cooper，M.C.、Asher，N.和Marques-Silva，J.（2022）。d-DNNF分类器的可追溯解释。InAAAI。
[83] Huang，X.、Izza，Y.、Ignatiev，A.和Marques-Silva，J.（2021b）。关于有效解释基于图形的分类器。InKR，第356-367页。
[84] Hyafil，L.和Rivest，R.L.（1976年）。构造最优二叉决策树是NPcomplete。信息处理。莱特。，5(1):15-17. ·Zbl 0333.68029号
[85] IAI（2020）。可解释人工智能。https://www.interpretable.ai/。
[86] Ignatiev，A.（2020年）。走向可信赖的可解释人工智能。InIJCAI，第5154-5158页。
[87] Ignatiev，A.、Cooper，M.C.、Siala，M.、Hebrard，E.和Marques-Silva，J.（2020a）。走向机器学习中的形式公平。InCP，第846-867页。
[88] Ignatiev，A.、Izza，Y.、Stuckey，P.和Marques-Silva，J.（2022）。使用MaxSAT对树系进行有效解释。InAAAI。
[89] Ignatiev，A.和Marques-Silva，J.（2021）。基于SAT的决策列表的严格解释。InSAT，第251-269页·Zbl 07495578号
[90] Ignatiev，A.、Marques-Silva，J.、Narodytska，N.和Stuckey，P.J.（2021）。基于推理的可解释ML模型学习。InIJCAI，第4458-4465页。
[91] Ignatiev，A.、Morgado，A.和Marques-Silva，J.（2018a）。PySAT：一个使用SAT oracles进行原型制作的python工具包。InSAT，第428-437页·Zbl 1484.68215号
[92] Ignatiev，A.、Narodytska，N.、Asher，N.和Marques-Silva，J.（2020b）。从对比到诱拐性解释，然后再回来。InAIxIA，第335-355页。
[93] Ignatiev，A.、Narodytska，N.和Marques-Silva，J.（2019a）。机器学习模型的基于诱骗的解释。InAAAI，第1511-1519页。
[94] Ignatiev，A.、Narodytska，N.和Marques-Silva，J.（2019b）。关于相关的解释和对抗性的例子。在NeurIPS中，第15857-15867页。
[95] Ignatiev，A.、Narodytska，N.和Marques-Silva，J.（2019c）。关于验证、修复和精炼启发式ML解释。CoRR，abs/1907.02509。
[96] Ignatiev，A.、Pereira，F.、Narodytska，N.和Marques-Silva，J.（2018b）。一种基于SAT的学习可解释决策集的方法。InIJCAR，第627-645页·Zbl 1511.68249号
[97] ITI（2020年）。增量决策树归纳法。https://www-lrn.cs.umass.edu/iti/。315
[98] Izza，Y.、Ignatiev，A.和Marques-Silva，J.（2020年）。关于解释决策树。CoRR，abs/2010.11034。
[99] Izza，Y.、Ignatiev，A.、Narodytska，N.、Cooper，M.C.和Marques-Silva，J.（2021）。使用相关集合进行有效解释。一氧化碳回收率，绝对值/2106.00546。
[100] Izza，Y.和Marques-Silva，J.（2021）。关于用SAT.InIJCAI解释随机森林，第2584-2591页。
[101] Janota，M.和Morgado，A.（2020年）。具有显式路径的最优决策树的基于SAT的编码。InSAT，第501-518页·Zbl 07331042号
[102] Jaumard，B.和Simeone，B.（1987年）。关于horn公式最大可满足性问题的复杂性。信息处理。莱特。，26(1):1-4. ·Zbl 0638.03036号
[103] Karimi，A.、Barthe，G.、Sch¨olkopf，B.和Valera，I.（2020）。算法资源调查：定义、公式、解决方案和前景。CoRR，abs/2010.04050。
[104] Karimi，A.、Sch¨olkopf，B.和Valera，I.（2021）。算法资源：从反事实解释到干预。InFAccT，第353-362页。
[105] Kavvadias，D.J.和Stavropoulos，E.C.（2005）。一种生成横向超图的有效算法。J.图形算法应用。，9(2):239-264. ·Zbl 1088.05069号
[106] Kelleher，J.D.、Mac Namee，B.和D'arcy，A.（2020年）。预测数据分析的机器学习基础：算法、样例和案例研究。麻省理工学院出版社。
[107] Khachiyan，L.、Boros，E.、Elbassioni，K.M.和Gurvich，V.（2006）。生成超图断面的拟多项式算法的有效实现及其在联合生成中的应用。谨慎。申请。数学。，154(16):2350-2372. ·Zbl 1110.68104号
[108] Kotsiantis，S.B.（2013年）。决策树：最新概述。Artif公司。智力。修订版，39（4）：261-283。
[109] Lakkaraju，H.、Bach，S.H.和Leskovec，J.（2016）。可解释决策集：描述和预测的联合框架。InKDD，第1675-1684页。
[110] Liffiton，M.H.、Previti，A.、Malik，A.和Marques-Silva，J.（2016）。快速、灵活的MUS枚举。《国际约束杂志》，21（2）：223-250·Zbl 1334.90080号
[111] Liffiton，M.H.和Sakalah，K.A.（2008年）。计算最小不可满足约束子集的算法。J.汽车。原因。，40(1):1-33. ·Zbl 1154.68510号
[112] Lin，J.、Zhong，C.、Hu，D.、Rudin，C.和Seltzer，M.I.（2020年）。广义和可扩展的最优稀疏决策树。InICML，第6150-6160页。
[113] Lipton，Z.C.（2018年）。模型可解释性的神话。Commun公司。美国医学会，61（10）：36-43。
[114] Liu，X.和Lorini，E.（2021）。二进制分类器的逻辑及其解释。InCLAR中。316 ·Zbl 07671026号
[115] Lundberg，S.M.、Erion，G.、Chen，H.、DeGrave，A.、Prutkin，J.M.、Nair，B.、Katz，R.、Himmelfarb，J.、Bansal，N.和Lee，S.-I.（2020年）。从局部解释到全球理解，使用可解释的树人工智能。自然机器智能，2（1）：56-67。
[116] Lundberg，S.M.和Lee，S.（2017年）。解释模型预测的统一方法。在NeurIPS中，第4765-4774页。
[117] Malfa，E.L.、Michelmore，R.、Zbrzezny，A.M.、Paoletti，N.和Kwiatkowska，M.（2021）。关于NLP模型的保证最优稳健解释。InIJCAI，第2658-2665页。
[118] Marques-Silva，J.、Gerspacher，T.、Cooper，M.C.、Ignatiev，A.和Narodytska，N.（2020年）。用多项式时间和延迟解释朴素贝叶斯和其他线性分类器。在NeurIPS中。
[119] Marques-Silva，J.、Gerspacher，T.、Cooper，M.C.、Ignatiev，A.和Narodytska，N.（2021年）。单调分类器的解释。InICML，第7469-7479页。
[120] Marques-Silva，J.、Heras，F.、Janota，M.、Previti，A.和Belov，A.（2013a）。关于计算最小校正子集。InIJCAI，第615-622页。
[121] Marques-Silva，J.和Ignatiev，A.（2022）。通过正式XAI交付可信赖的AI。InAAAI。
[122] Marques-Silva，J.、Ignatiev，A.、Menc´A，C.和Peánaloza，R.（2016）。不一致Horn公式的有效推理。InJELIA，第336-352页·Zbl 1483.68381号
[123] Marques-Silva，J.、Janota，M.和Belov，A.（2013b）。布尔公式中单调谓词上的极小集。InCAV，第592-607页。
[124] Marques-Silva，J.、Janota，M.和Menc´a，C.（2017）。命题公式上的极小集。问题和削减。Artif公司。智力。，252:22-50. ·Zbl 1419.68098号
[125] Marques Silva，J.和Menc´ıa，C.（2020）。推理不一致的公式。InIJCAI，第4899-4906页。
[126] Marquis，P.（1991）。将推理从命题扩展到一阶逻辑。《公平》，第141-155页·Zbl 0793.03007号
[127] Maurer，L.R.、Bertsimas，D.、Bouardi，H.T.、El Hechi，M.、El-Moheb，M.，Giannoutsou，K.、Zhuo，D.、Dunn，J.、Velmahos，G.C.和Kaafarani，H.M.（2021）。创伤结局预测器：一种用于预测创伤患者结局的人工智能交互式智能手机工具。创伤与急性护理外科杂志，91（1）：93-99。
[128] McTavish，H.、Zhong，C.、Achermann，R.、Karimalis，I.、Chen，J.、Rudin，C.和Seltzer，M.（2022）。智能猜测策略如何为稀疏决策树优化带来大规模的可伸缩性改进。InAAAI。
[129] Menc´a，C.、Ignatiev，a.、Previti，a.和Marques-Silva，J.（2016）。使用次线性oracle查询进行MCS提取。InSAT，第342-360页·Zbl 1475.68220号
[130] Menc´a，C.、Previti，a.和Marques-Silva，J.（2015）。基于文字的MCS提取。在IJCAI中，第1973-1979页。
[131] Miller，G.A.（1956年）。神奇的数字七，加或减二：对我们处理信息的能力有一些限制。心理评论，63（2）：81-97。
[132] Miller，T.（2019）。人工智能解释：来自社会科学的见解。Artif公司。智力。，267:1-38. ·Zbl 1478.68274号
[133] Minoux，M.（1988年）。LTUR：一种简化的线性时间单位分辨率算法，用于喇叭公式和计算机实现。信息处理。莱特。，29(1):1-12. ·兹伯利0658.68110
[134] Mitchell，T.M.（1997）。机器学习。麦格劳-希尔·Zbl 0913.68167号
[135] Molnar，C.（2020年）。可解释机器学习。Leanpub公司。http://tiny.cc/6c76tz。
[136] Montavon，G.、Samek，W.和M¨uller，K.（2018年）。解释和理解深层神经网络的方法。数字。信号处理。，73:1-15.
[137] Moret，B.M.E.（1982年）。决策树和图表。ACM计算。调查。，14(4):593-623.
[138] Narodytska，N.、Ignatiev，A.、Pereira，F.和Marques-Silva，J.（2018）。使用SAT学习最优决策树。InIJCAI，第1362-1368页。
[139] Narodytska，N.、Shrotri，A.A.、Meel，K.S.、Ignatiev，A.和Marques-Silva，J.（2019年）。使用模型计数评估启发式机器学习解释。InSAT，第267-278页·Zbl 1441.68211号
[140] Nijssen，S.和Fromont，´E。(2007). 从项集格挖掘最优决策树。KDD，第530-539页。
[141] Nijssen，S.和Fromont，´E。(2010). 基于项目集格的最优约束决策树归纳。数据最小知识。发现。，21(1):9-51.
[142] Ong，C.J.、Orfanoudaki，A.、Zhang，R.、Caprasse，F.P.M.、Hutch，M.、Ma，L.、Fard，D.、Balogun，O.、Miller，M.I.、Minnig，M.，Saglam，H.、Prescott，B.、Greer，D.M.、Smirnakis，S.和Bertsimas，D.（2020年）。机器学习和自然语言处理方法，从放射学报告中识别缺血性中风、视力和位置。公共科学图书馆·综合》，15（6）：e0234908·Zbl 0714.65036号
[143] OpenML（2020）。OpenML：机器学习，更好，一起。https://www.openml.org/。
[144] Ordyniak，S.和Szeider，S.（2021）。小决策树学习的参数化复杂性。InAAAI，第6454-6462页。
[145] Orfanoudaki，A.、Chesley，E.、Cadisch，C.、Stein，B.、Nouh，A.、Alberts，M.J.和Bertsimas，D.（2020年）。机器学习提供了中风风险不是线性的证据：非线性framingham中风风险评分。公共科学图书馆，15（5）：e0232414。
[146] Pedregosa，F.、Varoquex，G.、Gramfort，A.、Michel，V.、Thirion，B.、Grisel，O.、Blondel，M.、Prettenhofer，P.、Weiss，R.、Dubourg，V.、VanderPlas，J.、Passos，A.、Cournapeau，D.、Brucher，M.、Perrot，M.和Duchesnay，E.（2011）。Scikit-learn：用python进行机器学习。J.马赫。学习。决议，12:2825-2830·Zbl 1280.68189号
[147] PennML（2020年）。宾夕法尼亚州机器学习基准。https://github.com/癫痫实验室/pmlb。
[148] Poole，D.和Mackworth，A.K.（2017年）。人工智能-计算代理基础。杯·Zbl 1373.68005号
[149] 昆兰，J.R.（1986）。决策树的归纳。机器。学习。，1(1):81-106.
[150] Quinlan，J.R.（1993）。C4.5：机器学习程序。摩根-考夫曼。
[151] Rago，A.、Cocarascu，O.、Bechlivanidis，C.、Lagnado，D.A.和Toni，F.（2021）。交互式建议的论证性解释。Artif公司。智力。，296:103506. ·Zbl 1519.68269号
[152] Rago，A.、Cocarascu，O.、Bechlivanidis，C.和Toni，F.（2020）。辩论是交互式解释建议的框架。InKR，第805-815页。
[153] Ras，G.、Xie，N.、van Gerven，M.和Doran，D.（2022）。可解释的深度学习：针对新手的现场指南。J.阿蒂夫。智力。研究，73:329-396·Zbl 1522.68502号
[154] Reiter，R.（1987）。从第一原理诊断的理论。Artif公司。智力。，32(1):57-95. ·Zbl 0643.68122号
[155] Ribeiro，M.T.、Singh，S.和Guestrin，C.（2016）。“我为什么要相信你？”：解释任何分类器的预测。InKDD，第1135-1144页。
[156] Ribeiro，M.T.、Singh，S.和Guestrin，C.（2018年）。锚：高精度模型-认知解释。InAAAI，第1527-1535页。
[157] Ripley，B.D.（1996）。模式识别和神经网络。剑桥大学出版社·Zbl 0853.62046号
[158] Rivest，R.L.（1987年）。学习决策列表。机器。学习。，2(3):229-246.
[159] Rokach，L.和Maimon，O.Z.（2008）。决策树数据挖掘：理论与应用。世界科学·Zbl 1154.68098号
[160] Rudin，C.（2019）。停止解释高风险决策的黑箱机器学习模型，而使用可解释模型。自然机器智能，1（5）：206-215。
[161] Rudin，C.、Chen，C.，Chen，Z.、Huang，H.、Semenova，L.和Zhong，C.（2021）。可解释机器学习：基本原理和10大挑战。CoRR公司，
[162] Russell，S.J.和Norvig，P.（2010年）。人工智能——一种现代方法。培生教育。
[163] Samek，W.、Montavon，G.、Lapuschkin，S.、Anders，C.J.和M¨uller，K.（2021）。深度神经网络及其以外的解释：方法和应用综述。程序。IEEE，109（3）：247-278。
[164] Samek，W.、Montavon，G.、Vedaldi，A.、Hansen，L.K.和M¨uller，K.编辑（2019年）。可解释人工智能：解释、解释和可视化深度学习。斯普林格。
[165] Schidler，A.和Szeider，S.（2021）。基于SAT的大型数据集决策树学习。在AAAI中，第3904-3912页。
[166] Shalev-Shwartz，S.和Ben-David，S.（2014年）。理解机器学习-从理论到算法。剑桥大学出版社·Zbl 1305.68005号
[167] Shati，P.、Cohen，E.和McIlraith，S.A.（2021年）。基于SAT的非二进制最优决策树学习方法。InCP，第50:1-50:16页。
[168] Shi，W.、Shih，A.、Darwiche，A.和Choi，A.（2020年）。二元神经网络的易处理表示。InKR，第882-892页。
[169] Shih，A.、Choi，A.和Darwiche，A.（2018年）。一种解释贝叶斯网络分类器的符号方法。InIJCAI，第5103-5111页。
[170] Shih，A.、Choi，A.和Darwiche，A.（2019年）。将贝叶斯网络分类器编译成决策图。InAAAI，第7966-7974页。
[171] Siers，M.J.和Islam，M.Z.（2021）。类别不平衡和成本敏感决策树：基于核心相似性的统一调查。ACM事务处理。知识。发现。数据，15（1）：4:1-4:31。
[172] Simonyan，K.、Vedaldi，A.和Zisserman，A.（2014）。深层卷积网络：可视化图像分类模型和显著图。InICLR。
[173] 斯莱尼，J.（2014）。集合理论对偶性：组合优化的一个基本特征。InECAI，第843-848页。
[174] Sosa-Hern´andez，V.A.、Monroy，R.、Medina-P´erez，M.A.、Loyola-Gonz´alez，O.和Herrera，F.（2021）。决策树归纳的实用教程：候选人分裂和机会的评估措施。ACM计算。调查。，54(1):18:1-18:38.
[175] Tjoa，E.和Guan，C.（2021）。可解释人工智能（XAI）研究综述：面向医学XAI。IEEE传输。神经网络学习。系统。，32(11):4793-4813.
[176] UCI（2020）。UCI机器学习库。https://archive.ics.uci.edu/ml。
[177] Ustun，B.、Spangher，A.和Liu，Y.（2019年）。线性分类中可采取行动的追索权。FAT，第10-19页。
[178] Utgoff，P.E.、Berkman，N.C.和Clouse，J.A.（1997）。基于高效树重组的决策树归纳。学习。，29(1):5-44. ·Zbl 0886.68105号
[179] Valdes，G.、Luna，J.M.、Eaton，E.、Simone，C.B.、Ungar，L.H.和Solberg，T.D.（2016）。MediBoost：精确医学时代用于可解释决策的患者分层工具。科学报告，6（1）：1-8。
[180] Venkatasubramanian，S.和Alfano，M.（2020年）。算法资源的哲学基础。InFAT，第284-293页。
[181] Verhaeghe，H.、Nijssen，S.、Pesant，G.、Quimper，C.和Schaus，P.（2020a）。使用约束规划学习最优决策树。《国际约束杂志》，25（3-4）：226-250·Zbl 07446942号
[182] Verhaeghe，H.、Nijssen，S.、Pesant，G.、Quimper，C.和Schaus，P.（2020b）。使用约束编程学习最优决策树（扩展抽象）。《联合国儿童权利国际公约》，第4765-4769页。
[183] Verwer，S.和Zhang，Y.（2017年）。使用整数优化学习具有灵活约束和目标的决策树。InCPAIOR，第94-103页·Zbl 1489.68259号
[184] Verwer，S.和Zhang，Y.（2019年）。使用二进制线性规划公式学习最优分类树。InAAAI，第1625-1632页。
[185] W¨aldchen，S.、MacDonald，J.、Hauch，S.和Kutyniok，G.（2021）。理解二进制分类器决策的计算复杂性。J.阿蒂夫。智力。研究，70:351-387·兹比尔1512.68116
[186] Wang，E.、Khosravi，P.和den Broeck，G.V.（2021）。概率充分解释。InIJCAI，第3082-3088页。
[187] Witten，I.H.、Frank，E.、Hall，M.A.和Pal，C.J.（2017年）。数据挖掘。摩根·考夫曼。
[188] Wolf，L.、Galanti，T.和Hazan，T.（2019年）。一种正式的解释方法。《国际癌症研究所》，第255-261页。
[189] Wu，X.和Kumar，V.，编辑（2009年）。数据挖掘中排名前十的算法。CRC出版社·Zbl 1179.68129号
[190] Wu，X.、Kumar，V.、Quinlan，J.R.、Ghosh，J.、Yang，Q.、Motoda，H.、McLachlan，G.J.、Ng，A.F.M.、Liu，B.、Yu，P.S.、Zhou，Z.、Steinbach，M.S.，Hand，D.J.和Steinberg，D.（2008）。数据挖掘中的十大算法。知识。信息系统。，14(1):1-37.
[191] Zhou，Z.（2021）。机器学习。斯普林格·Zbl 1479.68001号
[192] 周振华（2012）。集成方法：基础和算法。CRC压力机
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。