研究文章

用于序贯人体教学的解释性机器学习

作者:

约翰内斯兰格,

斯蒂芬·H。马格利顿,

乌特施密德作者信息和声明

机器学习,体积112,问题10

页3591-3632

https://doi.org/10.1007/s10994-023-06351-8

出版:2023年6月28日出版历史

摘要

机器学习理论的可理解性这一话题最近引起了越来越多的关注。归纳逻辑程序设计使用逻辑程序设计从基于外推和归纳技术的小数据中导出逻辑理论。所学理论以规则的形式表示，作为对所学知识的陈述性描述。在早期的工作中，作者首次证明了基于机器学习逻辑规则的人类对简单分类任务的理解能力有了显著提高。在后来的一项研究中，研究发现，在游戏学习的背景下，向人类提供机器学习的解释会产生有益和有害的影响。我们通过研究概念表达的顺序对人类理解的影响，继续研究可理解性。在这项工作中，我们检验了课程顺序的解释效果以及机器学习解释对顺序问题解决的影响。我们表明：（1）存在任务A和任务B，与学习A之前的学习B相比，学习B之前的学习A可以提高人类的理解力；（2）存在任务B和任务A，学习A时的解释有助于提高后续学习B时的人类理解力。我们基于现有的可理解性定义，提出了一个序贯教学对理解的影响框架，并从人体试验收集的数据中提供了证据支持。我们的实证研究涉及教授新手合并排序算法的课程。我们的结果表明，随着复杂性的增加，概念的顺序教学（a）对人类的理解有着有利的影响，（b）导致人类重新发现分而治之的问题解决策略，（c）当提供机器学习的解释时，允许以更好的性能调整人工解决问题的策略。

工具书类

[1]

Adadi A和Berrada M在黑匣子里偷窥：可解释人工智能（xai）调查IEEE接入2018 6 52138-52160

[2]

Ai L、Muggleton S、Hocquette C、Gromowski M和Schmid U有益和有害的解释性机器学习机器学习2021 110 695-721

[3]

Aleven V和Koedinger KR：一种有效的元认知策略：在计算机认知导师的指导下做中学和解释认知科学2002 26 2 147-179

[4]

Alfieri L、Brooks P、Aldrich N和Tenenbaum H基于发现的教学是否能促进学习？教育心理学杂志2011 103 1-18

[5]

Amir O、Doshi-Velez F和Sarne D总结代理策略自治Agent多Agent系统2019 33 628-644

[6]

Anderson JR、Fincham JM和Douglass S示例和规则在认知技能获得中的作用实验心理学杂志：学习、记忆和认知1997 23 4 932

[7]

Anderson，J.R.、Kushmerick，N.和Lebiere，C.（1993）。思维法则，《河内塔和球门结构》一章（第121-142页）。L.埃尔鲍姆。

[8]

Anderson JR和Thompson R在生产系统架构中使用类比1989剑桥大学出版社267-297

[9]

Anjomshoae，S.，Najjar，A.，Calvaresi，D.&Främling，K.（2019年）。可解释的代理和机器人：系统文献综述的结果。在第18届自主智能体和多智能体系统国际会议论文集（第1078–1088页）。

[10]

Anzai Y和Simon H在做中学的理论心理回顾1979 86 2 124-140

[11]

Arrieta A、Díaz-Rodríguez N、Ser J、Bennetot A、Tabik S、Barbado A、Garcia S、Gil-Lopez S、Molina D、Benjamins R、Chatila R和Herrera F可解释人工智能（xai）：面向负责任人工智能的概念、分类、机遇和挑战信息融合2020 58 82-115

[12]

Arthur W Jr和Day DV乌鸦进阶矩阵测试简式的开发教育和心理测量1994 54 2 394-403

[13]

Bain M和Muggleton SH机器智能13：机器智能和归纳学习，章节学习最优象棋策略1994牛津大学出版社291-309

[14]

Barto AG、Sutton RS和Watkins C学习和顺序决策1989年马萨诸塞大学阿默斯特分校

[15]

Bera P、Soffer P和Parsons J使用眼球追踪揭示理解概念模型的认知过程管理信息系统季刊2019 43 4 1105-1126

[16]

Berry，D.C.和Broadbent，D.E.（1995年）。复杂问题解决：欧洲视角，《复杂系统控制中的内隐学习》一章（第131-150页）。劳伦斯·埃尔鲍姆联合公司。

[17]

Blumer A、Ehrenfeucht A、Haussler D和Warmuth MK学习能力和Vapnik–Chervonenkis维度美国医学会杂志1989 36 4 929-965

[18]

Bratko，I.（2010年）。发现科学。DS 2010。计算机科学课堂讲稿第6332卷，机器人发现抽象概念一章。斯普林格。

[19]

Bratko I、UrbanćT和Sammut C行为克隆：现象、结果和问题IFAC会议记录卷1995 28 21 143-149

[20]

布鲁纳JS发现的艺术哈佛教育评论1961 31 21-32

[21]

布鲁纳JS、古德诺JJ和佐治亚州奥斯汀思维研究1956年威利

[22]

Burke，M.、Penkov，S.和Ramamoorthy，S.（2019年）。从解释到综合：从演示中学习的作文程序归纳。在A.Bicchi、H.Kress-Gazit和S.Hutchinson（编辑）中，机器人学：科学与系统十五.

[23]

Carbonell J派生类比：重建问题解决和专业知识获取理论机器学习1985 11 26

[24]

Carpenter P、Just M和Shell P智力测试测量的内容：乌鸦递进矩阵测试过程的理论说明心理回顾1990 97 404-431

[25]

Chi M和Ohlsson S复杂陈述性学习2005年剑桥大学出版社

[26]

Chierchia G、Fuhrmann D、Knoll LJ、Pi-Sunyer BP、Sakhardand AL和Blakemore S矩阵推理题库（mars-ib）：面向青少年和成人的新颖、开放存取的抽象推理题英国皇家学会开放科学2019 6 190232

[27]

Craig RC直接与独立发现已建立的关系教育心理学杂志1956 47 223-234

[28]

Cropper，A.（2017）。高效学习高效课程。伦敦帝国理工学院博士论文。

[29]

Cropper，A.（2019年）。Playgol：通过游戏学习课程。在第二十八届国际人工智能联合会议记录（第6074–6080页）。

[30]

Cropper，A.和Muggleton，S.H.（2015）。学习涉及可组合对象的高效逻辑机器人策略。在第24届国际人工智能会议记录（第3423–3429页）。

[31]

Cropper，A.和Muggleton，S.H.（2016）。Metagol系统。https://github.com/metagol/metagol.

[32]

Devidze，R.、Mansouri，F.、Haug，L.、Chen，Y.和Singla，A.（2020年）。了解不完善知识教学的力量和局限性。在第二十九届国际人工智能联合会议记录（第2647–2654页）。

[33]

Dienes Z和Perner J内隐和外显知识理论行为与脑科学1999 22 5 735-808

[34]

Díeroski S、De Raedt L和Driessens K关系强化学习机器学习2001 43 7-52

[35]

Freitas AA综合分类模型：一份立场文件SIGKDD探索新闻稿2014 15 1-10

[36]

Gennari JH、Langley P和Fisher D增量概念形成模型人工智能1989 40 1 11-61

[37]

Gentner，D.和Landers，R.（1982年）。类比提醒：很难找到一个好的匹配。在系统、人与控制论国际会议论文集.

[38]

Gleicher M建模中考虑可理解性的框架大数据2016 4 2 75-88

[39]

Goldstine，H.和Neumann，J.（1963年）。电子计算仪器问题的规划和编码，第二部分，第2卷。第五卷：计算机设计、自动机理论和数值分析。约翰·冯·诺依曼作品集（第152-214页）。佩加蒙出版社。

[40]

Guidotti R、Monreale A、Ruggieri S、Turini F、Giannotti F和Pedreschi D黑箱模型解释方法综述倒排索引综述2018 51 5 1-42

[41]

Hind，M.、Wei，D.、Campbell，M.、Codella，N.、Dhurandhar，A.和Mojsilovic，A.等人。(2019). 泰德：教人工智能解释其决策。在2019年AAAI/ACM人工智能、道德和社会会议记录.

[42]

霍布斯JR语用学手册，自然语言理解中的诱拐一章2008年彼得·佩雷格里努斯

[43]

Holyoak KJ和Koh K表面与类比迁移中的结构相似性记忆与认知1987 15 4 332-340

[44]

Johnson Laird PN公司心理模型：走向语言、推理和意识的认知科学1986年哈佛大学出版社

[45]

卡尼曼D思考，快和慢2011年麦克米伦

[46]

King R、Whelan K、Jones F、Reiser P、Bryant C、Muggleton S、Kell D和Oliver S机器人科学家的功能基因组假设生成和实验自然2004 427 247-252

[47]

Kittel JE：学习过程中外部指导对原则迁移和记忆影响的实验研究教育心理学杂志1957 48 391-405

[48]

Kolmogorov AN关于随机数表Sankhya:印度统计杂志，A辑1963 207 25 369-375

[49]

Leban，G.、vZabkar，J.和Bratko，I.（2008年）。利用ILP进行机器人发现实验。在第18届归纳逻辑程序设计国际会议论文集（第77-90页）。斯普林格。

[50]

Lee M和Thompson：标识编程指导和大学生认知监控策略的发展教育计算研究杂志1997 16 125-144

[51]

Lemke E、Klausmeier H和Harris C所选认知能力与概念获得和信息处理的关系教育心理学杂志1967 58 27-35

[52]

Lin，D.、Dechter，E.、Ellis，K.、Tenenbaum，J.和Muggleton，S.H.（2014）。一次性函数归纳的偏差重新制定。在第23届欧洲人工智能会议记录（第525-530页）。

[53]

Lipton Z模型可解释性的神话ACM通信2018 61 36-43

[54]

Mansouri，F.、Chen，Y.、Vartanian，A.、Zhu，X.和Singla，A.（2019年）。基于偏好的批量和顺序教学：朝向模型的统一视图。在神经信息处理系统的进展32：2019年神经信息处理系统年会（第9195–9205页）。

[55]

McAuley，J.和Leskovec，J.（2013）。隐藏因素和隐藏主题：通过回顾文本了解评级维度。在第七届ACM推荐系统会议记录（第165-172页）。计算机协会。

[56]

迈耶RE应该有一个三击规则来反对纯粹的发现学习吗？指导性教学方法案例美国心理学家2004 59 1 14-19

[57]

Michalski，R.（1983年）。归纳学习的理论和方法。在机器学习.符号计算。

[58]

Michie D游戏学习机械化实验：基于规则的学习和人类窗口计算机杂志1982 25 105-113

[59]

Michie，D.（1988年）。未来五年的机器学习。在第三届欧洲学习工作会议记录（第107–122页）。皮特曼。

[60]

Michie D机器智能与人类窗口应用人工智能1991 5 1 1-10

[61]

Miller GA神奇的数字7，加或减2：我们处理信息能力的一些限制心理学评论1956 63 81-97

[62]

Miller T对人工智能的解释：来自社会科学的见解人工智能2019 267 1-38

[63]

Minh，D.、Wang，H.、Li，Y.和Nguyen，T.N.（2021）。可解释人工智能：综合评述。人工智能综述.

[64]

Mitchell TM泛化作为搜索人工智能1982 18 203-226

[65]

Muggleton S、Lin D和Tamaddoni-Nezhad高阶二元数据日志的元解释学习：重新审视谓词发明机器学习2015 100 49-73

[66]

Muggleton S、Schmid U、Zeller C、Tamaddoni-Nezhad A和Besold T超强机器学习：理解使用ILP学习的程序机器学习2018 107 1119-1140

[67]

Muggleton SH感应逻辑编程新一代计算1991 8 295-318

[68]

默多克BB自由回忆的连续位置效应实验心理学杂志1962 64 5 482-488

[69]

纽厄尔A统一认知理论1990年哈佛大学出版社

[70]

Novick L和Holyoak K数学问题的类比解法实验心理学杂志：学习、记忆和认知1991 17 398-415

[71]

皮尔斯·J·W、格雷·J·R、辛普森·S、麦卡斯基尔·M·R、Höchenberger·R、索戈·H、卡斯特曼·E和林德罗夫·J（2019）。心理学2：行为实验变得容易。行为研究方法.

[72]

Poulin，B.、Eisner，R.、Szafron，D.、Lu，P.、Greiner，R.，Wishart，D.、Fyshe，A.、Pearcy，B.、Macdonell，C.和Anvik，J.（2006）。用加性分类器直观解释证据。在全国人工智能会议记录（第2卷）。

[73]

Rafferty AN、Brunskill E、Griffiths TL和Shafto P通过pomdp规划进行快速教学认知科学2016 40 1290-1332

[74]

Reed SK、Ackinlose CC和Voss AA选择类似问题：相似性与包容性记忆与认知1990 18 1 83-98

[75]

Reed SK和Bolstad CA在问题解决中使用示例和程序实验心理学杂志：学习、记忆和认知1991 17 4 753

[76]

Ribeiro，M.T.、Singh，S.和Guestrin，C.（2016）。“我为什么要相信你？”：解释任何分类器的预测。在第22届ACM SIGKDD知识发现和数据挖掘国际会议记录（第1135-1144页）。计算机协会。

[77]

Ribeiro，M.T.、Singh，S.和Guestrin，C.（2018年）。锚：高精度模型-认知解释。在AAAI人工智能会议记录.

[78]

Rudin C停止解释高风险决策的黑箱机器学习模型，而使用可解释模型自然机器智能2019 1 206-215

[79]

Schmid，U.（2021）。仿人机器智能，第章：关系域中相互解释的交互式学习。牛津大学出版社。

[80]

Schmid U和Finzel B对医学合作决策的相互解释KI-Künstliche智能2020 34 2 227-233

[81]

Schmid U和Kitzelmann E在知识水平上的归纳规则学习认知系统研究2011 12 237-248

[82]

Schmid，U.、Zeller，C.、Besold，T.、Tamaddoni-Nezhad，A.和Muggleton，S.（2017年）。谓词发明如何影响人类的可理解性？在第26届归纳逻辑程序设计国际会议论文集（第52-67页）。

[83]

Seger CA内隐学习心理学公报1994 115 2 163

[84]

Shapiro，E.Y.（1982）。算法程序调试。ACM杰出论文。

[85]

Sheridan T人机交互：现状与挑战人为因素2016 58 4 525-532

[86]

Simon HA和Hayes JR理解过程：问题同构认知心理学1976 8 165-190

[87]

斯皮尔曼，C.（1904）。两个事物之间联系的证明和测量。美国心理学杂志, 15(1).

[88]

Sternberg MJE和Muggleton SH结构-活性关系（SAR）和使用归纳逻辑编程（ILP）发现药效团QSAR与组合科学2003 22 5 527-532

[89]

Stumpf，S.、Bussone，A.和O'sullivan，D.（2016）。被认为有害的解释？用户与机器学习系统的交互。在ACM SIGCHI计算机系统人为因素会议记录.

[90]

Sweller J、Kirschner PA和Clark RE《为什么最低指导教学技巧不起作用：对评论的回复》教育心理学家2007 42 2 115-121

[91]

Tamagnini，P.、Krause，J.、Dasgupta，A.和Bertini，E.（2017年）。使用实例级可视解释解释黑盒分类器。在第二届人机交互数据分析研讨会会议记录.计算机协会。

[92]

Xu，K.，Ba，J.，Kiros，R.，Cho，K.、Courville，A.、Salakhudinov，R.、Zemel，R.和Bengio，Y.（2015）。展示、出席和讲述：用视觉注意力生成神经图像字幕。在第32届机器学习国际会议论文集（第2048–2057页）。

[93]

Yeo，T.、Kamalaruban，P.、Singla，A.、Merchant，A.、Asselborn，T.，Faucon，L.、Dillenbourg，P.和Cevher，V.（2019年）。迭代课堂教学。在第三十三届AAAI人工智能会议和第三十一届人工智能创新应用会议会议记录以及第九届AAAI-人工智能教育进展研讨会.

[94]

Zambaldi，V.F.、Raposo，D.C.、Santoro，A.、Bapst，V.、Li，Y.和Babuschkin，I.等人（2019年）。带有关系归纳偏见的深度强化学习。在ICLR公司.

[95]

Zeller，C.和Schmid，U.（2016年）。自动生成类似问题，以帮助解决书面减法智能辅导系统中的误解。在第二十四届基于案例的推理国际会议讲习班会议记录（第1815卷，第108–117页）。

[96]

朱旭（2015）。机器教学：与机器学习相反的问题，也是实现最佳教育的途径。在AAAI人工智能会议记录（第29卷）。

建议

有益和有害的解释性机器学习
摘要
鉴于人工智能中的深度学习最近取得的成功，人们对机器学习理论的作用和解释的需要越来越感兴趣。在此背景下，一个独特的概念是Michie对超强机器的定义。。。
元规则的逻辑约简
摘要
许多形式的归纳逻辑编程（ILP）使用超规则，二阶Horn子句，定义可学习程序的结构，从而定义假设空间。决定在给定的学习任务中使用哪些元规则是一个主要的开放。。。
从示例中进行机器学习：归纳法和惰性方法
纪念特别发行：DKE 25

评论

信息和贡献者

问询处

发布于

封面图片机器语言

机器语言第112卷第10期

2023年10月

486页

国际标准编号：0885-6125

©作者2023。

出版商

Kluwer学术出版社

美国

出版历史

出版：2023年6月28日

认可的：2023年5月8日

收到的修订：2023年3月14日

收到：2022年5月25日

作者标记

限定符

研究文章

资金来源

欧盟地平线2020研究和创新计划
英国EPSRC类人计算网络

贡献者

其他指标

查看文章度量

文献计量学和引文

文献计量学

文章指标

0
引文总数
0
总下载次数

下载次数（过去12个月）0
下载次数（最近6周）0

反映截至2024年9月20日的下载量

其他指标

查看作者指标

引文

视图选项

查看选项

获取访问权限

登录选项

检查您是否可以通过登录凭据或您的机构访问本文。

完全访问权限

获取此出版物

媒体

数字

其他

桌子

查看问题目录