×
安德鲁·克洛珀；罗尔夫·莫雷尔

从失败中学习课程。 （英语） Zbl 07432822号

机器。学习。 110，编号4，801-856（2021）.
摘要：我们描述了一种归纳逻辑编程（ILP）方法，称为从失败中学习在这种方法中，ILP系统（学习者）将学习问题分解为三个独立的阶段：生成,测试、和约束在生成阶段，学习者生成一个假设（逻辑程序），该假设满足一组假设约束（对假设的句法形式的限制）。在测试阶段，学习者根据训练示例测试假设。一个假设失败当它不包含所有正面的例子或包含负面的例子时。如果假设失败，则在约束阶段，学习者从失败的假设中学习约束，以修剪假设空间，即约束后续假设生成。例如，如果一个假设过于笼统（需要一个否定的例子），则约束条件会修剪该假设的泛化。如果一个假设太具体（不需要所有的正面例子），那么约束会修剪该假设的专门化。这个循环重复，直到（i）学习者发现一个假设，其中包含所有积极的例子，而没有任何消极的例子，或者（ii）没有更多的假设需要测试。我们介绍了Popper，一个ILP系统，它通过结合答案集编程和Prolog来实现这种方法。波普尔支持无限问题域、关于列表和数字的推理、学习文本最小化程序以及学习递归程序。我们在三个领域（玩具游戏问题、机器人策略和列表转换）的实验结果表明，（i）约束大大提高了学习性能，（ii）Popper在预测准确性和学习时间方面都优于现有的ILP系统。

引用于6文件

MSC公司：

68T05型 人工智能中的学习和自适应系统

关键词：

归纳逻辑程序设计；程序综合；程序归纳法

软件：

深度编码器；克林戈；github；阿勒夫；梅塔戈里
PDF格式BibTeX公司 XML格式引用
\textit{A.Cropper}和\textit{R.Morel}，马赫。学习。110，第4号，801--856（2021；Zbl 07432822）
全文： 内政部 arXiv公司

参考文献：

[1] Ahlgren，J。；Yuen，SY，归纳逻辑编程中使用约束满足的高效程序合成，机器学习研究杂志，14，1，3649-3682（2013）·Zbl 1317.68026号
[2] Albarghouthi，A.、Koutris，P.、Naik，M.和Smith，C.（2017年）。基于约束的数据日志程序合成。J.Christopher Beck（Ed.），《约束编程的原理与实践》，第23届国际会议，CP 2017，澳大利亚维多利亚州墨尔本，2017年8月28日至9月1日，《计算机科学讲稿》第10416卷（第689-706页）。斯普林格。
[3] Athakravi，D.、Alrajeh，D.、Broda，K.、Russo，A.和Satoh，K.（2014）。使用约束驱动偏差的归纳学习。J.Davis&J.Ramon（编辑），《归纳逻辑编程第24届国际会议》，ILP 2014，法国南希，2014年9月14日至16日，修订论文集，计算机科学讲义第9046卷（第16-32页）。斯普林格。
[4] Athakravi，D.、Corapi，D.、Broda，K.和Russo，A.（2013）。使用答案集编程通过假设精化进行学习。G.Zaverucha，V.S.Costa，&A.Paes（编辑），《归纳逻辑编程第23届国际会议》，2013年8月28日至30日，巴西里约热内卢，2013年，《修订论文选集》，计算机科学讲稿第8812卷（第31-46页）。斯普林格·Zbl 1319.68166号
[5] Badea，L.（2001）。理论的精化算子。C.Rouveirol&M.Sebag（编辑），《归纳逻辑编程》，第11届国际会议，ILP 2001，斯特拉斯堡，法国，2001年9月9日至11日，《计算机科学讲稿》第2157卷（第1-14页）。斯普林格·Zbl 1007.68504号
[6] Balog，M.、Gaunt，A.L.、Brockschmidt，M、Nowozin，S.和Tarlow，D.（2017年）。Deepcoder：学习编写程序。在2017年4月24日至26日于法国土伦举行的第五届国际学习代表大会上，ICLR 2017，会议记录。OpenReview.net。
[7] Blockeel，H。；De Raedt，L.，一阶逻辑决策树的自顶向下归纳法，人工智能，101，1-2，285-297（1998）·Zbl 0909.68034号 ·doi:10.1016/S0004-3702（98）00034-4
[8] Bratko，I.（1999）。完善ILP中的完整假设。S.Dzeroski&P.A.Flach（编辑），《归纳逻辑编程》，第九届国际研讨会，ILP-99，斯洛文尼亚布莱德，1999年6月24日至27日，《计算机科学讲稿》第1634卷，论文集（第44-55页）。斯普林格。
[9] Church，A.，关于entscheidungsproblem的注释，符号逻辑杂志，1，1，40-41（1936）·Zbl 0014.38503号 ·doi:10.2307/2269326
[10] Cohen，WW，《语法偏见学习：使用明确先行描述语言学习逻辑程序》，《人工智能》，第68、2、303-366页（1994年）·Zbl 0942.68656号 ·doi:10.1016/0004-3702（94）90070-1
[11] Corapi，D.、Russo，A.和Lupu，E.（2010年）。归纳逻辑编程是诱因搜索。M.V.Hermenegildo&T.Schaub（编辑），《第26届逻辑编程国际会议的技术通信》，2010年7月16日至19日，英国苏格兰爱丁堡，LIPIcs第7卷（第54-63页）。达格斯图尔宫（Schloss Dagstuhl）-莱布尼茨-泽特鲁姆富尔信息宫（Leibniz-Zentrum fuer Informatik）·Zbl 1237.68203号
[12] Corapi，D.、Russo，A.和Lupu，E.（2011年）。答案集编程中的归纳逻辑编程。S.Muggleton、A.Tamaddoni-Nezhad和F.A.Lisi（编辑），《归纳逻辑编程第21届国际会议》，2011年7月31日至8月3日，英国温莎大公园，2011年，修订论文集，计算机科学讲稿第7207卷（第91-97页）。斯普林格。
[13] 科斯塔，VS；Srinivasan，A。；卡马乔，R。；Blockeel，H。；Demoen，B。；詹森，G。；斯特鲁伊夫，J。；范德卡斯特尔，H。；Laer，WV，《提高ILP系统效率的查询转换》，《机器学习研究杂志》，第4465-491页（2003年）·Zbl 1102.68541号
[14] Cropper，A.（2019年）。Playgol：通过游戏学习课程。S.Kraus（Ed.），《第二十八届国际人工智能联合会议论文集》，2019年8月10日至16日，中国澳门，2019（第6074-6080页）。ijcai.org。
[15] Cropper，A.（2020年）。忘记学习逻辑程序。第三十四届AAAI人工智能会议，AAAI 2020，美国纽约州纽约市，2020年2月7日至12日（第3676-3683页）。AAAI出版社。
[16] Cropper，A.和Dumancic，S.（2020年）。30岁时的归纳逻辑编程：新导论。CoRR，arXiv:2008.07912。
[17] Cropper，A.和Dumancic，S.（2020年）。通过超越蕴涵学习大型逻辑程序。C.Bessiere（编辑），《第二十九届国际人工智能联合会议论文集》，IJCAI 2020（第2073-2079页）。ijcai.org。
[18] Cropper，A.、Dumancic，S.和Muggleton，S.H.（2020年）。30岁：归纳逻辑编程的新思路。C.Bessiere（Ed.）《第二十九届国际人工智能联合会议论文集》，IJCAI 2020（第4833-4839页）。ijcai.org。
[19] Cropper，A。；Evans，R。；Law，M.，归纳通用游戏，机器学习，109，7，1393-1434（2020）·Zbl 1518.68294号 ·文件编号：10.1007/s10994-019-05843-w
[20] Cropper，A。；莫雷尔，R。；Muggleton，S.，《学习高阶逻辑程序》，机器学习，109，7，1289-1322（2020）·Zbl 1518.68037号 ·doi:10.1007/s10994-019-05862-7
[21] Cropper，A.和Muggleton，S.H.（2015年）。学习涉及可组合对象的高效逻辑机器人策略。Q.Yang和M.J.Wooldridge（编辑），《第二十四届国际人工智能联合会议论文集》，2015年国际人工智能学会，阿根廷布宜诺斯艾利斯，2015年7月25日至31日（第3423-3429页）。AAAI出版社。
[22] Cropper，A.和Muggleton，S.H.（2016）。Metagol系统。https://github.com/metagol/metagol
[23] Cropper，A.、Tamaddoni-Nezhad，A.和Muggleton，S.H.（2015）。数据转换程序的元解释学习。In K.Inoue，H.Ohwada，&A.Yamamoto（Eds.），《归纳逻辑编程第25届国际会议》，2015年8月20日至22日，日本京都，2015年，《修订论文选集》，计算机科学讲义第9575卷（第46-59页）。斯普林格。
[24] Cropper，A。；Torret，S.，元规则的逻辑约简，机器学习，109，7，1323-1369（2020）·Zbl 1518.68038号 ·数字对象标识代码：10.1007/s10994-019-05834-x
[25] De Raedt，L.，逻辑和关系学习。认知技术（2008），柏林：施普林格，柏林·Zbl 1203.68145号 ·doi:10.1007/978-3-540-68856-3
[26] De Raedt，L。；Bruynoogh，M.，通过类比进行交互式概念学习和构造性归纳，机器学习，8107-150（1992）·Zbl 0751.68051号
[27] De Raedt，L.和Bruynooghe，M.（1993）。小句发现理论。R.Bajcsy（Ed.），第13届国际人工智能联合会议记录。法国香槟，1993年8月28日至9月3日（第1058-1063页）。摩根·考夫曼。
[28] Dumancic，S.、Guns，T.、Meert，W.和Blockel，H.（2019年）。学习使用自动编码逻辑程序的关系表示。S.Kraus（Ed.），《第二十八届国际人工智能联合会议论文集》，2019年8月10日至16日，中国澳门，2019（第6081-6087页）。ijcai.org。
[29] Ellis，K。；莫拉莱斯，L。；Sablé-Meyer，医学博士。；Solar-Lezama，A。；Tenenbaum，J.，神经引导贝叶斯程序归纳的子程序学习库，NeurIPS，2018，7816-7826（2018）
[30] Ellis，K.、Nye，M.I.、Yewen，P.、Sosa，F.、Tenenbaum，J.和Solar-Lezama，A.（2019年）。编写、执行、评估：使用REPL进行程序合成。H.M.Wallach、H.Larochelle、A.Beygelzimer、F.d'Alché-Buc、E.B.Fox和R.Garnett（编辑），《神经信息处理系统的进展32：2019年神经信息处理体系年度会议》，2019年NeurIPS，2019月8日至14日，加拿大不列颠哥伦比亚省温哥华（第9165-9174页）。
[31] Evans，R。；Grefenstette，E.，《从噪声数据中学习解释规则》，《人工智能研究杂志》，61,1-64（2018）·Zbl 1426.68235号 ·数字对象标识代码：10.1613/jair.5714
[32] Evans，R.、Hernández-Orallo，J.、Welbl，J.，Kohli，P.和Sergot，M.J.（2019年）。理解感官输入。CoRR，arXiv:1910.02227。
[33] Feng，Y.，Martins，R.，Bastani，O.，&Dillig，I.（2018）《使用冲突驱动学习的课程综合》。J.S.Foster&D.Grossman（编辑），《第39届ACM SIGPLAN编程语言设计与实现会议论文集》，2018年PLDI，美国宾夕法尼亚州费城，2018年6月18-22日（第420-435页）。ACM公司。
[34] Feser，J.K.、Chaudhuri，S.和Dillig，I.（2015）。从输入-输出示例合成数据结构转换。D.Grove&S.Blackburn（编辑），《第36届ACM SIGPLAN编程语言设计与实现会议论文集》，美国俄勒冈州波特兰，2015年6月15日至17日（第229-239页）。ACM公司。
[35] Gebser，M.、Kaminski，R.、Kaufmann，B.和Schaub，T.（2014）。Clingo=ASP+对照：初步报告。CoRR，arXiv:1405.3694。
[36] Gebser，M。；卡明斯基，R。；考夫曼，B。；Schaub，T.，用clipeo求解多快照ASP，逻辑编程理论与实践，19，1，27-82（2019）·Zbl 1486.68027号 ·doi:10.1017/S147106841800054
[37] 卡明斯基，T。；艾特，T。；Inoue，K.，《利用外部资源开发答案集编程用于元解释学习》，《逻辑编程的理论与实践》，18，3-4，571-588（2018）·Zbl 1451.68064号 ·doi:10.1017/S1471068418000261
[38] Katzouris，N。；Artikis，A。；Paliouras，G.，事件定义的在线学习，TPLP，16，5-6，817-833（2016）·Zbl 1379.68072号
[39] Lake，B.M.、Ullman，T.D.、Tenenbaum，J.B.和Gershman，S.J.（2016）。建造像人一样学习和思考的机器。CoRR，arXiv:1604.00289。
[40] Law，M.（2018）。答案集程序的归纳学习。英国伦敦帝国理工学院博士论文。
[41] Law，M.、Russo，A.和Broda，K.（2014）。答案集程序的归纳学习。E.Fermé&J.Leite（编辑），《人工智能中的逻辑——第14届欧洲会议》，JELIA 2014，Funchal，Madeira，葡萄牙，2014年9月24-26日。《计算机科学讲义》第8761卷《会议录》（第311-325页）。斯普林格·Zbl 1432.68391号
[42] 法学硕士。；Russo，A。；Broda，K.，从上下文相关示例中迭代学习答案集程序，逻辑编程理论与实践，16，5-6，834-848（2016）·Zbl 1379.68074号 ·doi:10.1017/S1471068416000351
[43] Lin，D.、Dechter，E.、Ellis，K.、Tenenbaum，J.B.和Muggleton，S.（2014）。一次性函数归纳的偏差重新制定。收录于：T.Schaub、G.Friedrich和B.O'Sullivan（编辑），ECAI 2014-21第二届欧洲人工智能会议，2014年8月18-22日，捷克共和国布拉格，包括智能系统的著名应用（PAIS 2014），人工智能和应用领域第263卷（第525-530页）。IOS出版社。
[44] Lloyd，JW，《逻辑编程基础》（2012），柏林：施普林格出版社，柏林
[45] Michie，D.（1988年）。未来五年的机器学习。D.H.Sleeman（编辑），《第三届欧洲学习工作会议论文集》，EWSL 1988，英国格拉斯哥图灵研究所，1988年10月3-5日（第107-122页）。皮特曼出版社。
[46] Midelfart，H.（1999）。子句理论的有限搜索空间。S.Dzeroski，&P.A.Flach（编辑），《归纳逻辑编程》，第九届国际研讨会，ILP-99，斯洛文尼亚布莱德，1999年6月24日至27日，《计算机科学讲稿》第1634卷，论文集（第210-221页）。斯普林格。
[47] Morel，R.、Cropper，A.和Luke Ong，C.-H.（2019年）。逻辑程序的类型化元解释学习。F.Calimeri，N.Leone和M.Manna（编辑），《人工智能中的逻辑——第16届欧洲会议》，JELIA 2019，Rende，意大利，2019年5月7日至11日，《计算机科学讲稿》第11468卷（第198-213页）。斯普林格·Zbl 1525.68011号
[48] Muggleton，S.，归纳逻辑编程，新一代计算，8，4，295-318（1991）·Zbl 0712.68022号 ·doi:10.1007/BF03037089
[49] Muggleton，S.，《逆蕴涵与程序》，新一代计算，13，3-4，245-286（1995）·doi:10.1007/BF03037227
[50] 麻格尔顿，S。；De Raedt，L。；普尔，D。；I.布拉特科。；宾夕法尼亚州Flach；井上，K。；Srinivasan，A.，ILP满20岁传记和未来挑战，机器学习，86，1，3-23（2012）·Zbl 1243.68014号 ·doi:10.1007/s10994-011-5259-2
[51] 麻格尔顿，SH；Lin，D。；巴列维，N。；Tamaddoni-Nezhad，A.，《元解释学习：语法推理的应用》，机器学习，94，1，25-49（2014）·Zbl 1319.68121号 ·doi:10.1007/s10994-013-5358-3
[52] 麻格尔顿，SH；Lin，D。；Tamaddoni-Nezhad，A.，《高阶二元数据日志的元解释学习：重新审视谓词发明》，机器学习，100，1，49-73（2015）·Zbl 1346.68119号 ·doi:10.1007/s10994-014-5471-y
[53] Nienhuys-Cheng，S-H；de Wolf，R.，《归纳逻辑编程基础》（1997），新泽西州塞考克斯：Springer-Verlag纽约公司·Zbl 1293.68014号 ·doi:10.1007/3-540-62927-0
[54] Plotkin，G.D.（1971）。归纳推理的自动方法。爱丁堡大学博士论文。
[55] Polikarpova，N.、Kuraj，I.和Solar-Lezama，A.（2016年）。基于多态精化类型的程序合成。C.Krintz和E.Berger（编辑），《第37届ACM SIGPLAN编程语言设计与实现会议论文集》，PLDI 2016，美国加利福尼亚州圣巴巴拉，2016年6月13日至17日（第522-538页）。ACM公司。
[56] Popper，K.，《科学发现的逻辑》（2005），伦敦：劳特利奇出版社，伦敦·数字对象标识代码：10.4324/9780203994627
[57] 昆兰，JR，从关系中学习逻辑定义，机器学习，5239-266（1990）
[58] 拉戈塔曼，M。；Mendelson，J。；赵博士。；奈克，M。；Scholz，B.，普罗旺斯导向的数据日志程序综合，PACMPL，4，POPL，62:1-62:27（2020）
[59] Ray，O.，非单调外展归纳学习，应用逻辑杂志，7，3，329-340（2009）·Zbl 1179.68125号 ·doi:10.1016/j.jal.2008.10.07
[60] Schüller，P。；Benz，M.，通过细粒度基于成本的假设生成进行的尽力而为的归纳逻辑编程归纳逻辑编程比赛中的启发系统，机器学习，107，71141-1169（2018）·Zbl 1443.68155号 ·文件编号：10.1007/s10994-018-5708-2
[61] 夏皮罗，安永，算法程序调试（1983），马萨诸塞州剑桥：麻省理工学院出版社·Zbl 0589.68003号
[62] Solar-Lezama，A.、Jones，C.G.和Bodík，R.（2008）。绘制并发数据结构。R.Gupta&S.P.Amarasinghe（编辑），《2008年ACM SIGPLAN编程语言设计与实现会议论文集》，美国亚利桑那州图森市，2008年6月7日至13日（第136-148页）。ACM公司。
[63] Srinivasan，A.（2001）。ALEPH手册。牛津大学计算机实验室的机器学习。
[64] Srinivasan，A.和Kothari，R.（2005）。应用降维来限制假设空间大小的研究。在S.Kramer和B.Pfahringer（编辑），《归纳逻辑编程》，第15届国际会议，ILP 2005，德国波恩，2005年8月10日至13日，《计算机科学讲义》第3625卷（第348-365页）。斯普林格·Zbl 1134.68378号
[65] Tärnlund，Sá，Horn子句可计算性，BIT，17，2，215-226（1977）·Zbl 0359.02042号 ·doi:10.1007/BF01932293
[66] Wang，W.Y.、Mazaitis，K.和Cohen，W.W.（2014）。通过参数学习进行结构学习。J.Li、X.S.Wang、M.N.Garofalakis、I.Soboroff、T.Suel和M.Wang（编辑），《第23届ACM信息与知识管理国际会议论文集》，2014年11月3-7日，中国上海，2014年（第1199-1208页）。ACM公司。
[67] Weinzierl，A.（2017年）。融合懒散基础和CDNL搜索以解决问题。M.Balduccini&T.Janhunen（编辑），《逻辑编程与非单调推理第14届国际会议》，LPNMR 2017，芬兰埃斯波，2017年7月3日至6日，《计算机科学讲稿》第10377卷（第191-204页）。斯普林格·Zbl 1491.68262号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。