×

关于ILP中覆盖测试的相变与学习成功率之间的关系。 (英语) Zbl 1470.68071号

众所周知,ILP中的启发式搜索容易出现平台现象。Giordana和Saitta的工作之后可以给出一个解释:ILP覆盖测试是NP完成的,因此在其覆盖概率中显示出急剧的相变。由于假设的启发式值取决于涵盖示例的数量,因此区域“是”和“否”表示在搜索过程中需要跨越的平台,而没有信息启发式值。随后的几项工作通过对大量人工生成的问题运行多个学习算法,对这一发现进行了广泛的研究,并认为这种相变的发生注定了每个学习算法都无法识别目标概念。然而,我们注意到,只应用了生成和测试学习算法,并且在数据驱动学习算法的情况下,这个结论必须是合格的。主要基于Winston在近距离失误示例方面的开创性工作,我们表明,在同一组问题上,如果训练集中提供了近距离失误,自顶向下的数据驱动策略可以跨越任何平台,而它们不会改变平台概况,也不会指导生成和测试策略。我们的结论是,目标概念相对于相变的位置并不像之前所认为的那样是学习问题困难的可靠指示。

MSC公司:

68T05型 人工智能中的学习和自适应系统
68N17号 逻辑编程
68T20型 人工智能背景下的问题解决(启发式、搜索策略等)

软件:

4.5条
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Ales-Bianchetti,J.、Rouveirol,C.和Sebag,M.(2002)。基于约束的长关系概念学习。M.Kaufmann(编辑),第十九届机器学习国际会议(ICML-2002)(第35-42页),澳大利亚新南威尔士州悉尼。洛斯·阿尔托斯:考夫曼。
[2] Alphonse,E.(2004)。在归纳逻辑编程中重温了宏运算符。《归纳逻辑编程会议论文集》(第8-25页),葡萄牙波尔图。柏林:斯普林格·Zbl 1105.68361号
[3] Alphonse,E.和Rouveirol,C.(2006年)。将自顶向下的数据驱动策略扩展到ILP。在西班牙圣地亚哥·德孔波斯特拉举行的归纳逻辑编程会议记录中。柏林:斯普林格·Zbl 1201.68080号
[4] Blockeel,H.和Raedt,L.D.(1997年)。ILP中的先行和离散化。N.Lavrać&S.Díeroski(Eds.),归纳逻辑编程会议记录(第1297卷,第77-84页),1997年9月17-20日。柏林:斯普林格。
[5] Blockeel,H.和Raedt,L.D.(1998年)。一阶决策树的自顶向下归纳。人工智能,101285-297·Zbl 0909.68034号 ·doi:10.1016/S0004-3702(98)00034-4
[6] Botta,M.、Giordana,A.、Saitta,L.和Sebag,M.(2003)。关系学习是在关键区域进行搜索。机器学习研究杂志,4431–463·Zbl 1102.68533号 ·网址:10.1162/153244304773936018
[7] Cheeseman,P.、Kanefsky,B.和Taylor,W.(1991年)。真正困难的问题在哪里。R.Myopoulos(编辑),《第十二届国际人工智能联合会议论文集》(第331-340页),澳大利亚悉尼,1991年8月。洛斯·阿尔托斯:考夫曼·Zbl 0747.68064号
[8] Clark,P.和Niblett,T.(1989)。CN2归纳算法。机器学习,3261–283。
[9] Cohen,W.W.(1993)。受限逻辑程序的可学习性。S.Muggleton(编辑),《归纳逻辑编程会议论文集》(第41-72页)。塞格德:J.斯特凡研究所。
[10] Cohen,W.W.(1995)。快速有效的规则归纳。第十二届机器学习国际会议论文集(第115-123页),加利福尼亚州塔霍市,洛斯阿尔托斯:考夫曼。
[11] Fürnkranz,J.和Flach,P.(2005)。Roc'n'规则学习有助于更好地理解覆盖算法。机器学习,58,39–77·Zbl 1075.68071号 ·doi:10.1007/s10994-005-5011-x
[12] Giordana,A.和Saitta,L.(2000)。学习关系的阶段转换。机器学习,41,217–25·Zbl 0965.68030号 ·doi:10.1023/A:1007620705405
[13] 乔丹娜,A.、赛塔,L.、塞巴格,M.和博塔,M.(2000)。在阶段转换框架中分析关系学习。第17届机器学习国际会议(第311-318页),美国加利福尼亚州斯坦福市。洛斯·阿尔托斯:考夫曼·Zbl 0970.68674号
[14] Gottlob,G.、Leone,N.和Scarcello,F.(1997)。关于一些归纳逻辑程序设计问题的复杂性。N.Lavrać&S.Díeroski(编辑),第七届归纳逻辑编程国际研讨会论文集(第1297卷,第17-32页)。柏林:斯普林格。
[15] Haussler,D.(1989)。学习结构域中的连接概念。机器学习,4(1),7-40。
[16] Hayes-Roth,F.和McDermott,J.(1977年)。从结构描述中获取知识。R.Reddy(编辑),《第五届国际人工智能联合会议论文集》(第356–362页)。剑桥:考夫曼。
[17] Kearns,M.J.和Vazirani,U.V.(1994年)。计算学习理论导论。剑桥:麻省理工学院出版社。
[18] Korf,R.E.(1985年a)。深度优先迭代深化:最优容许树搜索。人工智能,27(1),97-109·Zbl 0573.68030号 ·doi:10.1016/0004-3702(85)90084-0
[19] Korf,R.E.(1985年b)。宏运算符:一种薄弱的学习方法。人工智能,26,35-77·Zbl 0562.68071号 ·doi:10.1016/0004-3702(85)90012-8
[20] Laird,P.D.(1986年)。通过精化进行归纳推理。1986年8月,T.Kehler&S.Rosenschein(编辑),《第五届全国人工智能会议论文集》(第1卷,第472-476页)。洛斯·阿尔托斯:考夫曼。
[21] Michalski,R.S.(1983年)。归纳学习的理论和方法。帕洛阿尔托:考夫曼·Zbl 0538.90018号
[22] Mitchell,T.M.(1982)。概括为搜索。人工智能,18203–226·doi:10.1016/0004-3702(82)90040-6
[23] Muggleton,S.(1995年)。逆蕴涵和PROGOL。新一代计算,13,245–286·doi:10.1007/BF03037227
[24] Newell,A.和Simon,H.A.(1972年)。解决人类问题。恩格尔伍德悬崖:普伦蒂斯·霍尔。
[25] Peña-Castillo,L.和Wrobel,S.(2002)。示例驱动学习系统的稳定性:多元关系学习的案例研究。2002年MICAI:人工智能进展(第321-330页)。柏林:斯普林格·Zbl 1077.68757号
[26] Pearl,J.(1985)。启发式。阅读:Addison-Wesley。
[27] Plotkin,G.(1970年)。关于归纳推广的注记。《机器智能》(第153-163页)。爱丁堡:爱丁堡大学出版社·Zbl 0219.68045号
[28] Quinlan,J.R.(1986)。决策树的归纳。机器学习,1(1),81–106。
[29] Quinlan,J.R.(1990年)。从关系中学习逻辑定义。机器学习,5(3),239–266。
[30] Quinlan,J.R.(1991)。在归纳逻辑编程中确定文字。第十二届国际人工智能联合会议记录(第746-750页),澳大利亚新南威尔士州悉尼。柏林:斯普林格·兹比尔074868063
[31] Quinlan,J.R.(1993)。C4.5:机器学习程序。圣马特奥:考夫曼。
[32] Richards,B.和Mooney,R.(1992年)。通过寻路学习关系。《第十届全国人工智能大会论文集》(第723-738页)。圣何塞:AAAI出版社/麻省理工学院出版社。
[33] Russell,S.和Norvig,P.(1995年)。人工智能:一种现代方法。恩格尔伍德悬崖:普伦蒂斯大厅·兹比尔083568093
[34] Serra,A.、Giordana,A.和Saitta,L.(2001)。在相变边缘学习。B.Nebel(编辑),《诉讼》。第七届国际会议。人工智能(IJCAI-01)(第921-926页),美国华盛顿州西雅图。
[35] Shapiro,E.(1983年)。算法程序调试。剑桥:麻省理工学院出版社·Zbl 0589.68003号
[36] Silverstein,G.和Pazzani,M.J.(1991)。关系陈词滥调:限制关系学习中的建设性归纳。L.Birnbaum&G.Collins(编辑),第八届机器学习国际研讨会论文集(第203-207页),加利福尼亚大学欧文分校。洛斯·阿尔托斯:考夫曼。
[37] Smith,B.D.和Rosenbloom,P.S.(1990年)。增量非回溯聚焦:版本空间的多项式有界泛化算法。第八届全国人工智能会议论文集(第848-853页)。波士顿:AAAI出版社/MIT出版社。
[38] Srinivasan,A.(1999)。提出假设的学习引擎(Aleph)。http://web.comlab.ox.ac.uk/oucl/research/areas/machlearn/Aleph .
[39] van der Laag,P.和Nienhuys-Cheng,S.H.(1994)。ILP中理想精化算子的注记。S.Wrobel(Ed.),第四届归纳逻辑编程国际研讨会论文集(第237卷,第247-262页)。Bad Honnef/波恩:Gesellschaft für Mathematik und Datenverabeitung MBH·Zbl 0941.68677号
[40] Winston,P.H.(1975)。从示例中学习结构描述。在P.H.Winston(Ed.),《计算机视觉心理学》(第157-209页)。纽约:McGraw-Hill。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。