×
高坤;王汉平;曹永志;井上，胜美

使用可微逻辑编程语义学习解释转换。 （英语） Zbl 07510308号

机器。学习。 111，第1期，第123-145页（2022年）.
摘要：学习与推理的结合是神经符号学研究中一个重要而富有挑战性的课题。微分归纳逻辑程序设计是一种利用神经网络从完整、标记错误或不完整的观察事实中学习符号知识表示的技术。本文提出了一种新的可微归纳逻辑程序设计系统，称为从解释转换中的可微学习（D-LFIT），用于通过提出的逻辑程序、神经网络、优化算法的嵌入以及计算逻辑程序语义的自适应代数方法来学习逻辑程序。该模型具有几个特点，包括参数数量少、在课程学习环境中生成逻辑程序的能力以及提取训练神经网络的线性时间复杂度。当提出的系统从关系数据集学习时，引入了著名的底子句定位算法。我们将我们的模型与NN-LFIT进行了比较，后者从返回的连通网络、高精度规则学习器RIPPER、纯符号LFIT系统LF1T和CILP++中提取命题逻辑规则，后者集成了神经网络和命题化方法来处理一阶逻辑知识。从实验结果中，我们得出结论，当给定完整、不完整和标记错误的数据时，D-LFIT相对于基线具有可比的准确性。实验结果表明，D-LFIT不仅能快速、准确地学习符号逻辑程序，而且在处理标记错误和不完整的数据集时表现出较强的鲁棒性。

引用于1文件

MSC公司：

68T05型 人工智能中的学习和自适应系统

关键词：

机器学习;可微归纳逻辑程序设计;可解释性;神经符号学方法;从口译过渡中学习

软件：

4.5条;RelNN公司
PDF格式BibTeX公司 XML格式引用
\textit{K.Gao}等人，马赫。学习。111，编号1，123--145（2022；Zbl 07510308）
全文： 内政部

参考文献：

[1] Apt，K.R.、Blair，H.A.和Walker，A.（1988年）。走向陈述性知识理论。《演绎数据库和逻辑编程基础》（第89-148页）。圣马特奥：摩根·考夫曼。
[2] 阿维拉·加塞兹，AS；Zaverucha，G.，《联结主义归纳学习和逻辑编程系统》，应用智能，11，1，59-77（1999）·doi:10.1023/A:1008328630915
[3] 阿维拉，AS；布罗达，K。；Gabbay，DM，从经过训练的神经网络中提取符号知识：一种合理的方法，人工智能，125，1-2155-207（2001）·Zbl 0969.68124号
[4] Bader，S.、Hitzler，P.和Hölldobler，S.（2004）。连接主义与一阶知识表示和推理的结合是对人工智能的挑战。第三届国际信息会议记录（第22-33页）。
[5] Bader，S.、Hitzler，P.和Witzel，A.（2005年）。集成一阶逻辑程序和连接系统——一种建设性方法。在IJCAI神经符号学习和推理研讨会论文集（第5卷）。
[6] Bengio，Y.、Louradour，J.、Collobert，R.和Weston，J.（2009）。课程学习。《ICML会议录》（第382卷，第41-48页）。纽约：ACM出版社。
[7] 混沌，A。；奥尔达纳，M。；埃斯皮诺萨·索托，C。；Ponce de León，B。；阿罗约公司；Alvarez-Buylla，ER，《从基因到花型和进化：基因调控网络的动态模型》，《植物生长调控杂志》，25，4，278-289（2006）·doi:10.1007/s00344-006-0068-8
[8] Cohen，W.W.（1995）。快速有效的规则归纳。ICML会议记录（第115-123页）。爱思唯尔。
[9] 密歇根州戴维迪；Bornholdt，S.，布尔网络模型预测裂变酵母的细胞周期序列，PLoS ONE，3，2，e1672（2008）·doi:10.1371/journal.pone.0001672
[10] Davis，J.、Burnside，E.S.、Dutra，I.C.、Page，D.和Costa，V.S.（2005）。学习贝叶斯规则网络的集成方法。在LNAI：第3720卷。程序。ECML（第84-95页）。柏林：斯普林格。
[11] 埃文斯，R。；Grefenstette，E.，《从噪声数据中学习解释规则》，《人工智能研究杂志》，61,1-64（2018）·Zbl 1426.68235号 ·数字对象标识代码：10.1613/jair.5714
[12] 埃文斯，R。；Hernández-Orallo，J。；威尔布尔，J。；科尔里，P。；Sergot，M.，《感知输入的意义》，《人工智能》，293103438（2019）·Zbl 1519.68214号 ·doi:10.1016/j.artint.2020.103438
[13] 福雷，A。；Naldi，A。；Chaouiya，C。；Thieffry，D.，控制哺乳动物细胞周期的通用布尔模型的动态分析，生物信息学，22，14，e124-e131（2006）·doi:10.1093/bioinformatics/btl210
[14] França，M.V.M.、D’Avila Garcez，a.S.和Zaverucha，G.（2015）。从神经网络中提取关系知识。在CEUR研讨会记录中（第1583卷，第11-12页）。
[15] 法国队，MVM；Zaverucha，G。；D’Avila Garcez，AS，使用人工神经网络的底子句命题化进行快速关系学习，机器学习，94，1，81-104（2014）·doi:10.1007/s10994-013-5392-1
[16] Gentet，E.、Touret，S.和Inoue，K.（2017年）。使用前馈神经网络学习口译转换。CEUR研讨会记录（第27-33页）。
[17] Hitzler，P.和Seda，A.K.（2000年）。关于逻辑程序和神经网络之间关系的说明。《第四届爱尔兰正式方法研讨会论文集》（第1-9页）。
[18] 希茨勒，P。；Hölldobler，S。；塞达，AK，逻辑程序和连接网络，应用逻辑杂志，2，3，273-300（2004）·Zbl 1072.68090号 ·doi:10.1016/j.jal.2004.03.002
[19] Hochreiter，S。；Schmidhuber，J.，《长短期记忆，神经计算》，第9、8、1735-1780页（1997年）·doi:10.1162/neco.1997.9.8.1735
[20] Hölldobler，S.（1993年）。自动推理和连接主义模型。Fakultät Informatik公司。达姆施塔特技术学院。（博士论文，Habilitationsschrift）。
[21] Hölldobler，S.、Kalinke，Y.、Hoelldobler、S.和Kalinke，Y.（1991）。面向逻辑编程的新型大规模并行计算模型。在ECAI'94关于将符号和连接信息处理相结合的研讨会上（第68-77页）。
[22] Hölldobler，S。；Kalinke，Y。；Störr，HP，用递归神经网络逼近逻辑程序的语义，应用智能，11，1，45-58（1999）·doi:10.1023/A:1008376514077
[23] 井上，K.（2011）。布尔网络的逻辑编程。《国际JCAI会议录》（第924-930页）。门罗公园：AAAI出版社。
[24] Inoue，K.和Sakama，C.（2012年）。逻辑程序的振荡行为。为纪念弗拉基米尔·利夫施奇茨（Vladimir LifschitzIn E.Erdem）、J.Lee、Y.Lierler和D.Pearce（编辑），LNAI（第7265卷，第345-362页），关于基于逻辑的人工智能的正确推理论文。柏林：斯普林格·Zbl 1357.68036号
[25] 井上，K。；里贝罗，T。；Sakama，C.，从口译过渡中学习，机器学习，94，1，51-79（2014）·Zbl 1319.68054号 ·doi:10.1007/s10994-013-5353-8
[26] 考夫曼，SA，《秩序的起源：进化中的自我组织和选择》（1993），牛津：牛津大学出版社，牛津
[27] Kazemi，S.M.和Poole，D.（2018年）。RelNN：关系学习的深层神经模型。AAAI会议记录（第6367-6375页）。AAAI出版社。
[28] 金，RD；Srinivasan，A。；MJE，Sternberg，《化学活性与结构的关系：ILP成功的检验》，新一代计算，13，3-4，411-433（1995）·doi:10.1007/BF03037232
[29] Kramer，S.、Lavrać，N.和Flach，P.（2001）。关系数据挖掘的命题方法。关系数据挖掘，262-291。
[30] 莱曼，J。；Bader，S。；Hitzler，P.，从人工神经网络中提取简化逻辑程序，应用智能，32，3249-266（2010）·doi:10.1007/s10489-008-0142-y
[31] 李，F。；Long，T。；卢，Y。；欧阳（Q.Ouyang）。；Tang，C.，《酵母细胞周期网络的稳健设计》，美国国家科学院学报，101，14，4781-4786（2004）·doi:10.1073/pnas.0305937101
[32] Muggleton，S.，归纳逻辑编程，新一代计算，8，4，295-318（1991）·Zbl 0712.68022号 ·doi:10.1007/BF03037089
[33] Muggleton，S.，《逆蕴涵与程序》，新一代计算，13，3-4，245-286（1995）·doi:10.1007/BF03037227
[34] 麻格尔顿，S。；De Raedt，L.，《归纳逻辑编程：理论和方法》，《逻辑编程杂志》，第19卷，第1629-679页（1994年）·Zbl 0816.68043号 ·doi:10.1016/0743-1066（94）90035-3
[35] Nguyen，H.D.、Sakama，C.、Sato，T.和Inoue，K.（2018年）。计算线性代数中的逻辑编程语义。人工智能多学科趋势国际会议（第32-48页）。查姆：斯普林格。
[36] 普瓦，YJ；Inoue，K.，从噪声状态转换数据中学习逻辑程序，ILP，72-80（2019），Cham:Spriger，Cham
[37] 普瓦，YJ；里贝罗，T。；Inoue，K.，《带延迟的关系动力学的学习表示和基于先验知识的精化》，《If-CoLoG逻辑及其应用杂志》，6，4，695-708（2019）
[38] Quinlan，J.R.（1993）。C4.5：用于机器学习的程序。旧金山：摩根考夫曼。
[39] Rocktäschel，T.和Riedel，S.（2016年）。使用神经定理证明器学习知识库推理。第五届自动化知识库构建研讨会论文集（第45-50页）。
[40] Sakama，C.、Nguyen，H.D.、Sato，T.和Inoue，K.（2018年）。向量空间中逻辑程序的部分求值。在第11次关于答案集编程和其他计算范式的研讨会上。英国牛津。
[41] Seda，A.K.和Lane，M.（2004）。论连接主义和逻辑系统集成中的近似。第三届国际新闻会议记录（第297-300页）。
[42] 塞达，AK，《论连接主义和基于逻辑的系统的集成》，《理论计算机科学中的电子笔记》，161，1，109-130（2006）·Zbl 1276.68044号 ·doi:10.1016/j.entcs.2006.04.028
[43] Serafini，L.和Garcez，A.D.A.（2016年）。逻辑张量网络：从数据和知识中进行深度学习和逻辑推理。在CEUR研讨会会议记录中（第1768卷）·Zbl 1430.68317号
[44] Šourek，G。；Aschenbrenner，V。；elezn，F。；肖克尔特，S。；Kuíelka，O.，《提升的关系神经网络：潜在关系结构的有效学习》，《人工智能研究杂志》，62，69-100（2018）·Zbl 1444.68163号 ·doi:10.1613/jair.1.11203
[45] Srinivasan，A.、Muggleton，S.、King，R.D.和Sternberg，M.J.E.（1994）。诱变：非确定生物领域的ILP实验。在LNAI中：第237卷。程序。ILP（第217-232页）。柏林：斯普林格。
[46] Tamaddoni-Nezhad，A。；Muggleton，S.，由底子句限定的假设空间的格结构和精化算子，机器学习，76，1，37-72（2009）·Zbl 1470.68186号 ·doi:10.1007/s10994-009-5117-7
[47] Tourret，S.、Gentet，E.和Inoue，K.（2017）。从前馈神经网络学习动力学系统的人性化描述。神经网络国际研讨会（第483-492页）。查姆：斯普林格。
[48] MH范·埃姆登；Kowalski，RA，谓词逻辑作为编程语言的语义，ACM杂志，23，4，733-742（1976）·兹比尔0339.68004 ·数字对象标识代码：10.1145/321978.321991
[49] Wang，W.Y.，&Cohen，W.W.（2016）。通过矩阵分解学习一阶逻辑嵌入。《国际JCAI会议录》（第2132-2138页）。
[50] Witten，I.H.、Frank，E.、Hall，M.A.和Pal，C.J.（2017年）。数据挖掘：实用机器学习工具和技术（第四版）。Morgan Kaufmann，Elsevier的伊恩·莫林。
[51] Yang，F.、Yang，Z.和Cohen，W.W.（2017）。用于知识库推理的逻辑规则的差异学习。《NIPS会议记录》（第2320-2329页）。
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配，并且可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。