×

概率归纳约束逻辑。 (英文) Zbl 07432819号

摘要:概率逻辑模型有效地处理了许多现实世界领域中典型的不确定关系和实体。在概率逻辑编程领域,通常的目的是学习这些类型的模型来预测领域的特定原子或谓词,称为目标原子/谓词。然而,学习分类器作为一个整体进行解释可能也很有用:为此,我们考虑归纳约束逻辑系统生成的模型,由以下集合表示完整性约束,我们提出了它们的概率版本。每个完整性约束都用概率进行注释,由此产生的概率逻辑约束模型为解释指定了一个积极的概率。为了了解这种概率模型的结构和参数,我们提出了“概率归纳约束逻辑”系统PASCAL。可以使用梯度下降或L-BFGS进行参数学习。PASCAL在11个数据集上进行了测试,并与一些统计关系系统和构建关系决策树(TILDE)的系统进行了比较:我们证明,该系统在可比较的执行时间内,在精确重新调用和接收器操作特性曲线下的面积方面取得了更好或可比较的结果。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Alberti,M.、Bellodi,E.、Cota,G.、Lamma,E.,Riguzzi,F.和Zese,R.(2016)。概率约束逻辑理论。摘自:A.Hommersom,S.Abdallah(编辑)《第三届概率逻辑编程国际研讨会论文集》,CEUR研讨会论文集(第1661卷,第15-28页)。Sun SITE中欧,亚琛,德国。http://ceur-ws.org/Vol-1661/#论文-02 ·Zbl 1347.68320号
[2] 阿尔贝蒂,M。;Chesani,F。;加瓦内利,M。;南丫岛,E。;梅洛,P。;Torroni,P.,《诱因逻辑编程中的可验证代理交互:SCIFF框架》,《计算机逻辑ACM事务》,9,4,29:1-29:43(2008)·Zbl 1367.68273号 ·数字对象标识代码:10.1145/1380572.1380578
[3] Alberti,M.、Cota,G.、Riguzzi,F.和Zese,R.(2016)。网络上的概率逻辑推理。收录于:G.Adorni、S.Cagnoni、M.Gori、M.Maratea(编辑)AI*IA 2016,《计算机科学讲义》,第10037卷,第351-363页。Springer doi:10.1007/978-3-319-49130-1_26。
[4] 阿普特,吉尔吉斯斯坦共和国;Bezem,M.,非循环程序,新一代计算,9,3-4,335-363(1991)·Zbl 0744.68034号 ·doi:10.1007/BF03037168
[5] Bellodi,E.和Riguzzi,F.(2012年)。学习概率逻辑程序的结构。在S.Muggleton、A.Tamaddoni Nezhad和F.Lisi(编辑)第22届归纳逻辑编程国际会议上,LNCS(第7207卷,第61-75页)。柏林:斯普林格·Zbl 1379.68269号
[6] 贝洛迪,E。;Riguzzi,F.,通过搜索子句空间进行概率逻辑程序的结构学习,《逻辑编程的理论与实践》,15,2,169-212(2015)·Zbl 1379.68269号 ·doi:10.1017/S1471068413000689
[7] Blockeel,H。;De Raedt,L。;雅各布斯,N。;Demoen,B.,通过从解释中学习来扩大归纳逻辑编程,数据挖掘和知识发现,3,1,59-93(1999)·doi:10.1023/A:1009867806624
[8] Blockeel,H。;De Raedt,L.,一阶逻辑决策树的自顶向下归纳法,人工智能,101,1-2,285-297(1998)·Zbl 0909.68034号 ·doi:10.1016/S0004-3702(98)00034-4
[9] Bongard,MM,模式识别(1970),罗谢尔·帕克:海登图书公司,斯巴达图书公司,罗谢尔公园·Zbl 0205.21201号
[10] Bruynooghe,M.、Mantadelis,T.、Kimmig,A.、Gutmann,B.、Vennekens,J.、Janssens,G.和De Raedt,L.(2010年)。概率一阶逻辑推理的Problog技术。在2010年8月16日至20日于葡萄牙里斯本举行的ECAI第19届欧洲人工智能会议上,人工智能和应用领域的会议记录,第215卷,第719-724页。IOS出版社·Zbl 1211.68398号
[11] Cauchy,A.,《Méthode générale pour la résolution des systemes d’équations simultanées》,巴黎康普特斯·伦德斯学术科学,225,83,536-538(1847)
[12] 克拉克,吉隆坡;加莱尔,H。;Minker,J.,《作为失败的否定,逻辑和数据库》(1978),马萨诸塞州波士顿:斯普林格·doi:10.1007/978-1-4684-3384-5_11
[13] Davis,J.和Goadrich,M.(2006)。精确再调用和ROC曲线之间的关系。ECML 2006年第233-240页)。ACM公司
[14] De Raedt,L。;Dehaspe,L.,克劳萨尔发现,机器学习,26,2-3,99-146(1997)·Zbl 0866.68021号 ·doi:10.1023/A:1007361123060
[15] De Raedt,L。;Díeroski,S.,《一阶jk-子句理论是PAC-Learnable的,人工智能》,70,1-2,375-392(1994)·Zbl 0938.68773号 ·doi:10.1016/0004-3702(94)90112-0
[16] De Raedt,L.、Kimmig,A.和Toivonen,H.(2007)。ProbLog:一种概率Prolog及其在链路发现中的应用。收录于:M.M.Veloso(编辑)IJCAI 2007(第7卷,第2462-2467页)。AAAI出版社/IJCAI。
[17] De Raedt,L.和Van Laer,W.(1995)。归纳约束逻辑。收录于:ALT 1995,《人工智能课堂讲稿》(第997卷,第80-94页)。斯普林格。
[18] 阿联酋登普斯特;新墨西哥州莱尔德;DB Rubin,《通过EM算法从不完整数据中获取最大似然》,《皇家统计学会杂志:B辑(方法学)》,39,1,1-38(1977)·Zbl 0364.62022号
[19] Di Mauro,N。;贝洛迪,E。;Riguzzi,F.,概率逻辑程序的基于Bandit的Monte-Carlo结构学习,机器学习,100,1,127-156(2015)·Zbl 1346.68051号 ·doi:10.1007/s10994-015-5510-3
[20] 多明戈斯,P.和韦布,W.A.(2012)。易于处理的一阶概率逻辑。J.Hoffmann,B.Selman(编辑)第二十六届AAAI人工智能会议(AAAI-12)。AAAI出版社。
[21] 宾夕法尼亚州Flach;Lachiche,N.,结构化数据的朴素贝叶斯分类,机器学习,57,3,233-269(2004)·Zbl 1079.68085号 ·doi:10.1023/B:MACH.0000039778.69032.ab
[22] Gavanelli,M.、Lamma,E.、Riguzzi,F.、Bellodi,E.,Zese,R.和Cota,G.(2015)。数据日志本体论的诱因框架。M.D.Vos,T.Eiter,Y.Lierler,F.Toni(编辑)第31届逻辑编程国际会议技术交流(ICLP 2015),CEUR研讨会记录(第1433卷)。CEUR-WS.org·Zbl 1407.68479号
[23] Gordon,DM,《快速指数方法的调查》,《算法杂志》,27,1,129-146(1998)·Zbl 0915.11064号 ·doi:10.1006/jagm.1997.0913
[24] Kapur,D.和Narendran,P.(1986年)。集的统一和匹配问题的Np-完备性。在自动扣减国际会议上(第489-495页)。斯普林格·Zbl 0643.68054号
[25] Khot,T.、Natarajan,S.、Kersting,K.和Shavlik,J.W.(2011年)。通过函数梯度提升学习马尔可夫逻辑网络。第11届IEEE数据挖掘国际会议论文集(第320-329页)。电气与电子工程师协会。
[26] Kok,S.和Domingos,P.(2010年)。使用结构基元学习马尔可夫逻辑网络。摘自:J.Fürnkranz,T.Joachims(编辑)ICML 2010(第551-558页)。全能女。
[27] Lafferty,J.、McCallum,A.和Pereira,F.(2001年)。条件随机场:用于分割和标记序列数据的概率模型。第18届国际机器学习会议(第1卷,第282-289页)。
[28] Lamma,E.、Mello,P.、Riguzzi,F.和Storari,S.(2008年)。将归纳逻辑编程应用于过程挖掘。第17届归纳逻辑编程国际会议论文集,ILP 2007,第4894号,人工智能课堂讲稿(第132-146页)。德国海德堡施普林格。doi:10.1007/978-3-540-78469-2_16·Zbl 1136.68489号
[29] Mihalkova,L.和Mooney,R.J.(2007)。马尔可夫逻辑网络结构的自底向上学习。第24届国际机器学习会议记录(第625-632页)。ACM公司。
[30] Muggleton,S.,反蕴涵与进展,新一代计算,13245-286(1995)·doi:10.1007/BF03037227
[31] Neville,J.、Jensen,D.D.、Friedland,L.和Hay,M.(2003年)。学习关系概率树。收录于:L.Getoor,T.E.Senator,P.M.Domingos,C.Faloutsos(编辑)《第九届ACM SIGKDD知识发现和数据挖掘国际会议论文集》,美国华盛顿特区,2003年8月24-27日,第625-630页。ACM出版社。
[32] Nguembang Fadja,A.和Riguzzi,F.(2018年)。提升了概率逻辑程序的区分性学习。机器学习,。doi:10.1007/s10994-018-5750-0·Zbl 1493.68310号
[33] Nguembang Fadja,A.和Riguzzi,F.(2019年)。提升了概率逻辑程序的区分性学习。机器学习,108(7),1111-1135。doi:10.1007/s10994-018-5750-0。http://ml.unife.it/wp-content/uploads/Papers/NguRig-ML18.pdf。 ·Zbl 1493.68310号
[34] Nocedal,J.,用有限存储更新拟Newton矩阵,计算数学,35,151,773-782(1980)·Zbl 0464.65037号 ·doi:10.1090/S025-5718-1980-0572855-7
[35] Poole,D.,《逻辑编程、外推和概率:估算先验概率和后验概率的自顶向下的任何时间算法》,新一代。计算。,11, 3, 377-400 (1993) ·Zbl 0788.68025号 ·doi:10.1007/BF03037184
[36] Poole,D.,《不确定性下多智能体建模的独立选择逻辑》,《人工智能》,94,7-56(1997)·Zbl 0902.03017号 ·doi:10.1016/S0004-3702(97)00027-1
[37] 普尔,D。;Zhang,NL,在概率推理中利用上下文独立性,《人工智能研究杂志》,18,263-313(2003)·Zbl 1056.68144号 ·doi:10.1613/jair.1122
[38] FJ Provost;Fawcett,T.,不精确环境的鲁棒分类,机器学习,42,3203-231(2001)·Zbl 0969.68126号 ·doi:10.1023/A:100760115854
[39] 理查森,M。;多明戈斯,P.,马尔可夫逻辑网络,机器学习,62,1-2,107-136(2006)·Zbl 1470.68221号 ·doi:10.1007/s10994-006-5833-1
[40] Riguzzi,F.和Swift,T.(2010年)。带注释析取的逻辑程序推理的表格和答案包含。收录于:ICLP TC 2010,LIPIcs(第7卷,第162-171页)。达格斯图尔宫(Schloss Dagstuhl)-莱布尼茨-泽特鲁姆富尔信息宫(Leibniz-Zentrum fuer Informatik)。doi:10.4230/LIPIcs。ICLP.2010.162·Zbl 1237.68049号
[41] Riguzzi,F。;Swift,T.,《分布语义学下概率逻辑编程的良好定义和有效推理》,《逻辑编程理论与实践》,13,2,279-302(2013)·Zbl 1267.68084号 ·doi:10.1017/S1471068411000664
[42] 佐藤(1995)。具有分布语义的逻辑程序的统计学习方法。收录于:L.Sterling(编辑)ICLP 1995(第715-729页)。剑桥:麻省理工学院出版社。
[43] Sato,T.和Kameya,Y.(1997年)。棱镜:一种符号统计建模语言。在:IJCAI(第97卷,第1330-1339页)。
[44] Singla,P.和Domingos,P.(2005年)。马尔可夫逻辑网络的判别训练。摘自:第20届全国人工智能会议(AAAI 2005)(第868-873页)。AAAI出版社/麻省理工学院出版社。
[45] Vennekens,J.、Verbaeten,S.和Bruynooghe,M.(2004)。带注释析取的逻辑程序。收录于:B.Demoen,V.Lifschitz(编辑)ICLP 2004,计算机科学课堂讲稿(第3131卷,第431-445页)。施普林格。doi:10.1007/978-3-540-27775-0_30·Zbl 1104.68391号
[46] Wielemaker,J.公司。;施里杰弗斯,T。;特里斯卡,M。;Lager,T.,SWI-Prolog,逻辑编程理论与实践,12,1-2,67-96(2012)·Zbl 1244.68023号 ·网址:10.1017/S1471068411000494
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。