×

马尔可夫逻辑网络的判别结构学习。 (英语) Zbl 1156.68520号

《归纳逻辑编程》。2008年9月10日至12日在捷克共和国布拉格举行的2008年ILP第18届国际会议。诉讼程序。柏林:施普林格出版社(ISBN 978-3-540-85927-7/pbk)。计算机科学讲义5194。人工智能课堂讲稿,59-76(2008)。
摘要:马尔可夫逻辑网络(MLN)通过将权重附加到一阶公式并将其视为马尔可夫网络特征的模板,将马尔可夫网和一阶逻辑结合在一起。通过最大化关系数据库的可能性,使用最先进的方法学习MLN的结构。这可能导致给定预测任务的次优结果。另一方面,通过对给定结构的MLN权重进行区分学习,在预测问题上取得了较好的结果。本文提出了一种通过最大化查询谓词的条件似然而不是所有谓词的联合似然来区分学习MLN结构的算法。该算法通过最大条件似然选择结构,并通过最大似然设置参数。在两个实际领域中的实验表明,该算法在条件似然方面优于目前最先进的MLN区分权值学习算法。我们还将所提出的算法与最先进的MLN生成结构学习算法进行了比较,并在[A.Ng(女)M.乔丹《关于区分性分类器与生成性分类器:逻辑回归与朴素贝叶斯的比较》,载于《神经信息处理系统的进展》,NIPS 2002,841-848(2002)],表明对于小数据集,生成性算法具有竞争力,而对于大数据集,区分性算法优于生成性算法。
关于整个系列,请参见[Zbl 1149.68001号].

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Besag,J.,《非晶格数据的统计分析》,统计学家,24179-195(1975)·doi:10.2307/2987782
[2] Davis,J。;伯恩赛德,E。;德卡斯特罗·杜特拉,I。;页码,D。;Santos Costa,V。;贾马,J。;卡马乔,R。;Braddil,P.B。;Jorge,A.M。;Torgo,L.,学习贝叶斯规则网络的综合方法,机器学习:ECML 2005,84-95(2005),海德堡:施普林格·doi:10.1007/11564096_13
[3] Davis,J.,Goadrich,M.:精确再调用和ROC曲线之间的关系。In:程序。第23届国际机器学习会议,第233-240页(2006年)
[4] Dehaspe,L.:带子句约束的最大熵建模。In:程序。第109-124页(1997年)
[5] Della Pietra,S。;彼得拉,V.D。;Laferty,J.,随机场的诱导特征,IEEE模式分析和机器智能汇刊,19380-392(1997)·数字对象标识代码:10.1109/34.588021
[6] De Raedt,L。;Dehaspe,L.,克劳萨尔发现,机器学习,26,99-146(1997)·Zbl 0866.68021号 ·doi:10.1023/A:1007361123060
[7] De Raedt,L。;Frasconi,P。;Kersting,K。;Muggleton,S.,《概率归纳逻辑编程——理论与应用》(2008),海德堡:施普林格出版社·Zbl 1132.68007号
[8] 多明戈斯,P。;Pazzani,M.,关于零损失下简单贝叶斯分类器的最优性,机器学习,29,103-130(1997)·Zbl 0892.68076号 ·doi:10.1023/A:1007413511361
[9] Friedman,J.H.,《关于偏差、方差、0/1损失和多维诅咒》,数据挖掘和知识发现,155-77(1997)·doi:10.1023/A:1009778005914
[10] 盖托,L。;Taskar,B.,《统计关系学习导论》(2007),剑桥:麻省理工学院出版社,剑桥·Zbl 1141.68054号
[11] 格雷纳,R。;苏,X。;沈,S。;周伟,逻辑回归的结构扩展:信念网络分类器的判别参数学习,机器学习,59297-322(2005)·Zbl 1101.68759号 ·doi:10.1007/s10994-005-0469-0
[12] 格罗斯曼,D。;Domingos,P.,通过最大化条件似然学习贝叶斯网络分类器,Proc。第21届国际机器学习大会,361-368(2004),班夫:ACM出版社,班夫
[13] 胡斯,H.H。;Stutzle,T.,《随机局部搜索:基础与应用》(2005),旧金山:Morgan Kaufmann,旧金山·Zbl 1126.68032号
[14] Kok,S.,Domingos,P.:学习马尔可夫逻辑网络的结构。摘自:Proc,第22届国际机器学习大会,第441-448页(2005)
[15] Kok,S.、Singla,P.、Richardson,M.、Domingos,P.:统计关系人工智能的炼金术系统(技术报告)。华盛顿大学计算机科学与工程系,华盛顿州西雅图(2005年),http://alchemy.cs.washington.edu/
[16] Laferty,J.、McCallum,A.、Pereira,F.:条件随机场:用于分割和标记序列数据的概率模型。In:程序。第18届国际机器学习大会,第282-289页(2001)
[17] Landwehr,N。;Kersting,K.公司。;De Raedt,L.,《nFOIL:整合朴素贝叶斯和FOIL》,Proc。第20届全国人工智能大会,795-800(2005),门罗公园:AAAI出版社,门罗公园
[18] Landwehr,N.、Kersting,K.、De Raedt,L.:整合朴素贝叶斯和FOIL。机器学习研究杂志,481-507(2007)·Zbl 1222.68242号
[19] Landwehr,N。;Passerini,A。;De Raedt,L。;Frasconi,P.,kFOIL:学习简单关系内核,Proc。《第21届国家人工智能大会》(2006年),门罗公园:AAAI出版社,门罗公园
[20] Loureno,H.R。;O·马丁。;Stutzle,T.,《迭代局部搜索》,《元启发式手册》,321-353(2002),多德雷赫特:Kluwer学术出版社,多德雷赫特·Zbl 1116.90412号
[21] Lowd,D.,Domingos,P.:马尔可夫逻辑网络的有效权重学习。In:程序。第11届欧洲数据库知识发现原则与实践会议,第200-211页(2007)
[22] Ng,A.Y.先生。;Jordan,M.I.,《区分性与生成性:逻辑回归与朴素贝叶斯的比较》,《神经信息处理系统进展》,841-848(2002),剑桥:麻省理工学院出版社,剑桥
[23] McCallum,A.:有效诱导条件随机场的特征。In:程序。第19届人工智能不确定性大会,第403-410页(2003年)
[24] Mihalkova,L.,Mooney,R.J.:马尔可夫逻辑网络结构的自下而上学习。In:程序。第24届国际机器学习大会,第625-632页(2007年)
[25] Pernkopf,F.,Bilmes,J.:贝叶斯网络分类器的鉴别与生成参数和结构学习。摘自:Proc,第22届国际机器学习大会,第657-664页(2005)
[26] Popescul,A.,Ungar,L.,Lawrence,S.,Pennock,D.:文档挖掘的统计关系学习。In:程序。第三届国际数据挖掘大会,第275-282页(2003年)
[27] Poon,H。;Domingos,P.,《具有概率和确定性依赖性的合理有效推理》,Proc。第21届国家人工智能大会,458-463(2006),门罗公园:AAAI出版社,门罗公园
[28] Poon,H。;多明戈斯,P。;Sumner,M.,《降低关系推理复杂性的通用方法及其在MCMC中的应用》,Proc。第23届全国人工智能大会(2008年),芝加哥:美国人工智能学会出版社,芝加哥
[29] Quinlan,J.R.,从关系中学习逻辑定义,机器学习,5,239-266(1990)
[30] 理查森,M。;多明戈斯,P.,马尔可夫逻辑网络,机器学习,62107-236(2006)·Zbl 1470.68221号 ·doi:10.1007/s10994-006-5833-1
[31] Singla,P。;多明戈斯,P.,马尔可夫逻辑网络的判别训练,Proc。第20届全国人工智能大会,868-873(2005),门罗公园:AAAI出版社,门罗公园
[32] Singla,P。;Domingos,P.,用马尔可夫逻辑进行实体解析,Proc。第六届国际数据挖掘大会,572-582(2006),洛斯阿拉米托斯:IEEE计算机社会出版社,洛斯阿米托斯
[33] Singla,P。;Domingos,P.,关系域中的记忆效率推理,Proc。第21届国家人工智能大会,488-493(2006),门罗公园:AAAI出版社,门罗公园
[34] Sha,F.,Pereira,F.:条件随机域的浅层解析。In:程序。HLT-NAACL,第134-141页(2003年)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。