×
奥利弗·舒尔特;钱振松;亚瑟·E·柯克帕特里克。;尹晓倩;孙燕

关系依赖网络的快速学习。 （英语） Zbl 1362.68249号

机器。学习。 103，第3期，377-406（2016）.
摘要：关系依赖网络（RDN）是一种广泛用于多关系数据的有向图形模型。这些网络允许循环依赖，这是表示关系自相关所必需的。我们描述了一种在给定输入关系数据库的情况下学习RDN结构及其参数的方法：首先学习贝叶斯网络（BN），然后将贝叶斯网转换为RDN。因此，快速贝叶斯网络学习转化为快速RDN学习。BN到RDN的转换包括贝叶斯网络结构的简单局部调整和贝叶斯网参数的闭合形式转换。此方法可以在几分钟内学习具有一百万元组的数据集的RDN。我们使用六个基准数据集，将我们的方法与应用函数梯度增强的最新RDN学习方法进行了实证比较。通过BN学习RDN比使用当前增强方法学习RDN更适合于大型数据集。

引用于2文件

MSC公司：

68T05型 人工智能中的学习和自适应系统

软件：

助推器;PRMLT公司;FactorBase公司;炼金术;深度潜水;CrossMine公司
PDF格式BibTeX公司 XML格式引用
\textit{O.Schulte}等人，马赫。学习。103、3号、377--406（2016；Zbl 1362.68249）
全文： 内政部 arXiv公司

参考文献：

[1] 炼金术集团。常见问题。http://alchemy.cs.washington.edu/
[2] 巴克斯·F（1990）。用概率知识表示和推理：概率的逻辑方法。马萨诸塞州剑桥：麻省理工学院出版社。
[3] Bengio，Y.、Laufer，E.、Alain，G.和Yosinski，J.（2014）。可通过反向运算训练的深度生成随机网络。ICML 2014（第226-234页）·Zbl 1008.68132号
[4] Bishop，C.M.（2006年）。模式识别和机器学习。柏林：斯普林格·Zbl 1107.68072号
[5] Chickering，D.M.、Heckerman，D.和Meek，C.（2004年）。贝叶斯网络的大样本学习是NP-hard。机器学习研究杂志，51287-1330·Zbl 1222.68169号
[6] Chickering，D.M.和Meek，C.（2002年）。寻找最优贝叶斯网络。阿联酋（第94-102页）。
[7] Domingos，P.和Lowd，D.（2009年）。马尔可夫逻辑：人工智能的接口层。圣拉斐尔：摩根和克莱普尔出版社·Zbl 1202.68403号
[8] Domingos，P.和Richardson，M.（2007年）。马尔可夫逻辑：统计关系学习的统一框架。在统计关系学习导论中，第12章（第339-371页）·Zbl 1141.68054号
[9] Flum，J.和Grohe，M.（2006年）。参数化复杂性理论（第3卷）。柏林：斯普林格·兹比尔1143.68016
[10] 弗里德曼，N.、佩尔，D.和纳奇曼，I.（1999）。从海量数据集学习贝叶斯网络结构：“稀疏分解”算法。《第十五届人工智能不确定性会议论文集》（第206-215页）。
[11] Friedman，N.、Getoor，L.、Koller，D.和Pfeffer，A.（1999）。学习概率关系模型。IJCAI（第1300-1309页）。斯普林格·Zbl 0723.03007号
[12] Friedman，N.和Goldszmidt，M.（1998年）。学习具有局部结构的贝叶斯网络。在北约ASI中，关于图形模型学习（第421-459页）·Zbl 0910.68176号
[13] Getoor，L.、Friedman，N.、Koller，D.、Pfeffer，A.和Taskar，B.（2007年）。概率关系模型。在统计关系学习导论中，第5章（第129-173页）·Zbl 1141.68054号
[14] Getoor，L.和Taskar，B.（2007年）。统计关系学习导论。剑桥：麻省理工学院出版社·Zbl 1141.68054号
[15] Getoor，L.G.、Friedman，N.和Taskar，B.（2001）。学习关系结构的概率模型。在ICML中（第170-177页）。摩根·考夫曼。
[16] Graefe，G.、Fayyad，U.M.和Chaudhuri，S.（1998年）。关于从大型SQL数据库中高效收集足够的统计信息进行分类。KDD（第204-208页）·兹伯利0894.68119
[17] Grossman，D.和Domingos，P.（2004）。通过最大化条件似然学习贝叶斯网络分类器。ICML（第46页）。ACM公司。美国纽约州纽约市。
[18] Halpern，J.Y.（1990年）。概率的一阶逻辑分析。人工智能，46（3），311-350·Zbl 0723.03007号 ·doi:10.1016/0004-3702（90）90019-V
[19] Heckerman，D.、Chickering，D.M.、Meek，C.、Rounthwaite，R.、Kadie，C.和Kaelbling，P.（2000）。推理、协同过滤和数据可视化的依赖网络。机器学习研究杂志，149-75·兹比尔1008.68132
[20] Hofmann，R.和Tresp，V.（1998年）。连续变量的非线性马尔可夫网络。《神经信息处理系统进展》（第521-527页）。
[21] Hulten，G.、Chickering，D.M.和Heckerman，D.（2003）。从依赖网络学习贝叶斯网络：初步研究。第九届人工智能和统计国际研讨会论文集，佛罗里达州基韦斯特·Zbl 1178.68448号
[22] Kazemi，S.M.、Buchman，D.、Kersting，K.、Natarajan，S.和Poole，D.（2014）。关系逻辑回归。在知识表示和推理原理KR。
[23] Kersting，K.和De Raedt，L.（2007年）。贝叶斯逻辑编程：理论和工具。在统计关系学习导论中，第10章（第291-318页）·Zbl 1222.68274号
[24] Khosravi，H.、Man，T.、Hu，J.、Gao，E.和Schulte，O.（2010年）。学习并加入算法代码。网址：http://www.cs.sfu.ca/oschulte/jbn公司/
[25] Khosravi，H.、Schulte，O.、Man，T.、Xu，X.和Bina，B.（2010年）。具有多个描述性属性的马尔可夫逻辑网络的结构学习。AAAI（第487-493页）·Zbl 1320.62016年
[26] Khot，T.、Natarajan，S.、Kersting，K.和Shavlik，J.W.（2011年）。通过函数梯度提升学习马尔可夫逻辑网络。ICDM（第320-329页）。
[27] Khot，T.、Shavlik，J.和Natarajan，S.（2013）。Boostr，2013年。http://pages.cs.wisc.edu/图沙尔/助推器/·兹比尔1243.68245
[28] Kimmig，A.、Mihalkova，L.和Getoor，L.（2014）。提升图形模型：调查。机器学习，99，1-45·Zbl 1320.62016年 ·doi:10.1007/s10994-014-5443-2
[29] Knobbe，A.J.（2006）。多关系数据挖掘（第145卷）。阿姆斯特丹：IOS出版社·Zbl 1138.68376号
[30] Kok，S.和Domingos，P.（2005）。学习马尔可夫逻辑网络的结构。L.De Raedt和S.Wrobel（编辑），ICML（第441-448页）。ACM公司。
[31] Kok，S.和Domingos，P.（2010年）。使用结构模体学习马尔可夫逻辑网络。ICML（第551-558页）。
[32] Lowd，D.（2012）。从依赖网络中学习马尔可夫网络的闭合形式。在阿拉伯联合酋长国。
[33] Lowd，D.和Domingos，P.（2007年）。马尔可夫逻辑网络的有效权值学习。PKDD（第200-211页）。
[34] Moore，A.W.和Lee，M.S.（1998年）。缓存了足够的统计信息，以便使用大型数据集进行有效的机器学习。《人工智能研究杂志》，8，67-91·兹伯利0894.68119
[35] Natarajan，S.、Khot，T.、Kersting，K.、Gutmann，B.和Shavlik，J.W.（2012年）。统计关系学习中基于梯度的助推：关系依赖网络案例。机器学习，86（1），25-56·Zbl 1243.68245号 ·doi:10.1007/s10994-011-5244-9
[36] Natarajan，S.、Tadepalli，P.、Dietterich，T.G.和Fern，A.（2008）。结合规则学习一阶概率模型。数学与人工智能年鉴，54（1-3），223-256·Zbl 1178.68448号 ·doi:10.1007/s10472-009-9138-5
[37] Neville，J.和Jensen，D.（2007年）。关系依赖网络。机器学习研究杂志，8653-692·Zbl 1222.68274号
[38] Pearl，J.（1988）。智能系统中的概率推理。伯灵顿：摩根·考夫曼·Zbl 0746.68089号
[39] Peralta，V.（2007）。MovieLens和IMDB数据的提取和集成。技术报告，凡尔赛大学公共关系科学实验室。
[40] Poole，D.（2003）。一阶概率推理。在IJCAI。
[41] Qian，Z.、Schulte，O.和Sun，Y.（2014）。为大型数据库计算多关系充足的统计数据。第25届ACM信息和知识管理国际会议（CIKM）（第1249-1258页）。
[42] Ravkic，I.、Ramon，J.和Davis，J..（2015）。学习混合域中的关系依赖网络。机器学习，100（2），217-254·Zbl 1377.68208号 ·doi:10.1007/s10994-015-5483-2
[43] Russell，S.和Norvig，P.（2010年）。《人工智能：现代方法》（第三版）。上鞍河：普伦蒂斯·霍尔·Zbl 0835.68093号
[44] Schulte，O.（2011）。应用于关系数据的贝叶斯网的易处理伪似然函数。SIAM SDM（第462-473页）。
[45] Schulte，O.和Khosravi，H.（2012）。通过格搜索学习关系数据的图形模型。机器学习，88（3），331-368·文件编号：10.1007/s10994-012-5289-4
[46] Schulte，O.、Khosravi，H.、Gao，T.和Zhu，Y.（2012）。应用于关系数据的贝叶斯网随机回归。UAI StarAI统计关系人工智能研讨会，2012年8月。
[47] Schulte，O.、Khosravi，H.、Kirkpatrick，A.、Gao，T.和Zhu，Y.（2014）。用贝叶斯网对关系统计进行建模。机器学习，94105-125·Zbl 1319.68190号 ·doi:10.1007/s10994-013-5362-7
[48] Schulte，O.、Qian，Z.、Kirkpatrick，A.E.、Yin，X.和Sun，Y.（2014）。关系依赖网络的快速学习。CoRR，abs/1410.7835·Zbl 1362.68249号
[49] Sutton，C.和McCallum，A.（2007年）。关系学习的条件随机域简介。在统计关系学习导论中，第4章（第93-127页）·Zbl 1141.68054号
[50] Taskar，B.、Abbeel，P.和Koller，D.（2002年）。关系数据的判别概率模型。阿联酋（第485-492页）。摩根考夫曼出版公司。
[51] Ullman，J.D.（1982）。数据库系统原理（第二版）。纽约：W.H.弗里曼公司·Zbl 0558.68078号
[52] Van Laer，W.和De Raedt，L.（2001）。如何将命题学习者提升为一阶逻辑：一个案例研究。G.Paliouras、V.Karkaletsis和C.D.Spyropoulos（编辑），关系数据挖掘。施普林格·Zbl 0980.68700号
[53] Vardi，M.Y.（1995）。关于有界变量查询的复杂性。PODS（第266-276页）。ACM出版社·Zbl 1222.68169号
[54] Venugopal，D.、Sarkhel，S.和Gogate，V.（2015）。只需计算满意的基础：可扩展的本地搜索和基于mln的抽样推断。2015年1月25日至30日在美国德克萨斯州奥斯汀举行的第二十九届AAAI人工智能会议记录（第3606-3612页）。
[55] Yin，X.、Han，J.、Yang，J.和Yu，P.S.（2004）。交叉挖掘：跨多个数据库关系的高效分类。在ICDE中·Zbl 1172.68458号
[56] Zhang，C.（2015）DeepDive：用于自动知识库构建的数据管理系统。威斯康星大学博士论文。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。