萨米·巴德雷丁；阿图尔·达维拉·加塞斯；卢西亚诺·塞拉菲尼；迈克尔·斯普林格 逻辑张量网络。 （英语） Zbl 07482899号 Artif公司。智力。 303，文章ID 103649，39 p.（2022）. 摘要：近年来，将逻辑和神经网络结合到神经符号学方法中的尝试不断增加。在神经符号系统中，符号知识有助于深度学习，它通常使用亚符号分布式表示，在更高的抽象层次上进行学习和推理。我们提出了逻辑张量网络（LTN），这是一个神经符号学框架，支持查询、学习和推理，同时具有丰富的数据和关于世界的抽象知识。LTN引入了一种称为Real Logic的完全可微逻辑语言，一阶逻辑签名的元素基于使用神经计算图和一阶模糊逻辑语义的数据。我们表明，LTN提供了一种统一的语言来有效地表示和计算许多最重要的人工智能任务，如多标签分类、关系学习、数据聚类、半监督学习、回归、嵌入学习和查询回答。我们使用TensorFlow 2通过几个简单的解释性示例来实现和说明上述每个任务。结果表明，LTN可以成为神经症状AI的一个通用而强大的框架。 引用于4文件 MSC公司： 68次发射 人工智能 关键词：神经符号AI；深度学习和推理；多值逻辑 软件：TensorFlow公司；数据链路2；UCI-毫升；ImageNet公司；TensorLog公司；亚当；DeepProbLog（深度探测日志）；AlexNet公司 PDF格式BibTeX公司 XML格式引用 \textit｛S.Badreddine｝等人，人工制品。智力。303，文章ID 103649，39 p.（2022；Zbl 07482899） 全文： 内政部 arXiv公司 参考文献： [1] 马丁·阿巴迪、阿什什·阿加瓦尔、保罗·巴勒姆、尤金·布雷维多、陈志峰、克雷格·雪铁罗、格雷格·科拉多、安迪·戴维斯、杰弗里·迪恩、马蒂厄·德文、桑杰·盖马瓦特、伊恩·古德费罗、安德鲁·哈普、杰弗里·欧文、迈克尔·伊萨德、杨庆嘉、拉法尔·约泽福维奇、卢卡斯·凯泽、曼朱纳特·库德勒、乔什·莱文伯格、Dandelion Mané、拉贾特·蒙加、谢里·摩尔，Derek Murray、Chris Olah、Mike Schuster、Jonathon Shlens、Benoit Steiner、Ilya Sutskever、Kunal Talwar、Paul Tucker、Vincent Vanhoucke、Vijay Vasudevan、Fernanda Viégas、Oriol Vinyals、Pete Warden、Martin Wattenberg、Marting Wicke、Yuan Yu、Xiaoqiang Zheng、TensorFlow:异构系统上的大规模机器学习，2015年，软件可从tensorflow.org获得。 [2] Michael Akintund；博托埃娃、埃琳娜；Kouvaros、Panagiotis；Lomuscio，Alessio，《验证神经多智能体系统的战略能力》（《第17届知识表示和推理原则国际会议论文集》，KR2020，希腊罗得斯，第17届国际知识表示与推理原则会议论文集（2020年9月）） [3] 萨米·巴德雷丁；Michael Spranger，使用逻辑张量网络将用于转移学习的先验知识注入强化学习算法（2019年6月） [4] 彼得·巴塔利亚（Peter Battaglia）；帕斯卡努（Razvan Pascanu）；Lai，Matthew；Rezende，Danilo Jimenez；kavukcuoglu，Koray，《学习物体、关系和物理的交互网络》（《第30届神经信息处理系统国际会议论文集》，第30届国际神经信息处理会议论文集，NIPS’16（2016），Curran Associates Inc.：美国Curran associatess Inc.）， 4509-4517 [5] 约书亚·本吉奥；特里斯坦·德勒；纳西姆·拉哈曼；柯南·罗斯玛丽；塞巴斯蒂安·拉沙佩勒；Olexa比拉纽克；阿尼鲁德·戈亚尔（Anirudh Goyal）；Christopher Pal，《学习解开因果机制的元传递目标》（学习表征国际会议（2020年）） [6] 费德里科·比安奇；帕斯卡·希茨勒（Pascal Hitzler），《逻辑张量网络用于演绎推理的能力》（AAAI 2019春季研讨会论文集，机器学习与知识工程相结合（AAAI-MAKE 2019）。2019年3月25日至27日（2019年），美国加利福尼亚州帕洛阿尔托斯坦福大学，AAAI 2019春季研讨会论文集，机器学习与知识工程相结合（AAAI-MAKE 2019） [7] 费德里科·比安奇；帕尔莫纳里，马泰奥；希茨勒，帕斯卡；卢西亚诺·塞拉菲尼（Luciano Serafini），《用亚符号常识补充逻辑推理》（International Joint Conference on Rules and reasoning，2019），施普林格出版社，161-170 [8] 拉斐尔·博尔赫斯；阿图尔·达维拉·加塞斯；Lamb，Luís，在递归网络中学习和表示时间知识，IEEE Trans。神经网络。，22, 2409-2421 (12 2011) [9] Běhounek，Liber；彼得·辛图拉（Petr Cintula）；Hájek，Petr，数学模糊逻辑导论，（Cintula，Petr；Hájek，Petr；Noguera，Carles，数学模糊逻辑手册，第1卷。数学模糊逻辑手册，第1卷，逻辑、数学逻辑和基础研究，第37卷（2011年），大学出版物），1-102·Zbl 1284.03175号 [10] 北卡罗来纳州坎贝尔。；Mahon，R.J.，《澳大利亚纤爪蟹属两种岩蟹变异的多元研究》。J.Zool。，22, 3, 417-425 (1974) [11] 安德烈斯·坎佩罗；阿尔多·帕雷贾；蒂姆·克林格（Tim Klinger）；乔什·特南鲍姆（Josh Tenenbaum）；Riedel，Sebastian，逻辑规则归纳和使用神经定理证明的理论学习（2018），CoRR [12] 陈本辉；洪雪芬；段丽华；胡敬璐，通过标签约束提高多标签分类性能，（2013年国际神经网络联合会议（IJCNN）（2013），IEEE），1-5 [13] 威廉·科恩（William W.Cohen）。；杨，范；Mazaitis，Kathryn，Tensorlog：使用深度学习基础设施J.Artif实现的概率数据库。智力。研究，67，285-325（2020）·Zbl 1434.68141号 [14] 戴维珍。；徐，Q。；Yu，Y。；Zhou，Z.-H.，通过溯因学习桥接机器学习和逻辑推理，（第33届神经信息处理系统国际会议论文集。第33届国际神经信息处理会议论文集，NeurIPS’19（2019），Curran Associates Inc.：美国Curran associatess Inc.） [15] 亚历山德罗·丹尼尔；卢西亚诺·塞拉菲尼（Luciano Serafini），《知识增强型神经网络》（太平洋沿岸人工智能国际会议（2019），斯普林格），542-554 [16] 阿图尔·达维拉·加塞斯；马可·戈里（Marco Gori）；路易斯·兰姆。；卢西亚诺·塞拉菲尼；迈克尔·斯普林格；Tran，Son N.，《神经符号计算：机器学习和推理原理集成的有效方法》，FLAP，6，4，611-632（2019）·Zbl 07594179号 [17] Artur d‘Avila Garcez，Luis C.Lamb，神经符号人工智能：第三波，2020。 [18] 伊万·多纳德罗；Serafini，Luciano，《利用语义图像解释的先验知识补偿监管不完整性》，（2019年神经网络国际联合会议（2019），IEEE），1-8 [19] 伊万·多纳德罗；卢西亚诺·塞拉菲尼；d’Avila Garcez，Artur，用于语义图像解释的逻辑张量网络，（第二十六届国际人工智能联合会议论文集。第二十六届国际人工智能联合会议论文集，IJCAI-17（2017）），1596-1602 [20] Dheeru Dua，Casey Graff，UCI机器学习库，2017年。 [21] 理查德·埃文斯（Richard Evans）；Edward Grefenstette，《从噪声数据中学习解释规则》，J.Artif。智力。决议，61，1-64（2018）·Zbl 1426.68235号 [22] 罗纳德·费金（Ronald Fagin）、瑞安·里格尔（Ryan Riegel）、亚历山大·格雷（Alexander Gray），《通过实值逻辑进行不确定性推理的基础》，2020年。 [23] 马克·菲舍尔（Marc Fischer）；米斯拉夫·巴卢诺维奇；德拉赫斯勒-科恩，达纳；Gehr，蒂蒙；张策；Vechev，Martin，Dl2:用逻辑训练和查询神经网络，（国际机器学习会议（2019）），1931-1941 [24] 弗朗卡，马诺埃尔；格尔森·扎维鲁查；阿维拉·加塞兹（d'Avila Garcez），阿图尔（Artur），《利用人工神经网络的底子句命题化进行快速关系学习》（Fast relational learning using bottom clause proposalization with artificial neural networks），马赫（Mach）。学习。，94, 81-104 (01 2014) [25] （Gabbay，Dov M.；Woods，John，《逻辑中的多值和非单调转向》，《逻辑史手册》，第8卷（2007年），爱思唯尔出版社）·Zbl 1135.03302号 [26] 阿图尔·达维拉·加塞斯；Dov M.加巴伊。；布罗达，Krysia B.，《神经符号学习系统：基础与应用》（2002年），柏林斯普林格大学出版社·Zbl 1055.68090号 [27] 阿图尔·达维拉·加塞斯；兰姆，Lus C。；Dov M.Gabbay，神经符号认知推理（2008），Springer Publishing Company，Incorporated·Zbl 1188.68241号 [28] Hajek，Petr，《模糊逻辑的元数学》（1998），Kluwer学术出版社·Zbl 0937.03030号 [29] （哈默，巴巴拉；希茨勒，帕斯卡，《神经符号集成的观点》。神经符号集成观点，计算智能研究，第77卷（2007），斯普林格）·Zbl 1124.68092号 [30] Harnad，Stevan，符号接地问题，物理。D： 非线性现象。，42, 1-3, 335-346 (1990) [31] 霍尔多布勒，斯特芬；Kurfesss，Franz J.，CHCL-一个连接主义推理系统，（Fronhöfer，Bertram；格雷厄姆·赖特森（Graham Wrightson），《推理系统中的并行化》（Parallelization in Inference Systems），国际研讨会，德国达格斯图尔城堡，1990年12月17日至18日，会议记录。推理系统中的并行化，国际研讨会，德国达格斯图尔城堡，1990年12月17日至18日，《计算机科学讲义》，第590卷（1990年），施普林格出版社，318-342 [32] 胡志婷；马学哲；刘正中；爱德华·霍维；Xing，Eric，用逻辑规则利用深层神经网络，（计算语言学协会第54届年会会议记录（第1卷：长篇论文）（2016年8月），计算语言学协会：德国柏林计算语言学协会），2410-2420 [33] 亨利·考茨（Henry Kautz），第三届人工智能夏季，AAAI Robert S.Engelmore纪念讲座，摘自：第三十四届AAAI人工智能会议，纽约，2020年2月10日。 [34] Kingma，Diederik P。；Ba，Jimmy，Adam：一种随机优化方法（2017年1月） [35] 基萨、多加；盖·范登·布勒克（Guy Van den Broeck）；亚瑟·崔；Darwiche，Adnan，概率句子决策图，（第十四届知识表示与推理原则国际会议论文集（2014年7月）） [36] 埃里希·彼得·克莱门特（Erich Peter Klement）；拉德科·梅西亚尔；Pap，Endre，三角规范，逻辑趋势，第8卷（2000年），荷兰施普林格：荷兰施普林格-多德雷赫特·Zbl 0972.0302号 [37] 亚当·科西奥雷克（Adam Kosiorek）；Sara Sabour；Teh，Yee Whye；Hinton，Geoffrey E.，《堆叠胶囊自动编码器》（Wallach，H.；Larochelle，H.）；Beygelzimer，A.；d'Alché-Buc，F.；Fox，E.；Garnett，R.，《神经信息处理系统的进展》32（2019），Curran Associates，Inc.），15512-15522 [38] Alex Krizhevsky；伊利亚·萨斯科弗；Hinton，Geoffrey E.，深度卷积神经网络的Imagenet分类（第25届神经信息处理系统国际会议论文集，第1卷）。第25届神经信息处理系统国际会议记录-第1卷，NIPS’12（2012），Curran Associates Inc.：Curran associatess Inc.，美国纽约州Red Hook，1097-1105 [39] 路易斯·兰姆。；阿图尔·达维拉·加塞斯；马可·戈里（Marco Gori）；马塞洛·O·R·普拉茨。；Avelar，Pedro H.C。；Vardi，Moshe Y.，《图形神经网络满足神经符号计算：一项调查与展望》（Christian Bessiere，《第二十届国际人工智能联合会议论文集》，IJCAI 2020[计划于2020年7月在日本横滨举行，因科罗纳大流行而推迟]（2020）），4877-4884，IJCAI.org [40] 罗宾·曼哈韦（Robin Manhaeve）；塞巴斯蒂安杜曼奇奇；安吉丽卡·基米格（Angelika Kimmig）；托马斯·德梅斯特；De Raedt，Luc，Deepproblog:neural probability logic programming，（第32届神经信息处理系统国际会议论文集。第32届国际神经信息处理会议论文集，NeurIPS’18（2018），Curran Associates Inc.：美国Curran associatess Inc.），3753-3763·Zbl 1520.68022号 [41] 弗朗西斯科·马尼格拉索；大卫·米罗（Davide Miro），费洛梅诺（Filomeno）；Lia Morra；Lamberti，Fabrizio，Faster-LTN：一种神经符号的端到端对象检测架构（2021年7月） [42] Vasco Manquinho；若昂·西尔瓦侯爵；Planes，Jordi，加权布尔优化算法，（可满足性测试理论与应用国际会议（2009），Springer），495-508·Zbl 1247.68258号 [43] 毛嘉元；甘、创；Kohli，Pushmeet；乔舒亚·特内鲍姆（Joshua B.Tenenbaum）。；吴佳军，《神经符号概念学习者：从自然监督中解读场景、单词和句子》（2019年），CoRR [44] 朱塞佩·马拉；弗朗西斯科·吉安尼尼；米开朗基罗·迪利根蒂；Gori，Marco，基于约束的视觉生成，（Tetko，Igor V.；Kurková，Vera；Karpov，Pavel；Theis，Fabian J.，《人工神经网络和机器学习-2019年ICANN：图像处理-第28届人工神经网络国际会议》，德国慕尼黑，2019年9月17日至19日，《会议记录》，第三部分。人工神经网络和机器学习-ICANN 2019：图像处理-第28届人工神经网络国际会议，德国慕尼黑，2019年9月17日至19日，会议记录，第三部分，计算机科学讲义，第11729卷（2019），施普林格），565-577 [45] 朱塞佩·马拉；弗朗西斯科·吉安尼尼；米开朗基罗·迪利根蒂；Gori，Marco，将学习和推理与深层逻辑模型相结合， （数据库中的机器学习和知识发现-欧洲会议，ECML PKDD 2019，德国瓦茨堡，2019年9月16日至20日，会议记录，第二部分。数据库中的计算机学习和知识探索-欧洲会议（ECML PKDD 2018，德国瓦尔茨堡，2017年9月16-20日，会议录，第二部分，计算机科学讲稿）e、 第11907卷（2019），施普林格），517-532 [46] 朱塞佩，马拉；弗朗西斯科·吉安尼尼；米开朗基罗·迪利根蒂；Gori，Marco，《歌词：集成逻辑推理和深度学习的通用接口层》（2019年欧洲机器学习和数据库知识发现联合会议，Springer），283-298 [47] 朱塞佩·马拉；库泽·埃尔卡，Ondřej，神经马尔可夫逻辑网络（2019），arXiv预印本 [48] Pasquale Minervini、Sebastian Riedel、Pontus Stenetorp、Edward Grefenstette、Tim Rocktäschel，《端到端可微证明中的学习推理策略》，2020年。 [49] 史蒂芬·H·马格尔顿（Stephen H.Muggleton）。；林殿欢；尼尔斯·巴列维；Tamaddoni-Nezhad，Alireza，元解释学习：语法推理的应用，Mach。学习。，94、1、25-49（2014年1月）·Zbl 1319.68121号 [50] 皮尔逊、卡尔、利伊。在最接近空间点系的直线和平面上，Lond。爱丁堡。都柏林菲洛斯。科学杂志。，2, 11, 559-572 (1901) ·JFM 32.0710.04号 [51] Pinkas，Gadi，《推理、非单调性和捕获命题知识的连接网络中的学习》，Artif。智力。，77, 2, 203-247 (1995) ·Zbl 1013.68505号 [52] 曲、孟；唐健，用于推理的概率逻辑神经网络，（神经信息处理系统进展（2019）），7712-7722 [53] Luc De Raedt、Sebastijan Dumanć、Robin Manhaeve、Giuseppe Marra，《从统计关系到神经符号人工智能》，2020年。 [54] 马修·理查森（Matthew Richardson）；多明戈斯，佩德罗，马尔可夫逻辑网络，马赫。学习。，62、1-2、107-136（2006年2月）·Zbl 1470.68221号 [55] 瑞安·里格尔（Ryan Riegel）；格雷，亚历山大；卢斯，弗朗索瓦；纳威德·汗；Makondo，Ndivhuwo；阿哈尔瓦亚，伊斯梅尔·尤努斯；钱海峰；罗纳德·费金；弗朗西斯科·巴拉奥纳；乌迪特·夏尔马；伊克巴尔（Ikbal）、沙吉思（Shajith）；卡拉南、希马；苏米特·内拉姆；安基塔利赫亚尼；Srivastava，Santosh，逻辑神经网络（2020年6月） [56] Franco Scarselli；马可·戈里；Tsoi，Ah Chung；马库斯·哈根布赫纳（Markus Hagenbuchner）；蒙法迪尼，加布里埃尔，图神经网络模型，Trans。神经网络。，20、1、61-80（2009年1月） [57] 伊马诺·施拉格；Schmidhuber，Jürgen，《学习用三阶张量积进行推理》（2018），CoRR [58] 伊马诺·施拉格；保罗·斯莫伦斯基（Paul Smolensky）；罗兰·费尔南德斯；内博伊萨·乔伊奇；施密杜贝尔（Jürgen Schmidhuber）；高建峰，《用显式关系编码增强变压器解决数学问题》（2019），CoRR [59] 卢西亚诺·塞拉菲尼；d'Avila Garcez，Artur，《逻辑张量网络：数据和知识的深度学习和逻辑推理》（2016），arXiv预印本·Zbl 1430.68317号 [60] 卢西亚诺·塞拉菲尼；d'Avila Garcez，Artur，《逻辑张量网络的学习和推理》（意大利人工智能协会会议（2016），Springer），334-348·Zbl 1430.68317号 [61] Shastri，Lokendra，《SHRUTI进展——利用时间同步性的关系知识表示和快速推理的神经激励模型》，应用。智力。，11, 1, 79-108 (1999) [62] Shi，Yun，《模糊含义的深度研究》（2009），根特大学博士论文 [63] 保罗·斯莫伦斯基（Paul Smolensky）；Legendre，Géraldine，《和谐思维：从神经计算到优化理论语法》第一卷：认知架构（Bradford Books）（2006），麻省理工学院出版社·Zbl 1239.91140号 [64] 古斯塔夫·苏雷克；Aschenbrenner，Vojtech公司；Zelezny，Filip；史蒂文·肖卡特（Steven Schockaert）；Kuzelka，Ondrej，《提升的关系神经网络：潜在关系结构的有效学习》，J.Artif。智力。决议，62，69-100（2018）·Zbl 1444.68163号 [65] 埃米尔·范·克里肯；阿卡尔、埃尔曼；van Harmelen，Frank，《使用可微推理的半监督学习》（2019年8月）·Zbl 1514.68264号 [66] 埃米尔·范·克里肯；阿卡尔、埃尔曼；范·哈梅伦（van Harmelen），弗兰克（Frank），《分析可微模糊含义》（Analysis differentiable fuzzy implications），第17届知识表示与推理原则国际会议论文集（2020年9月），893-903·Zbl 1490.68233号 [67] 埃米尔·范·克里肯；阿卡尔、埃尔曼；van Harmelen，Frank，《分析可微模糊逻辑算子》（2020年2月） [68] Benedikt Wagner；d’Avila Garcez，Artur，人工智能公平的神经符号集成，（AAAI春季研讨会论文集：将机器学习与知识工程相结合2021（2021）），14 [69] 徐静怡；张子璐；塔尔·弗里德曼；梁一涛；Guy Broeck，《符号知识深度学习的语义损失函数》，（机器学习国际会议（2018年7月），PMLR），5502-5511 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。