研究论文

高效的非抽样知识图嵌入

作者:

英强 Ge公司,

Chong（冲）陈、和

永丰张作者信息和声明

WWW’21：2021年网络会议记录

2021年4月

页1727-1736

https://doi.org/10.1145/3442381.3449859

出版:2021年6月3日出版历史

获取访问权限

摘要

知识图（KG）是一种灵活的结构，能够描述数据实体之间的复杂关系。目前，大多数KG嵌入模型都是基于负采样进行训练的，即该模型的目标是最大化KG中连接实体的某些相似性，同时最小化采样的不连接实体的相似性。负采样通过只考虑负实例的子集，有助于降低模型学习的时间复杂性，因为采样过程中的不确定性可能无法提供稳定的模型性能。为了避免这种不足，我们提出了一种新的KG嵌入高效非抽样知识图嵌入框架（NS-KGE）。基本思想是考虑KG中的所有负面实例进行模型学习，从而避免负面采样。该框架可以应用于基于平方损失的知识图嵌入模型或损失可以转换为平方损失的模型。这种非采样策略的一个自然副作用是模型学习的计算复杂性增加。为了解决这个问题，我们利用数学推导来降低非采样损失函数的复杂性，这最终为我们提供了比现有模型更好的KG嵌入效率和准确性。在基准数据集上的实验表明，与传统的基于负采样的模型相比，我们的NS-KGE框架在效率和准确性上都有更好的表现，并且该框架适用于一类大规模的知识图嵌入模型。

工具书类

[1]

艾庆耀、瓦希德·阿齐兹、徐晨和张永丰。2018.学习异构知识库嵌入，以获得可解释的建议。算法11，9（2018），137。

[2]

艾庆耀、张永丰、毕克平和W Bruce Croft。2019.使用动态关系嵌入模型进行可解释的产品搜索。ACM信息系统交易（TOIS）38，1（2019），1–29。

数字图书馆

[3]

Farahnaz Akrami、Mohammed Samiul Saeef、Qingheng Zhang、Wei Hu和Chengkai Li.2020年。知识图完成方法的现实重新评估：一项实验研究。2020年ACM SIGMOD国际数据管理会议记录。1995–2010.

数字图书馆

[4]

K.Bollacker、C.Evans、P.Paritosh、T.Sturge和J.Taylor。2008.Freebase：一个合作创建的图形数据库，用于构建人类知识。程序。ACM SIGMOD国际管理会议。数据1247-1250（2008）。

[5]

Antoine Bordes、Nicolas Usunier、Alberto Garcia-Duran、Jason Weston和Oksana Yakhnenko。2013.转换用于建模多关系数据的嵌入。神经信息处理系统进展。2787–2795.

[6]

A.Bordes、N.Usunier、A.Garc´un A-Duran、J.Weston和O.Yakhnenko。2013.转换用于建模多关系数据的嵌入。高级神经信息处理。Syst2787-7895（2013）。

[7]

蔡利伟和王威廉。2018年Kbgan：知识图嵌入的对抗性学习。NAACL-HLT 2018会议记录。

[8]

Chong Chen、Min Zhang、Weizhi Ma、Yiqun Liu和Shaoping Ma.2020年。用于最优上下文感知推荐的高效非采样因子分解机。《2020年网络会议论文集》。2400–2410.

数字图书馆

[9]

Chong Chen、Min Zhang、Weizhi Ma、Yiqun Liu和Shaoping Ma.2020年。知识图增强推荐的联合非抽样学习。第43届ACM SIGIR信息检索研究与发展国际会议论文集。189–198.

数字图书馆

[10]

2019年，Chong Chen、Min Zhang、Chenyang Wang、Weizhi Ma、Minming Li、Yiqun Liu和Shaoping Ma。一种用于社会感知推荐的高效自适应传递神经网络。第42届国际ACM SIGIR信息检索研究与开发会议论文集。225–234.

数字图书馆

[11]

陈冲、张敏、张永丰、刘一群和马绍平。2020年。无需采样的高效神经矩阵分解。ACM信息系统交易（TOIS）38，2（2020），1–28。

数字图书馆

[12]

陈冲、张敏、张永丰、马伟志、刘一群和马绍平。2020年。高效的异构协作过滤，推荐无负采样。《AAAI人工智能会议论文集》，第34卷。19–26.

[13]

陈汉雄、史少云、李云琪和张永丰。2021.神经协作推理。在WWW中。

[14]

Tim Dettmers、Pasquale Minervini、Pontus Stenetorp和Sebastian Riedel。2018.卷积2d知识图嵌入。AAAI（2018）。

[15]

劳拉·迪茨（Laura Dietz）、亚历山大·科托夫（Alexander Kotov）和埃德加·梅吉（Edgar Meij）。2018.利用知识图进行以文本为中心的信息检索。在第41届国际ACM SIGIR信息检索研究与开发会议上。1387–1390.

数字图书馆

[16]

傅作慧、冼一坤、高若远、赵洁玉、黄巧英、葛英强、徐树源、耿世杰、沙赫、张永丰，2020年。Fairness-对知识图的可解释建议。第43届国际ACM SIGIR信息检索研究与开发会议论文集。69–78.

数字图书馆

[17]

傅作慧、冼一坤、朱亚欣、张永丰和杰拉德·德·梅洛。2020年。COOKIE：电子商务知识图对话推荐数据集。arXiv预印arXiv:2008.09237（2020）。

[18]

耿世杰（Shijie Geng）、高鹏（Peng Gao）、莫伊特丽亚·查特吉（Moitreya Chatterjee）、霍里（Chiori Hori）、乔纳森·勒鲁（Jonathan LeRoux）、张永丰（Yongfeng Zhang）、李洪生（Hongsheng。2021.通过多模式无序变换器学习视频对话的动态图形表示。在AAAI。

[19]

徐涵，曹树林，吕鑫，林燕凯，刘志远，孙茂松，李娟子。2018。OpenKE：一个用于知识嵌入的开放工具包。在EMNLP会议记录中。

[20]

弗兰克·L·希区柯克。1927.张量或多元数的乘积和表示。《数学与物理杂志》6，1-4（1927），164–189。

[21]

Aidan Hogan、Eva Blomqvist、Michael Cochez、Claudia d'Amato、Gerard de Melo、Claudio Gutierrez、JoséEmilio Labra Gayo、Sabrina Kirrane、Sebastian Neumaier、Axel Polleres，2020年。知识图表。arXiv预印arXiv:2003.02320（2020）。

[22]

小黄、张靖远、李定成和李萍。2019年。基于知识图嵌入的问答。第十二届ACM网络搜索和数据挖掘国际会议论文集。105–113.

数字图书馆

[23]

Ji绍兴、Pan Shirui、Erik Cambria、Pekka Marttinen和Philip S Yu。2020年，知识图调查：表示、获取和应用。arXiv预印arXiv:2002.00388（2020）。

[24]

Seyed Mehran Kazemi和David Poole。2018年，简单嵌入知识图中的链接预测。神经信息处理系统进展。4284–4295.

[25]

Diederik P Kingma和Jimmy Ba.2015。亚当：一种随机优化方法。ICLR（2015）。

[26]

J.Lehmann、R.Isele、M.Jakob、A.Jentzsch、D.Kontokostas、P.N。Mendes、S.Hellmann、M.Morsey、P.van Kleef和S.Auer等人，2015年。DBpedia：从维基百科中提取的大规模多语言知识库。语义网167-195（2015）。

[27]

习维多莉亚·林（Xi Victoria Lin）、理查德·索彻（Richard Socher）和熊彩铭（Caiming Xiong）。2018.多跳知识图推理与奖励塑造。2018年自然语言处理实证方法会议记录。

[28]

Y.Lin、Z.Liu、M.Sun、Y.Liu和X.Zhu。2015.知识图完成的学习实体和关系嵌入。程序。第29届AAAI大会。Intell2181-2187（2015）。

[29]

马伟志、张敏、曹岳、金友成、王晨阳、刘一群、马绍平和任翔。2019.利用知识图共同学习推荐的可解释规则。在万维网会议上。1210–1221.

数字图书馆

[30]

乔治·A·米勒。1995年。WordNet：英语词汇数据库。Commun公司。ACM 38，11（1995），39-41。

数字图书馆

[31]

马克西米利安·尼克尔（Maximilian Nickel）、沃尔克·特雷普（Volker Tresp）和汉斯·彼得·克里格尔（Hans-Peter Kriegel）。2011年，一个关于多关系数据集体学习的三方模型。以Icml为单位，第11卷。809–816.

[32]

斯特芬·伦德尔。2010.保理机。2010年IEEE数据挖掘国际会议。IEEE，995-1000。

数字图书馆

[33]

斯特芬·伦德尔。2012.带libfm的因式分解机器。ACM智能系统与技术交易（TIST）3，3（2012），1–22。

数字图书馆

[34]

斯特芬·伦德尔（Steffen Rendle）、克里斯托夫·弗洛伊登塔勒（Christoph Freudenthaler）、泽诺·甘特纳（Zeno Gantner）和拉尔斯·施密特·蒂姆（Lars Schmidt-Thieme）。2012.BPR：基于隐性反馈的贝叶斯个性化排名。arXiv预印arXiv:1205.2618（2012）。

[35]

F.M.公司。Suchanek、G.Kasneci和G.Weikum。2007.YAGO：语义知识的核心。程序。第16届国际互联网大会697-706（2007）。

[36]

Kristina Toutanova和Danqi Chen。2015.知识库和文本推理的观察特征与潜在特征。在连续向量空间模型及其组成的第三次研讨会论文集中。57–66.

[37]

特洛伊隆、约翰内斯·韦尔布尔、塞巴斯蒂安·里德尔、埃里克·高西耶和纪尧姆·布查德。2016年，简单链接预测的复杂嵌入。国际机器学习会议（ICML）。

[38]

王梦翰、龚明明、郑晓林和张坤。2018.为推荐建立隐式反馈的动态缺失模型。神经信息处理系统进展。6669–6678.

[39]

王鹏飞、陈汉雄、朱亚东、沈华为和张永丰。2019.图形嵌入的统一协同过滤。第42届国际ACM SIGIR信息检索研究与开发会议论文集。155–164.

数字图书馆

[40]

王培峰、李双银和潘蓉。2018年，将消极抽样纳入知识表征学习。《AAAI人工智能会议论文集》，第32卷。

[41]

王全、毛振东、王斌和李过。2017年，《知识图嵌入：方法和应用调查》。IEEE知识与数据工程汇刊（2017年）。

[42]

Q.Wang、Z.Mao、B.Wang和L.Guo。2017.知识图嵌入：方法和应用综述。IEEE知识与数据工程学报29，12（2017），2724-2743。

[43]

Z.Wang、J.Zhang、J.Feng和Z.Chen。2014.通过在超平面上平移来嵌入知识图。程序。第28届AAAI大会。Intell1112-1119（2014）。

[44]

Xian Yikun、Fu Zuohui、S Mutukrishnan、Gerard De Melo和Yongfeng Zhang。2019.加强知识图推理以获得可解释的建议。第42届国际ACM SIGIR信息检索研究与开发会议论文集。285–294.

数字图书馆

[45]

Xian Yikun，Fu Zuohui，Zhao Handong Zhao，Ge Yingqiang，Xu Chen，Chiaoying Huang，Shijie Geng，Zhou Qin，Gerard De Melo，Shan Muthukrishnan，2020年。CAFE：用于解释性建议的粗到精的神经符号推理。第29届ACM信息与知识管理国际会议记录。1645–1654.

数字图书馆

[46]

熊晨燕（Chenyan Xiong）、罗素·鲍尔（Russell Power）和杰米·卡兰（Jamie Callan）。2017.通过知识图嵌入对学术搜索进行显式语义排名。第26届国际互联网会议论文集。1271–1279.

数字图书馆

[47]

熊文翰（Wenhan Xiong）、黄体恩（Thien Hoang）和王威廉（William Yang Wang）。2017.Deeppath:知识图推理的强化学习方法。《2017年自然语言处理实证方法会议论文集》。

[48]

杨碧珊（Bishan Yang）、叶文涛（Scott Wen-tou Yih）、何晓东（Xiaodong He）、高剑锋（Jianfeng Gao）和李登（Li Deng）。2015年，在知识库中嵌入学习和推理的实体和关系。《2015年国际学习代表大会（ICLR）会议记录》（2015年国际学术代表大会（ICLR）会议记录）。

[49]

张福正，袁景源，廉德福，谢兴，马维英，2016。推荐系统的协作知识库嵌入。第22届ACM SIGKDD知识发现和数据挖掘国际会议论文集。353–362.

数字图书馆

[50]

张卫南、陈田琪、王军和余勇。2013年，通过动态负面项目抽样优化top-n协同过滤。第36届ACM SIGIR国际信息检索研究与开发会议论文集。785–788.

数字图书馆

[51]

张永丰和徐晨。2020年。可解释的建议：调查和新观点。信息检索基础与趋势®14，1（2020），1–101。https://doi.org/10.1561/1500000066

数字图书馆

[52]

张永琪、姚全明、邵英霞和陈雷。2019.NSCaching：用于知识图嵌入的简单有效的负采样。2019年IEEE第35届国际数据工程会议（ICDE）。IEEE，614–625。

[53]

Kun Zhou、Wayne Xin Zhao、Shuqing Bian、袁航Zhou、Ji Rong Wen和Jingsong Yu。2020年。通过基于知识图的语义融合改进会话推荐系统。第26届ACM SIGKDD知识发现与数据挖掘国际会议论文集。1006–1014.

数字图书馆

引用人

曹J方J孟Z梁S(2024)知识图嵌入：基于表示空间的综述倒排索引综述10.1145/3643806在线发布日期：2024年2月2日
https://dl.acm.org/doi/10.1145/3643806
关伟（Guan W）廉X马拉(2023)CA-WGE：一种结合常识感知的基于双视图图神经网络的知识图补全方法2023年第6届人工智能与模式识别国际会议论文集10.1145/3641584.3641793(1382-1389)在线发布日期：2023年9月22日
https://dl.acm.org/doi/10.1145/3641584.3641793
巴斯托斯A辛格·K纳德吉里A霍法特J辛格·M铃木T(2023)持久同调能为知识图完成方法的评估提供一种有效的替代方法吗？2023年ACM网络会议记录10.1145/3543507.3583308(2455-2466)在线发布日期：2023年4月30日
https://dl.acm.org/doi/10.1145/3543507.3583308
显示更多引用者

高效的非抽样知识图嵌入
1. 计算方法
  1. 人工智能

建议

基于实体关系分布的知识图嵌入负抽样
语义Web–ISWC 2023
摘要
知识图嵌入（KGE）是一种从知识图中挖掘知识的强大技术。负采样在KGE培训中起着关键作用，并显著影响KGE模型的性能。负采样方法。。。
阅读更多信息
基于实体相似度的知识图嵌入负采样
PRICAI 2022：人工智能趋势
摘要
知识图嵌入（KGE）模型优化损失函数，以最大化正三元组的总似然性和最小化负三元组似然性。阴性样本在KGE培训中至关重要，因为它们不是。。。
阅读更多信息
用概率负抽样增强知识图嵌入
WWW’17指南：第26届万维网指南国际会议记录

使用知识图嵌入的链接预测将符号实体和关系投影到低维向量空间，从而学习实体之间的语义关系。

在各种嵌入模型中，有一系列基于翻译的。。。
阅读更多信息

评论

信息和贡献者

问询处

发布于

封面图片ACM会议

WWW’21：2021年网络会议记录

2021年4月

4054页

十亿英镑：9781450383127

内政部：10.1145/3442381

编辑：
朱尔·莱斯科维奇
斯坦福大学
,
马克·格罗贝尔尼克
乔伊夫·斯特凡研究所
,
马克·纳约克
谷歌
,
杰唐
清华大学
,
莱拉·齐亚
维基媒体基金会

版权所有©2021 ACM。

如果复制品不是为了盈利或商业利益而制作或分发的，并且复制品的第一页载有本通知和完整引文，则允许免费制作本作品的全部或部分数字或硬拷贝以供个人或课堂使用。必须尊重ACM以外的其他人对本作品组成部分的版权。允许用信用证进行摘要。要以其他方式复制或重新发布，在服务器上发布或重新发布到列表，需要事先获得特定许可和/或付费。从请求权限[电子邮件保护]

赞助商

SIGWEB:ACM超文本、超媒体和网络特别兴趣小组

出版商

计算机协会

美国纽约州纽约市

出版历史

出版：2021年6月3日

权限

请求对此文章的权限。

检查更新

作者标记

限定符

研究文章
研究
推荐有限公司

会议

WWW’21

主办单位：

SIGWEB公司

WWW’21：2021年网络会议

2021年4月19日至23日

斯洛文尼亚卢布尔雅那

接受率

8196份提交文件的总体接受率为1899份，23%

贡献者

其他指标

查看文章指标

文献计量学和引文

文献计量学

文章指标

11
引文总数
查看引文
523
总下载次数

下载次数（过去12个月）58
下载次数（最近6周）7

其他指标

查看作者指标

引文

引用人

曹J方J孟Z梁S(2024)知识图嵌入：基于表示空间的综述倒排索引综述10.1145/3643806在线发布日期：2024年2月2日
https://dl.acm.org/doi/10.1145/3643806
关W廉X马拉(2023)CA-WGE：一种结合常识感知的基于双视图图神经网络的知识图补全方法2023年第六届人工智能与模式识别国际会议论文集10.1145/3641584.3641793(1382-1389)在线发布日期：2023年9月22日
https://dl.acm.org/doi/10.1145/3641584.3641793
巴斯托斯A辛格·K纳德吉里A霍法特J辛格·M铃木T(2023)持久同调能为知识图完成方法的评估提供一种有效的替代方法吗？2023年ACM网络会议记录10.1145/3543507.3583308(2455-2466)在线发布日期：2023年4月30日
https://dl.acm.org/doi/10.1145/3543507.3583308
尤·H李·YShin K（小腿K）金·S(2023)分布外广义有向网络嵌入的分离度相关偏差和兴趣2023年ACM网络会议记录10.1145/3543507.3583271(231-239)在线发布日期：2023年4月30日
https://dl.acm.org/doi/10.1145/3543507.3583271
陈C马威张M王C刘毅马斯（Ma S）(2023)重新审视隐性推荐中的负抽样与非抽样美国计算机学会信息系统汇刊10.1145/352267241:1(1-25)在线发布日期：2023年2月25日
https://dl.acm.org/doi/10.1145/3522672
Doh R公司周C亚瑟·J塔维亚一世Doh B公司(2022)基于深度知识图的推荐系统的系统综述，重点是可解释嵌入数据10.3390/数据70700947:7(94)在线发布日期：2022年7月12日
https://doi.org/10.3390/data7070094
赵F张Z王DAl Hasan M公司熊L(2022)KSG：知识和技能图表第31届ACM信息与知识管理国际会议记录10.1145/3511808.3557623(4717-4721)在线发布日期：2022年10月17日
https://dl.acm.org/doi/10.1145/3511808.3557623
陈H李毅朱H张YAl Hasan M公司熊L(2022)学习基本技能和重用第31届ACM信息与知识管理国际会议记录10.1145/3511808.3557385(169-179)在线发布日期：2022年10月17日
https://dl.acm.org/doi/10.1145/3511808.3557385
徐D徐T吴斯（Wu S）周J陈娥马加莱斯J德尔·宾博A佐藤S塞贝N阿拉米达·皮内达X金Q奥里亚五世托尼·L(2022)多模态知识图补全的关系增强负抽样第30届ACM国际多媒体会议记录10.1145/3503161.3548388(3857-3866)在线发布日期：2022年10月10日
https://dl.acm.org/doi/10.1145/3503161.3548388
王凯（Wang K）刘毅盛Q（Sheng Q）(2022)快速而准确：用于低维知识图嵌入的硬件对比学习2022年ACM网络会议记录10.1145/3485447.3511927(838-849)在线发布日期：2022年4月25日
https://dl.acm.org/doi/101145/3485447.3511927网址
显示更多引用者

视图选项

获取访问权限

登录选项

检查您是否可以通过登录凭据或您的机构访问本文。

完全访问权限

获取此出版物

查看选项

PDF格式

以PDF文件的形式查看或下载。

电子阅读器

使用联机查看电子阅读器.

电子阅读器

HTML格式格式

在中查看本文HTML格式格式。

媒体

数字

其他

桌子