计算机科学››2024,第51卷››问题(5): 223-231.数字对象标识:10.11896/jsjkx.230200012

•人工智能• 以前的文章   下一篇文章

基于自适应上下文匹配网络的少快照知识图补全

杨旭华、张连、叶磊  

  1. 浙江工业大学计算机科学与技术学院,杭州310023
  • 收到:2023-02-02 修订过的:2023-05-18 在线:2024-05-15 出版:2024-05-08
  • 关于作者:杨旭华,1971年生,博士,教授,中共中央(17093S)高级委员。他的主要研究兴趣包括机器学习、网络科学和自然语言处理。
    叶磊,1979年生,博士,副教授,中共党员(No.80067M)。她的主要研究兴趣包括数据挖掘和知识推理。
  • 支持单位:
    国家自然科学基金(62176236)。

摘要:知识图在构建过程中需要面对复杂的现实世界信息,并且不能对所有知识进行建模,因此需要完成。真实知识图中的许多关系通常只有很少的实体对用于训练。因此,少快照知识图的完成是一个非常重要的问题。目前,基于嵌入的方法一般通过注意机制或其他方法来聚合实体上下文信息,并通过学习关系嵌入来完成知识图。这些方法只考虑了关系级的匹配度。虽然它们可以预测未知关系,但结果往往不准确。因此,提出了一种自适应上下文匹配网络(ACMN),用于完成少量快照的知识边图。首先,提出一种公共邻域感知编码器来聚合参考上下文,即一跳邻域实体,并获得公共邻域认知嵌入。其次,提出了一种与任务相关的实体编码器,用于挖掘任务实体上下文和公共上下文之间的相似性信息,区分一跳邻居对当前任务的贡献,并增强任务实体表示。然后,提出了一种上下文解析编码器来获取动态关系表示。最后,通过加权求和,综合考虑实体上下文和关系的匹配程度,完成该任务。ACMN从实体上下文相似度和关系匹配两个方面综合评估查询三元组是否成立,可以有效提高在少数场景下的预测精度。与其他八种在两个公共数据集上广泛使用的算法相比,ACMN在不同快照大小的情况下获得了最佳的完成结果。

关键词: 图形竞赛, 很少有射门学习, 实体上下文, 关系预测, 表征学习

CLC编号:

  • TP181型
[1] 杭天堂,冯杰,卢建明。知识图构建技术:分类学、综述和未来方向[J]。计算机科学,2021,48(2):175-189。
[2] 梁海华,顾天乐,彬C Z,等.基于用户-项目-知识图学习的个性化推荐[J]。计算机科学,2021,48(5):109-116。
[3] 刘德,连杰,刘Z,等.新闻推荐推理中的增强锚知识图生成[C]//第27届ACM SIGKDD知识发现与数据挖掘会议论文集.2021:1055-1065。
[4] 郭琦,庄峰,秦C,等.基于知识图的推荐系统研究[J]。IEEE知识与数据工程汇刊,2020,34(8):3549-3568。
[5] 张毅,钱思思,方Q,等.基于知识的多模式问答注意网络[J]。计算机研究与发展杂志,2020,57(5):1037-1045。
[6] BOSSELUT A,LE BRAS R,CHOI Y.零次常识性问题回答的动态神经符号知识图构建[C]//AAAI.2021:4923-4931。
[7] KEJRIWAL M,SZEKELY P.社会公益知识图:人口贩运领域以实体为中心的搜索引擎[J]。IEEE大数据汇刊,2017,8(3):592-606。
[8] 王毅、徐X、洪Q等-k个通过语义感知边界匹配得分对知识边图进行星型查询[J]。基于知识的系统,2021213:106655。
[9] 王强,纪毅,郝毅,等.基于GAN强化学习的知识图补全[J]。基于知识的系统,2020209:106421。
[10] 邵平,张德,杨刚,等.基于塔克分解的时态知识图补全[J]。基于知识的系统,2022238:107841。
[11] 冯杰,魏强,崔杰,等.基于二维卷积的翻译知识图完成模型[J]。应用情报,2022,52(3):3266-3275。
[12] 黄杰,陆涛,朱洁,等.基于局部信息融合的多关系知识图补全方法[J]。应用情报,2022,52(7):7985-7994。
[13] BORDES A,USUNIER N,GARCIA-DURAN A等。用于建模多关系数据的翻译嵌入[C]//第26届国际神经信息处理系统会议论文集。内华达州太浩湖,2013:2787-2795。
[14] 王Z,张杰,冯杰,等.基于超平面平移的知识图嵌入[C]//美国人工智能学会人工智能会议论文集.2014。
[15] 林毅,刘智,孙明,等。用于知识图完成的学习实体和关系嵌入[C]//第二十届AAAI人工智能大会。2015。
[16] 孙Z,黄J,胡伟,等.Transedge:为知识图翻译关系上下文化嵌入[C]//语义网-ISWC 2019:18国际语义网会议,新西兰奥克兰,2019年10月26日至30日,会议记录,第一部分18.斯普林格国际出版公司,2019:612-629。
[17] 熊伟,于敏,常斯,等.知识图的一对一关系学习[C]//2018年自然语言处理经验方法会议论文集.2018:1980-1990。
[18] 张C,姚H,黄C,等.知识图谱的绘制[C]//美国人工智能学会人工智能会议论文集.2020,34(3):3041-3048。
[19] MIKOLOV T,SUTSKEVER I,CHEN K,et al.单词和短语的分布式表示及其组成[C]//第26届神经信息处理系统国际会议论文集。内华达州塔霍湖,2013:3111-3119。
[20] NICKEL M,TRESP V,KRIEGEL H P.多关系数据集体学习的三向模型[C]//第28届机器学习国际会议论文集2011:809-816。
[21]TROUILLON T,WELBL J,RIEDEL S,et al.简单链接预测的复杂嵌入[C]//国际机器学习会议。PMLR,2016:2071-280。
[22]SOCHER R,CHEN D,MANNING C D,等.用神经张量网络完成知识库推理[C]//27届神经信息处理系统年会2013.2013:926-934。
[23]DETTMERS T,MINERVINI P,STENETORP P,et al.卷积2D知识图嵌入[C]//第三十二届AAAI人工智能会议论文集.2018:1811-1818。
[24]SCHLICHTKRULL M,KIPF T N,BLOEM P,et al.用图卷积网络建模关系数据[C]//语义网:第15届国际会议,ESWC 2018,希腊克里特岛赫拉克利翁,2018年6月3日-720日,Proceedings 15.Springer International Publishing,2018:593-607。
[25]王文杰,于永芳.考虑数据稀疏性的知识图中形成链接的自动补全算法[J]。吉林大学学报(工程技术版),2022,52(06):1428-1433。
[26]王毅,姚清,郭家堂,等.从几个例子中归纳:关于少快照学习的调查[J]。ACM计算调查(CSUR),2020,53(3):1-34。
[27]SUNG F,YANG Y,ZHANG L,et al.学习比较:关系网络的少快照学习[C]//IEEE计算机视觉与模式识别会议论文集.2018:1199-1208。
[28]VARTAK M,THIAGARAJAN A,MIRANDA C,et al.项目冷启动建议的元学习视角[C]//第31届神经信息处理系统国际会议论文集.2017:6907-6917。
[29]耿R,李斌,李毅,等.Few-ShotText分类的归纳网络[C]//2019年自然语言处理经验方法会议暨第九届国际自然语言处理联合会议(EMNLP-IJCNLP)论文集.2019:3904-3913。
[30]董旭,朱磊,张丹,等.快速参数自适应少镜头图像字幕和可视问答[C]//第26届ACM国际多媒体会议论文集.2018:54-62。
[31]KOCH G,ZEMEL R,SALAKUTDINOV R.用于一次性图像识别的暹罗神经网络[C]//ICML&深度学习研讨会。2015年。
[32]VINYALS O,BLUNDELL C,LILLICRAP T,et al.Matchinnetworks for one-shot learning[C]//第三十届神经信息处理系统国际会议论文集.2016:3637-3645。
[33]SNELL J,SWERSKY K,ZEMEL R.少快照学习原型网络[C]//第31届神经信息处理系统国际会议论文集.2017:4080-4090。
[34]FINN C,ABBEEL P,LEVINE S.用于深度网络快速适应的认知元学习模型[C]//机器学习国际会议。PMLR,2017:1126-1135。
[35]NICHOL A,ACHIAM J,SCHULMAN J.关于一阶元学习算法[J].arXiv:1803.029992018。
[36]BANSAL T,JHA R,MCCALLUM A.在不同的自然语言分类任务中学习如何减少学习次数[C]//第28届国际计算语言学会议论文集.2020:5108-5123。
[37]香J,莫哈迈德H,GABRIEL C,等.神经信息处理系统与元学习研讨会2018。
[38]ASHISH V,NOAM S,NIKI P,et al.注意力是你所需要的一切[C]//神经信息处理系统.2017:5998-6008。
[39]CARLSON A,BETTERIDGE J,KISIEL B,et al.走向永无止境的语言学习架构[C]//美国人工智能学会人工智能会议论文集.2010,24(1):1306-1313。
[40]VRANDE cco I采D,KRTZSCH M.维基数据:一个免费的协作知识库[J]。ACM通讯,2014,57(10):78-85。
[41]杨斌,YIH S W,HE X,等.在知识库中嵌入学习和推理的实体和关系[C]//学习表征国际会议论文集。ICLR,2015年。
[42]KAZEMI S M,POOLE D。知识图中链接预测的简单嵌入[C]//第32届神经信息处理系统国际会议论文集。2018:4289-4300。
[43]SUN Z Q,DENG Z H,NIE J Y等。旋转:复杂空间中通过关系旋转嵌入的知识图谱[C]//第七届国际学习表征大会。2019:6-9。
[44]CHEN M,ZHANG W,ZHANG W,et al.知识图中少镜头链接预测的元相关学习[C]//2019自然语言处理经验方法会议暨第九届自然语言处理国际联席会议(EMNLP-IJCNLP)论文集。2019:4217-4226。
[45]HAN X,CAO S,LV X,et al.Openke:一个用于知识嵌入的开放工具包[C]//2018年自然语言处理实证方法会议论文集:系统演示.2018:139-144。
[1] 黄朔、孙亮、王美玲、张道强。基于多视角自动编码器的多主体fMRI功能比对[J] ●●●●。计算机科学,2024,51(3):141-146。
[2] 杨波、罗家臣、宋彦涛、吴洪涛、彭芙蓉。基于对比学习的时间序列聚类方法[J] ●●●●。计算机科学,2024,51(2):63-72。
[3] 崔振宇、周佳欢、彭玉欣。跨模态目标再识别研究综述[J] ●●●●。计算机科学,2024,51(1):13-25。
[4] 张立志、李瑞祥、杨家培、饶远、张其坦、周云。基于复合语义的事件图构造综述[J] ●●●●。计算机科学,2023,50(9):242-259。
[5] 肖贵阳、王立松、蒋国华。基于文本图像增强的多模态知识图嵌入[J] ●●●●。计算机科学,2023,50(8):163-169。
[6] 姜林浦,陈克佳。基于对比预测的自监督动态图表示学习方法[J] ●●●●。计算机科学,2023,50(7):207-212。
[7] 曾武、毛国军。基于多粒度特征聚合的少快照学习方法[J] ●●●●。计算机科学,2023,50(6A):220400029-10。
[8] 王慧燕,于明河,于戈。基于深度学习的异构信息网络表示:综述[J] ●●●●。计算机科学,2023,50(5):103-114。
[9] 张雪、赵辉。基于多事件语义增强的情感分析[J] ●●●●。计算机科学,2023,50(5):238-247。
[10] 沈秋辉、张红军、徐友伟、王航、程凯。知识图嵌入模型中损失函数的综合研究[J] ●●●●。计算机科学,2023,50(4):149-158。
[11] 李书静,黄增峰。多关系异构知识图链接完备的混合曲线[J] ●●●●。计算机科学,2023,50(4):172-180。
[12] 李志飞,赵跃,张燕。基于表示学习的知识图推理综述[J] ●●●●。计算机科学,2023,50(3):94-113。
[13] 华杰,刘学良,赵烨。基于特征融合的小目标检测[J] ●●●●。计算机科学,2023,50(2):209-213。
[14] 李伟卓、陆炳杰、杨俊明、娜崇宁。基于网络表示学习的汽车保险欺诈诱因分析研究[J] ●●●●。计算机科学,2023,50(2):300-309。
[15] 陈家军、陈伟、赵磊。道路网络拓扑感知轨迹表示学习[J] ●●●●。计算机科学,2023,50(11):114-121。
已查看
全文


摘要

引用

  共享   
  讨论   
找不到建议阅读的文章!