计算机科学››2024,第51卷››问题(5): 193-199.数字对象标识:10.11896/jsjkx.230300193

• 人工智能 • 上一篇   下一篇

面向前提选择的新型图约简表示与图神经网络模型

兰咏琪1,何星星1,李莹芳2,李天瑞  

  1. 1西南交通大学数学学院 成都 611756
    2西南财经大学计算机与人工智能学院 成都 611130
    西南交通大学计算机与人工智能学院 成都 611756
  • 收稿日期:2023-03-24 修回日期:2023-08-10 出版日期:2024-05-15 发布日期:2024-05-08
  • 通讯作者:李莹芳(liyf@swufe.edu.cn)
  • 作者简介:(302941597@qq.com)
  • 基金资助:
    中央高校基本科研业务费专项资金(2682020ZT107);国家自然科学基金(62106206);教育部人文社科项目(19YJCZH048,20XJCZH016);四川省科技计划(2023YFH0066)

一种新的图约简表示和用于前提选择的图神经网络模型

兰永奇1、何兴兴1、李英芳2,李天瑞  

  1. 1西南交通大学数学学院,成都611756
    2西南财经大学计算机与人工智能学院,成都611130
    3西南交通大学计算机与人工智能学院,成都611756
  • 收到:2023-03-24 修订过的:2023-08-10 在线:2024-05-15 出版:2024-05-08
  • 关于作者:兰永奇,1998年生,研究生。她的主要研究兴趣包括用于预测选择的图形神经网络。
    李英芳,1985年生,博士,副教授。她的主要研究方向包括智能信息处理、智能决策和控制、推理和问题解决等。
  • 支持单位:
    中央高校基本科研业务费专项资金(2682020ZT107)、国家自然科学基金(62106206)、教育部人文社会科学项目(19YJCZH048,20XJCZH016)、四川省科技计划(2023YFH0066)。

摘要:自动定理证明器在证明问题时其搜索空间通常会呈现爆炸式增长,前提选择为该问题提供了新的解决思路。针对现有前提选择方法中逻辑公式图、图神经网络模型难以捕捉到公式图潜在信息的问题,提出了一种基于删除重复量词的简化逻辑公式图表示和具有注意力机制的项游走图神经网络模型,充分利用逻辑公式的语法和语义信息提高前提选择问题的分类精度。首先,将一阶逻辑猜想和前提公式转化为基于删除重复量词的简化一阶逻辑公式图;其次,利用消息传递图神经网络对节点和节点的项游走特征信息进行聚合和更新,随后使用注意力机制为图上的节点分配权重,进而调整图节点嵌入信息;最后,将前提图向量和猜想图向量拼接并输入二元分类器中实现前提分类。实验结果表明,所提方法在MPTP和CNF数据集上的准确率分别达到了88.61%和84.74%,超越现有最优的前提选择方法。

关键词: 图神经网络, 前提选择, 注意力机制, 一阶逻辑公式, 图约简表示方法

摘要:自动定理证明程序在证明问题时,其搜索空间通常会爆炸式增长。前提选择为这个问题提供了一个新的解决方案。针对现有前提选择方法中的逻辑公式图和图神经网络模型难以捕捉公式图的潜在信息的问题,本文提出了一种基于删除重复量词的简化逻辑公式图表示和一种带注意机制的术语遍历图神经网络,它充分利用逻辑公式的句法和语义信息来提高前提选择问题的分类精度。首先,在去除重复量词的基础上,将猜想公式和前提公式转换为简化的一阶逻辑公式图。其次,使用消息传递图神经网络聚合和更新节点及其术语行走特征信息,然后使用注意机制为图上的节点分配权重,从而调整图节点嵌入信息。最后,将前提向量和猜想向量串联并输入到二值分类器中,以实现分类。实验结果表明,该方法在MPTP数据集和CNF数据集上的准确率分别达到88.61%和84.74%,优于现有的前提选择方法。

关键词: 图形神经网络, 前提选择, 注意机制, 一阶逻辑公式, 图形简化表示

中图分类号: 

  • 第三百九十一页
[1] LE SERGENT T.SCADE:关键系统和软件工程的综合框架[C]//集成系统和软件建模:图卢兹第15届国际SDL论坛(SDL 2011)。法国,2011年。修订论文15。柏林-海德堡:施普林格,2012:2-3。
[2] LARRABEE T.使用布尔可满足性生成测试模式[J]。IEEE集成电路和系统计算机辅助设计汇刊,1992,11(1):4-15。
[3] EGGERSGLUSS S,DRECHSLER R.基于SAT的ATPG在工业应用中提供高故障覆盖率的高效数据结构和方法[J]。IEEE集成电路和系统计算机辅助设计汇刊,2011,30(9):1411-1415。
[4] DARWIVHE A.将知识编译成可分解否定范式[C]//IJCAI.1999,99:284-289。
[5] 杰克森·D,SCHECHTER I,SHLYAHTER H.Alcoa:合金约束分析器[C]//第22届国际软件工程会议论文集.2000:730-733。
[6] KALISZYK C,URBAN J.Mizar 40代表Mizar 40[J]。自动推理杂志,2015,55(3):245-256。
[7] 孟J,PAULSON L C.机器生成解决问题的轻量级相关滤波[J]。应用逻辑杂志,2009,7(1):41-57。
[8] KALISZYK C,URBAN J.用flyspeck学习辅助的自动推理[J]。自动推理杂志,2014,53(2):173-213。
[9] IRVING G,SZEGEDY C,ALEMI A A,等.前提选择的Deepmath-deep序列模型[J].arXiv:1606.044422016。
[10] LOOS S,IRVING G,SZEGEDY C,等.深度网络引导的证据搜索[J].arXiv:1701.069722017。
[11] CHVALOVSKY K,JAKUBUV J,SUDA M,et al.ENIGMA-NG:E[C]//自动演绎-CADE 27:27国际自动演绎会议。巴西纳塔尔:施普林格国际出版公司,2019:197-215。
[12] 斯佳士利F,GORI M,TSOI A C,等.图形神经网络模型[J]。IEEE神经网络汇刊,2008,20(1):61-80。
[13] 王明,唐毅,王杰,等.深度图嵌入定理证明的前提选择[C]//神经信息处理系统进展.2017:2786-2796。
[14] SCHLICHTKRULL M,KIPF T N,BLOEM P,等.基于图卷积网络的关系数据建模[C]//语义网:第十五届国际会议(ESWC 2018)。希腊克里特岛赫拉克利恩,施普林格国际出版公司,2018:593-607。
[15] 克劳斯M,阿卜杜拉齐兹I,科尔内利奥C,等.逻辑公式的子图池即兴图神经网络表示[J].arXiv:1911.069042019。
[16] PALIWAL A,LOOS S,RABE M,et al.高阶逻辑的图形表示和定理证明[C]//AAAI人工智能会议论文集.2020:2967-2974。
[17] 刘晓红。基于结论方法的自动推理[M]。科学出版社,1994:15-16。
[18] 波洛巴斯B。现代图论[M]。Springer科学与商业媒体,1998年。
[19] 刘庆华。大理论的一阶逻辑前提选择研究[D]。成都:西南交通大学,2021年。
[20] JAKUBUV J,URBAN J.ENIGMA:高效的基于学习的推理引导机[C]//第十届国际智能计算机数学会议(CICM 2017)。英国爱丁堡,2017年,施普林格国际出版公司,2017:292-302。
[21]PASZKE A,GROSS S,MASSA F,et al.Pytorch:一种命令式、高性能的深度学习库[J].arXiv:1912.017032019。
[22]RUDNICKI P.米扎尔项目概述[C]//1992年证明和程序类型研讨会的程序。1992:311-330。
[23]KINGMA D P,BA J.Adam:一种随机优化方法[J].arXiv:1412.69802014。
[24]KIPF T N,WELLING M.基于图卷积网络的半监督分类[J].arXiv:1609.0909072016。
[25]VELICKOVIC P,CUCURULL G,CASANOVA A,等.图形注意网络[J].arXiv:1710.109032017。
[26]HAMILTON W,YING Z,LESKOVEC J.大型图上的归纳表示学习[J]。arXiv:1706.022162017。
[27]吴峰,苏札A,张涛,等.简化图卷积网络[C]//国际机器学习会议。PMLR,2019:6861-6871。
[28]DEFFERRARD M,BRESSON X,VANDERGHEYNST P.具有快速局部化频谱滤波的图上的卷积神经网络[C]//第30届国际神经信息处理系统会议论文集。2016:3844-3852。
已查看
全文


摘要

引用

  共享   
  讨论   
找不到建议阅读的文章!