计算机科学››2024,第51卷››问题(5): 200-207.数字对象标识:10.11896/jsjkx.230200189

• 人工智能 • 上一篇下一篇

结合句法增强与图注意力网络的方面级情感分类

张泽宝, 余翰男, 王勇, 潘海为

  1. 哈尔滨工程大学计算机科学与技术学院 哈尔滨 150000
    哈尔滨工程大学电子政务建模仿真国家工程实验室 哈尔滨 150000
  • 收稿日期:2023-02-24 修回日期:2023-06-27 出版日期:2024-05-15 发布日期:2024-05-08
  • 通讯作者:王勇(wangyongcs@hrbeu.edu.cn)
  • 作者简介:(zhangzebao@hrbeu.edu.cn)
  • 基金资助:
    国家自然科学基金(62072135);教育部人文社科研究项目(20YJCZH172);国家重点研发计划(2022年FC3301800)

结合句法增强和图形注意网络进行基于体的情感分类

张泽宝、于汉南、王勇、潘海伟

  1. 哈尔滨工程大学计算机科学与技术学院,哈尔滨150000,中国哈尔滨工程大学电子政务国家工程实验室建模与仿真
  • 收到:2023-02-24 修订过的:2023-06-27 在线:2024-05-15 出版:2024-05-08
  • 关于作者:张泽宝,1978年生,博士,讲师。他的主要研究兴趣包括自然语言处理、数据管理和数据挖掘。
    王勇,1983年生,博士,讲师。他的主要研究兴趣包括社会计算、大数据分析和信息安全。
  • 支持单位:
    国家自然科学基金(62072135)、教育部人文社会科学研究项目(20YJCZH172)、国家重点研发计划(2022YFC3301800)。

摘要:方面级情感分类旨在识别给定特定方面文本的情感极性,在本领域中,将图神经网络与句法依赖解析相结合是当下热门的研究方向之一,此类方法通过句法解析捕捉句子中词与词之间的关系,依此构建图结构,输入图神经网络中得到情感极性。若句法解析器出现解析错误,将会对以图为基础的图神经网络模型产生巨大影响。为了增强解析器生成的句法依赖树的解析结果,文中提出了一种句法增强图注意力网络,该网络通过融合多个解析器的解析结果,提高句法依赖解析精度,得到更精准的依赖关系句法图;在图注意力网络中使用密集连接机制捕获更丰富的特征,更适配于增强后的句法图,同时引入方面注意力机制捕获方面语义特征。实验结果验证了句法增强方法的有效性,在3个基准数据集上的分类准确度都有所提高,在方面级情感分析领域具有较好的表现。

关键词: 方面级情感分析, 依赖解析, 句法增强, 图注意力网络, 密集连接

摘要:方面级情感分类旨在识别给定方面文本的情感极性。在这一领域,图神经网络与句法依存分析的结合是当前的研究热点之一。根据二者之间的关系,构造图形结构并输入到图形神经网络中,以获得情感极性。如果语法分析器出现解析错误,则对基于图的图神经网络模型的影响将是巨大的。为了增强解析器生成的句法依赖树的分析结果,提出了一种语法增强的图注意网络。通过融合多个解析器的解析结果,提高了句法依赖的解析精度,得到了更准确的依赖句法图。图注意网络中使用了一种紧密连接的机制来捕获更丰富的特征,这些特征更适合于增强的句法图,并且引入了方面注意机制来捕获方面语义特征。实验结果验证了该句法增强方法的有效性。在三个基准数据集上的分类精度得到了提高,并且在方面级情感分析领域具有更好的性能。

关键词: 方面级情绪分析, 依赖项分析, 语法增强, 图形注意力网络, 密集连接

中图分类号: 

  • TP391型
[1] MA J,CAI X,WEI D,et al.基于方面的注意力LSTM用于方面层次情感分析[C]//2021第三届世界人工智能研讨会(WSAI).2021。
[2] 贾毅,王毅,赞赫,等.基于体的情感分类的句法信息和多语义段[J]。国际亚洲语言处理杂志,2021,31:2250006。
[3] 孙凯,张瑞,孟萨,等.基于依赖树卷积的方面层次情感分析[C]//2019年自然语言处理实证方法会议和第九届国际自然语言处理联合会议(EMNLP-IJCNLP)的进程.2019。
[4] JORDAN M I.串行顺序:一种并行分布式处理方法[J]。ICS-Report 8604加利福尼亚大学认知科学研究所,1986121:64。
[5] 唐丹,秦斌,冯欣,等.用于目标相关情感分类的有效LSTMs[C]//COLING 2016年会议论文集,第26届国际计算语言学会议:技术论文.2016:3298-3307。
[6] 陈鹏C,孙Z,BING L,等.用于体感分析的记忆递归注意网络[C]//2017年自然语言处理实证方法会议的进程。2017。
[7] KIM Y.用于句子分类的卷积神经网络[J].arXiv:1408.58822014。
[8] 黄B,CARLEY K M.面向方面级情感分类的参数化卷积神经网络[C]//自然语言处理中的经验方法。计算语言学协会,2019年。
[9] 王霞,李峰,张泽,等.基于方面情感分析的统一位置-软件卷积神经网络[J]。神经计算,2021450(12):91-103。
[10] 王毅,黄明,朱霞,等.基于注意的LSTM在体层情感分类中的应用[C]//2016年自然语言处理实证方法会议论文集.2016。
[11] 刘杰,岳中.目标情绪的注意建模[C]//计算语言学协会欧洲分会会议.2017。
[12] MA D,LI S,ZHANG X,等.基于交互注意网络的体层情绪分类[C]//第二十六届国际人工智能联合会议论文集.2017:4068-4074。
[13] FAN C,GAO Q,DU J,等.基于方面情感分析的基于进化的记忆网络[C]//第41届国际ACM SIGIR会议。ACM,2018年。
[14] 李霞,BING L,LAM W,等.面向目标情感分类的转换网络[C]//计算语言学协会第56届年会论文集.2018:946-956。
[15] KIPF T N,WELLING M.图卷积网络半监督分类[C]//国际学习表征会议论文集。2017。
[16] 肖磊,胡旭,陈毅,等.基于注意编码和图卷积网络的目标情感分类[J]。应用科学,2020,10(3):957。
[17] 肖勇,周G.句法边增强图卷积网络用于交互注意的方面级情感分类[J]。IEEE接入,2020,8:157068-157080。
[18] 田毅,陈刚,宋毅.基于体素的情感分析与类型软件图形卷积网络和层集成[C]//计算语言学协会北美分会2021年会议论文集:人类语言技术.2021。
[19] VELIKOVI P,CUCURULL G,CASANOVA A,et al.GraphAttention Networks[C]//学习表征国际会议论文集.2018。
[20] 白雪,刘鹏,张勇.利用图形注意神经网络挖掘类型化句法依赖进行目标情感分类[J]。IEEE/ACM音频、语音和语言处理事务,2021,29:503-514。
[21]YUAN L,WANG J,YU L C,et al.基于记忆融合的图形注意网络在体层情感分析中的应用[C]//计算语言学协会亚太分会第一届会议暨第十届国际自然语言处理联合会议论文集.2020:27-36。
[22]徐国堂,刘培英,朱志发,等.基于多头部注意的基于方面情感分类的注意增强图卷积网络[J]。应用科学,2021,11(8):3640。
[23]HOU X,HUANG J,WANG G,等.基于选择性注意的图卷积网络在体层情感分类中的应用[C]//第十五届基于图的自然语言处理方法研讨会论文集(TextGraphs-15).2021。
[24]BAHDANAU D,CHO K,BENGIO Y.通过联合学习对齐和翻译的神经机器翻译[C]//国际学习代表大会(ICLR)的进程。2015。
[25]DEVLIN J,CHANG M W,LEE K,et al.BERT:深度双向变形金刚语言理解预训练[C]//NAACL-HLT.2019:4171-4186。
[26]DOZAT T,MANNING C D.Deep Biaffine Attention for Neural Dependency Parsing[C]//《学习表征国际会议论文集》,2017年。
[27]MANNING C D,SURDEANU M,BAUER J,等.斯坦福大学自然语言处理工具包[C]//计算语言学协会第52届年会论文集:系统演示.2014:55-60。
[28]黄庚,刘Z,劳伦斯V,等.密集连接卷积网络[C]//IEEE计算机学会。IEEE计算机学会,2016年。
[29]HERCIG T,T BRYCHCíN,SVOBODA L,et al.UWB at Se-mEval-2016 Task 5:基于方面的情感分析[C]//2016年第十届语义评估国际研讨会论文集。
[30]LI D,WEI F,TAN C,等.基于自适应递归神经网络的目标相关推特情感分类[C]//计算语言学协会会议.2014。
[31]姜强,陈力,徐锐,等.基于方面的情感分析的挑战数据集和有效模型[C]//2019年自然语言处理实证方法会议和第九届国际自然语言处理联合会议(EMNLP-IJCNLP)的进程.2019。
[32]KINGMA D,BA J.Adam:一种随机优化方法[C]//神经信息处理系统会议(NIPS).2014。
[33]樊F,冯毅,赵D。面向方面层次情感分类的多粒度注意网络[C]//2018年自然语言处理实证方法会议论文集。2018年。
[34]宋毅,王杰,陶杰,等.目标情感分类的注意编码网络[J].arXiv:1902.093142019。
[35]LI X,LU R,LIU P,等.面向方面情感分类的分层多头关注图卷积网络[J]。超级计算杂志,2022,78(13):14846-14865。
[36]黄B,CARLEY K M.语法-基于图形注意网络的体素级情感分类[C]//2019年自然语言处理实证方法会议暨第九届自然语言处理国际联合会议论文集(EMNLP-IJCNLP).2019:5469-5477。
[37]曾杰,刘涛,贾伟,等.面向方面情感分类的关系构建[J]。信息科学,2022586:209-223。
已查看
全文


摘要

引用

共享
讨论
找不到建议阅读的文章!