两阶段问答范式的生物医学事件触发词检测

doi:10.3778/j.issn.1002-8331.2301-0152

摘要/摘要

摘要：现有的生物医学事件触发词检测存在以下缺陷：保留了与触发词无关的冗余信息；忽略了实体与事件之间的潜在关联性；传统方法容易受到数据稀缺性的影响。针对上述问题，提出了一种两阶段问答范式的生物医学事件触发词检测方法。在事件类型识别阶段，采用基于句法距离的注意力捕获更有意义的上下文特征，排除无关信息的干扰；为了有效利用实体中的潜在特征，采用全局统计的单词-实体-事件共现特征，指导事件类型感知注意力挖掘词与事件之间的强关联性。在触发词定位阶段，根据识别出的事件类型，制定问题回答该事件对应的触发词索引，从而利用丰富的问答数据库实现数据增强。在MLEE公司语料库上的结果表明，两阶段问答范式、句法距离和事件类型感知注意力都有效地提升了模型性能，所提出的模型取得了81.39%F1分数，并在多个事件类型上的详细结果均优于其他基线模型。

关键词: 生物医学事件, 触发词检测, 句法距离, 单词-实体-事件共现特征, 两阶段问答范式

摘要：现有的生物医学事件触发检测方法存在以下缺陷：保留了与触发无关的冗余信息；忽略实体和事件之间的潜在相关性；传统方法容易受到数据稀缺的影响。针对上述问题，提出了一种基于两阶段问答范式的生物医学事件触发检测方法。在事件类型识别阶段，为了排除无关信息的干扰，允许基于句法距离的注意捕获更有意义的上下文特征。为了有效利用实体中的潜在特征，使用基于全局统计的单词-事件共现特征来引导事件类型感知注意，探索单词和事件之间的强大关系。在触发器定位阶段，根据识别出的事件类型问题回答句子中事件的触发器索引，从而利用丰富的问答数据库实现数据增强。在MLEE语料库上的结果表明，两阶段问答范式、句法距离注意和事件类型感知注意有效地提高了模型的性能，并且该模型达到了81.39%的F1-核心，在多事件类型的详细结果方面优于其他基线模型。

关键词： 生物医学活动，触发检测，句法距离，单词-单词-事件共现功能，两阶段问答范式

行帅, 熊玉洁, 苏前敏, 黄继汉. 两阶段问答范式的生物医学事件触发词检测[J] ●●●●。计算机工程与应用, 2024, 60(10): 121-131.

邢帅、熊玉杰、苏倩敏、黄继涵。基于两阶段问答范式的生物医学事件触发检测[J]。计算机工程与应用，2024,60（10）：121-131。

参考文献

[1] ANANIAADOU S，THOMPSON P，NAWAZ R，等.基于事件的生物和功能基因组文本挖掘[J]。《功能基因组学简报》，2015，14（3）：213-230。
[2] 罗门施M，哈珀恩Y，TLIMAT A，等.从电子病历中学习健康知识图[J]。科学报告，2017，7（1）：1-11。
[3] SPANGHER A，PENG N，MAY J，et al.通过结合事件提取和联合训练，在新冠肺炎语料库中实现低资源转移学习[C]//ACL 2020，2020年新冠肺炎NLP第一次研讨会论文集。
[4] 王杰，张杰，安勇，等。基于依赖性的词嵌入生物医学事件触发检测[J]。BMC医学基因组学，2016，9（2）：123-133。
[5] 周德，钟德，何勇.基于领域知识的生物医学事件提取事件触发识别[J]。生物信息学，2014，30（11）：1587-1594。
[6] CUI S，YU B，LIU T，等.带句法关系的事件检测边增强图卷积网络[J]。arXiv:2002.107572020年。
[7] FEI H，REN Y，JI D.一种用于生物医学事件触发检测的基于树的神经网络模型[J]。信息科学，2020，512:175-185。
[8] 李德，黄磊，季赫，等.基于知识驱动树的生物医学事件提取-LSTM[C]//计算语言学协会北美分会2019年会议论文集：人类语言技术（第一卷，长篇和短篇论文），2019:1421-1430。
[9] 赵伟，张杰，杨杰，等。基于文档二级建模的新型联合生物医学事件提取框架[J]。信息科学，2021，550:27-40。
[10] AHMAD W U，PENG N，CHANG K W.GATE：用于跨语言关系和事件提取的图形注意变压器编码器[C]//第35届AAAI人工智能会议论文集，2021:12462-12470。
[11] LI L，LIU Y.通过递归神经网络和监督注意机制利用论据信息改进生物医学事件触发识别[C]//2017 IEEE生物信息学和生物医学国际会议论文集，2017:565-568。
[12] 李峰，彭伟，陈毅，等。事件抽取作为多轮问答的方法[C]//计算语言学协会的研究结果：EMNLP 2020，2020：829-838。
[13] 荣伟，聂毅，申毅，等.基于噪声对比估计的生物事件触发识别[J]。IEEE/ACM计算生物学和生物信息学汇刊，2017，15（5）：1549-1559。
[14] T恤15。波杰？RNE J，SALAKOSKI T.TEES 2.2：不同语料库的生物医学事件提取[J]。BMC生物信息学，2015，16（16）：1-20。
[15] PYYSALO S，OHTA T，MIWA M，等.跨生物组织层次的事件提取[J]。生物信息学，2012，28（18）：575-581。
[16] HE X，LI L，LIU Y，等.一种结合特征选择和单词嵌入的两阶段生物医学事件触发检测方法[J]。IEEE/ACM计算生物学和生物信息学汇刊，2017，15（4）：1325-1332。
[17] RAHUL P V S S，SAHU S K，ANAND A.基于双向递归神经网络模型的生物医学事件触发识别[J]。arXiv:1705.095162017年。
[18] 王毅，王杰，林H，等.基于双向LSTM和CRF的生物医学事件触发检测[C]//2017 IEEE生物信息学与生物医学国际会议论文集，2017:445-450。
[19] 王毅，王杰，林浩，等.基于CRF的双向长短期记忆在FastText语义空间中检测生物医学事件触发[J]。BMC生物信息学，2018，19（20）：59-66。
[20] 沈C，林H，樊X，等.基于卷积公路神经网络和极限学习机的生物医学事件触发检测[J]。应用软件计算，2019，84:105661。
[21]魏赫，周阿，张勇，等.基于多层剩余BiLSTM和上下文化词语表示的生物医学事件触发提取[J]。国际机器学习与控制论杂志，2022，13（3）：721-733。
[22]HE X，REN Y，TAI P，等.基于混合神经网络和句子嵌入的两阶段生物医学事件触发检测方法[J]。IEEE接入，2021，9:81926-81935。
[23]HE X，LI L，WAN J，等.基于BiLSTM集成注意机制和句子向量的生物医学事件触发检测[C]//2018 IEEE生物信息学与生物医学国际会议论文集，2018:651-654。
[24]李磊，黄敏，刘毅，等.用于生物医学事件触发提取的上下文标签敏感门控网络[J]。生物医学信息学杂志，2019，95:103221。
[25]黄坤，杨明，彭宁.基于层次知识图的生物医学事件提取[J]。arXiv:2009.093352020年。
[26]DEVLIN J，CHANG M W，LEE K，et al.BERT：用于语言理解的深层双向变换器预训练[J]。arXiv:1810.048052018年。
[27]MCCANN B，KESKAR N S，XIONG C，等.自然语言十项全能：作为问题回答的多任务学习[J]。arXiv:1806.087302018年。
[28]王X D，WEBER L，LESER U。生物医学事件提取作为多轮问答[C]//第十一届健康文本挖掘和信息分析国际研讨会论文集，2020年：88-96。
[29]GU Y，TINN R，CHENG H，et al.生物医学自然语言处理的领域特定语言模型预训练[J]。ACM医疗计算汇刊，2021，3（1）：1-23。
[30]WADDEN D，WENNBERG U，LUAN Y，等.基于上下文化跨度表示的实体、关系和事件提取[J]。arXiv:1909.035462019年。
[31]KLEIN D，MANNING C D。准确的非中毒语法分析[C]//计算语言学协会第41届年会论文集，2003:423-430。
[32]DIAO Y，LIN H，YANG L，等.FBSN：一种用于生物医学事件触发识别的混合细粒度神经网络[J]。神经计算，2020，381:105-112。
[33]HE X，TAI P，LU H，等.基于细粒度和注意机制的生物医学事件提取方法[J]。BMC生物信息学，2022，23（1）：1-17。