计算机科学>计算与语言
标题: 基于连续提示调整的电子商务实体类型文本蕴涵模型
摘要: 电子商务的迅猛发展导致了对产品标题的处理和分析的需求,例如在产品标题中输入实体。 然而,电子商务中的快速活动导致了新实体的快速涌现,这是普通实体类型难以解决的。 此外,电子商务中的产品标题与一般领域中的文本数据具有非常不同的语言风格。 为了处理产品标题中的新实体,并解决电子商务领域中产品标题的特殊语言风格问题,我们提出了基于持续提示调整的假设和电子商务实体类型的融合嵌入的文本蕴涵模型。 首先,我们将实体键入任务重新定义为文本蕴涵问题,以处理训练期间不存在的新实体。 其次,我们设计了一个模型,使用连续提示调整方法自动生成文本隐含假设,无需手动设计即可生成更好的文本隐含假设。 第三,我们利用BERT嵌入和CharacterBERT嵌入与两层MLP分类器的融合嵌入来解决电子商务中产品标题的语言风格与一般领域不同的问题。 为了分析每个贡献的效果,我们比较了实体类型和文本蕴涵模型的性能,并对连续提示调整和融合嵌入进行了消融研究。 我们还评估了不同提示模板初始化对连续提示调优的影响。 我们表明,与基线BERT实体类型模型相比,我们提出的模型将F1平均分数提高了约2%。