关键词: 长文本分类, 伯特模型, 卷积神经网络, 长短期记忆网络, 门控机制

摘要：现有的中文长文本分类模型没有考虑语音、形态等中文特征信息，不能充分表示中文语义信息。同时，一些句子中包含许多信息，这些信息要么与目标话题无关，要么与其他话题相关，导致对分类模型的错误判断。为了解决这个问题，提出了一种基于CIMBERT（BERT融合中文输入法）和BLCG（BiLSTM融合带门CNN）的中文长文本分类模型。首先，采用中文输入法，利用BERT模型对文本向量进行表示。对于BERT的输入向量表示，汉字输入方法中广泛使用的拼音和五笔来增强汉字的语义信息。此外，构建BLCG来提取文本的整体特征，方法是利用LSTM（长短期记忆）方法获取全局特征，CNN（卷积神经网络）方法获取局部特征。BLCG的选通机制可以动态地结合全局特征和局部特征，克服由于无法识别文本无关主题而导致的分类模型错误。最后，在THUCNews数据集和搜狗数据集上对所提出的方法进行了测试。实验结果表明，该模型的分类准确率为97.63%、95.43%，F1-核分别为97.68%、95.49%，表明该模型在一定程度上优于其他文本分类模型。

关键词： 长文本分类， 来自变压器（BERT）的双向编码器表示， 卷积神经网络（CNN）， 长短期记忆（LSTM）， 浇口机构