基于改进ERNIE-DPCNN模型的中文文本分类

作     者：牛玉婷 陈伯琪 陈彬 Niu Yuting;Chen Boqi;Chen Bin

作者机构：江苏师范大学数学与统计学院江苏徐州221116 

出 版 物：《江苏师范大学学报（自然科学版）》 (Journal of Jiangsu Normal University：Natural Science Edition)

年 卷 期：2021年第39卷第1期

页      面：47-52页

学科分类：08[工学] 081203[工学-计算机应用技术] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：江苏省研究生科研与实践创新计划项目(SJCX20_0822)。 

主　　题：文本分类 ERNIE模型 DPCNN模型 改进的ERNIE-DPCNN模型 BERT模型 

摘      要：利用自然语言处理中一种基于字向量的增强语言表征模型--ERNIE,通过随机隐藏部分字、词组、实体语义单元,预测上下文实现语言表征,并将ERNIE预训练模型输出的词向量输入到改进的DPCNN模型,形成改进的ERNIE-DPCNN模型,用于中文文本分类.通过实例将改进的ERNIE-DPCNN模型与ERNIE、BERT、BERT-DPCNN、ERNIE-CNN、ERNIE-RNN、ERNIE-DPCNN 6类模型在准确率、精确率、召回率、运行时间等指标上进行对比,结果表明,改进的ERNIE-DPCNN模型均优于其他模型.