融入注意力机制的双通道神经网络命名实体识别

作     者：陶露 TAO Lu

作者机构：皖江工学院电气信息工程学院安徽马鞍山243000 

出 版 物：《兰州工业学院学报》 (Journal of Lanzhou Institute of Technology)

年 卷 期：2024年第31卷第4期

页      面：54-59页

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主　　题：命名实体识别 双通道 双向GRU 注意力机制 

摘      要：针对深度学习方法识别命名实体缺乏丰富语义信息及冗余信息对命名实体识别的影响问题,提出一种融入注意力机制的双通道神经网络命名实体识别模型(BW-ATT-NERM)。首先使用Word2vec和BERT两种语言模型将文本转换成相应的向量表示形式作为模型输入;然后采用BiGRU网络提取文本特征向量,文本特征向量利用注意力机制生成特征向量的加权语义表示;最后利用CRF训练和学习文本特征向量与输出标签之间的关系,预测和输出最佳标签序列。实验结果表明:BW-ATT-NERM模型平均准确率、平均召回率、平均F1值达到95.97%,94.26%,95.11%,与基准识别模型(LSTM-CRF)相比,识别效果更加明显。