兽药致病命名实体At-tAux-BERT-BiLSTM-CRF识别

作     者：杨璐 张恬 郑丽敏 田立军 YANG Lu;ZHANG Tian;ZHENG Limin;TIAN Lijun

作者机构：中国农业大学信息与电气工程学院北京100083 食品质量与安全北京实验室北京100083 

出 版 物：《农业机械学报》 (Transactions of the Chinese Society for Agricultural Machinery)

年 卷 期：2022年第53卷第3期

页      面：294-300页

核心收录：

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：北京市现代农业产业技术体系创新团队项目(BAIC02-2020) 国家重点研发计划项目(2017YFC1601803) 

主　　题：兽药致病 命名实体识别 注意力机制 BERT 深度学习 

摘      要：针对兽药致病知识图谱构建过程中,关于兽药命名实体识别使用传统方法依赖人工设计特征耗时耗力以及兽药致病语料数据量较少的问题,提出一种引入注意力机制(Attention)与辅助层分类(Auxiliary layer)相结合兽药文本命名实体识别模型(At-tAux-BERT-BiLSTM-CRF)。通过BERT预处理模型进行文本向量化,然后连接双向长短期记忆网络(Bi-directional long-short term memory,BiLSTM);引入注意力机制,将模型的BERT层输出用作辅助分类层,BiLSTM层输出作为主分类层(Mainlayer),通过注意力机制组合以提高整体性能;最后输入条件随机场(Conditional random field,CRF),构建端到端的适合于兽药领域实体识别的深度学习模型框架。实验选取兽药文本共10643个句子、485711个字符,针对动物、药物、不良反应、摄入方式4类实体进行识别。实验结果表明,本文模型能有效地辨别兽药致病文本中的实体,识别的F1值为96.7%。