基于字词混合和GRU的科技文本知识抽取方法

作     者：欧阳苏宇 邵蓥侠 杜军平 李昂 OUYANG Suyu;SHAO Yingxia;DU Junping;LI Ang

作者机构：北京邮电大学计算机学院智能通信软件与多媒体北京重点实验室北京100082 

出 版 物：《广西科学》 (Guangxi Sciences)

年 卷 期：2022年第29卷第4期

页      面：634-641页

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家重点研发计划项目(2018YFB1402600) 国家自然科学基金项目(61772083,61877006,61802028,62002027)资助 

主　　题：知识抽取 向量映射 GRU 三元组关系 联合抽取方法 

摘      要：知识抽取任务是从非结构化的文本数据抽取三元组关系(头实体-关系-尾实体)。现有知识抽取方法分为流水式方法和联合抽取方法。流水式方法将命名实体识别和实体知识抽取分别用各自的模块抽取,这种方式虽然有较好的灵活性,但训练速度较慢。联合抽取的学习模型是一种通过神经网络实现的端到端的模型,同时实现实体识别和知识抽取,能够很好地保留实体和关系之间的关联,将实体和关系的联合抽取转化为一个序列标注问题。基于此,本文提出了一种基于字词混合和门控制单元(Gated Recurrent Unit, GRU)的科技文本知识抽取(MBGAB)方法,结合注意力机制提取中文科技资源文本的关系;采用字词混合的向量映射方式,既在最大程度上避免边界切分出错,又有效融入语义信息;采用端到端的联合抽取模型,利用双向GRU网络,结合自注意力机制来有效捕获句子中的长距离语义信息,并且通过引入偏置权重来提高模型抽取效果。