基于多头自注意力机制和对抗训练的实体关系联合抽取

作     者：甘雨金 李红军 唐小川 王子怡 甘晨灼 胡正浩 GAN Yujin;LI Hongjun;TANG Xiaochuan;WANG Ziyi;GAN Chenzhuo;HU Zhenghao

作者机构：成都理工大学计算机与网络安全学院(示范性软件学院)成都610059 

出 版 物：《成都理工大学学报（自然科学版）》 (Journal of Chengdu University of Technology: Science & Technology Edition)

年 卷 期：2024年第51卷第3期

页      面：513-521页

核心收录：

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(42050104) 自然资源部深时地理环境重建与应用重点实验室开放基金项目(DGERA20221102) 

主　　题：实体关系联合抽取 对抗训练 多头自注意力 知识图谱 

摘      要：实体关系联合抽取是构建知识图谱的重要阶段,旨在抽取文本中存在语义关系的实体对。针对已有的实体关系联合抽取方法在抽取过程中存在的冗余关系预测、实体关系重叠以及上下文潜在语义信息捕捉不足的问题,提出联合多头自注意力机制和对抗训练的方法进行实体关系的抽取。该方法利用多头自注意力机制捕获潜在语义特征,以提升模型对上下文语义信息的感知能力;将对抗训练引入模型的训练阶段,以增强模型的泛化能力和鲁棒性。实验结果表明:与现有主流模型对比,提出的模型在NYT和WebNLG两个公共数据集上都取得了更优的F 1值,在处理实体关系重叠问题以及不定数量三元组抽取上都能保持稳定的性能表现,验证了模型的有效性。