双关系预测与特征融合的实体关系抽取模型
作者机构:江南大学人工智能与计算机学院 江苏省媒体设计与软件技术重点实验室
出 版 物:《智能系统学报》 (CAAI Transactions on Intelligent Systems)
年 卷 期:2023年
核心收录:
学科分类:08[工学] 081203[工学-计算机应用技术] 0812[工学-计算机科学与技术(可授工学、理学学位)]
主 题:实体关系抽取 关系三元组 预训练模型 双关系预测 指针网络 特征融合 门控线性单元 条件层规范化
摘 要:现有分阶段解码的实体关系抽取模型仍存在着阶段间特征融合不充分的问题,会增大曝光偏差对抽取性能的影响。该文提出了一种双关系预测和特征融合的新模型(entity relation extraction model with dual relation prediction and feature fusion,DRPFF)。该模型使用预训练的基于Transformer的双向编码表示模型(bidirectional encoder representation from transformers, BERT)对文本进行编码,并设计了两阶段的双关系预测结构来减少抽取过程中错误三元组的生成。在阶段间通过门控线性单元(gated linear unit,GLU)和条件层规范化(conditional layer normalization,CLN)组合的结构来更好地融合实体之间的特征。在NYT和WebNLG这两个公开数据集上的实验结果表明,该模型相较于基线方法取得了更好的效果。