检索结果-南通市图书馆

华南理工大学学报（自然科学版） 2024年第6期52卷 128-137页

作者：张文东吴子炜宋国昌霍庆澳王博新疆大学软件学院新疆乌鲁木齐830008

中医古籍命名实体识别是构建中医知识图谱的基础,对中医知识的提取与智能化呈现具有重要意义。然而,中医知识体系结构庞大,公开可用的语料库稀少且语义复杂,当前的研究大多关注字向量的表达,对特殊汉字的结构特征中丰富的语义特点考虑... 详细信息

中医古籍命名实体识别是构建中医知识图谱的基础,对中医知识的提取与智能化呈现具有重要意义。然而,中医知识体系结构庞大,公开可用的语料库稀少且语义复杂,当前的研究大多关注字向量的表达,对特殊汉字的结构特征中丰富的语义特点考虑不充分;而且,由于汉字语义丰富,还存在潜在特征表达不足及一词多义的问题。文中结合中医古籍的语料特点与古汉字结构信息,提出了一种基于SiKuBERT与多元数据嵌入的命名实体识别方法,通过SiKuBERT创建字特征信息,在此基础上嵌入词特征与部首特征来捕捉汉字的语义信息,让具有相似部首序列的字符在空间向量中彼此接近。采用该方法对本草数据集中的人名、中草药物名,病症名、病理名、经络名进行识别,实验结果表明:文中方法能够有效抽取文本中的5类实体,F1值为86.66%,精确率达86.95%,召回率达86.37%;相较于基于字特征的SiKuBERT-CRF模型,文中方法融合了字词信息与繁体汉字的结构信息,能增强实体识别效果,总体F1值提升了2.83个百分点;此外,该方法对具有显著部首特征的中草药物名和病症名的识别效果最佳,相较于基于字特征的SiKuBERT-CRF模型,F1值分别提升了3.48和0.97个百分点。总体而言,文中方法的性能指标高于其他主流的深度学习模型,且具有良好的泛化能力。

关键词：中医古籍命名实体识别《本草纲目》 SiKuBERT 多元数据嵌入

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于多元数据嵌入和多特征融合的中文命名实体识别方法研究

基于多元数据嵌入和多特征融合的中文命名实体识别方法研究

引用

作者：吴双江南大学

学位级别：硕士

命名实体识别(Named Entity Recognition,NER)旨在从非结构化文本中提取出人名、地名、机构名或其他专有名词等类型的实体。其作为自然语言处理领域的基础任务之一,在对话问答、机器翻译、信息检索和知识图谱等各种自然语言处理任务中... 详细信息

命名实体识别(Named Entity Recognition,NER)旨在从非结构化文本中提取出人名、地名、机构名或其他专有名词等类型的实体。其作为自然语言处理领域的基础任务之一,在对话问答、机器翻译、信息检索和知识图谱等各种自然语言处理任务中承担着重要的角色,在许多落地应用中具有关键性作用。近年来,命名实体识别技术虽已趋向成熟,但仍然面临许多挑战,尤其是在中文命名实体识别方向中,字词边界模糊、词语义丢失的问题还没有得到很好的解决。目前主流的命名实体识别方法是基于字词混合式模型的方法,在字级别模型基础上使用词汇增强的手段来提升命名实体识别性能。这类方法相较于字级别模型能够增加文本中字词边界的辨识度和词汇的语义信息,相较于词级别模型能够减少分词错误所带来的性能降低问题,可谓是集两者优点于一身。但这种方法仍然存在一系列问题:单一的词汇增强方法可能引发偏置问题,使字词关注度过高,并导致全局语义信息的丢失;以词典匹配的方式引入词汇信息一般受限于词典质量,很可能引入错误词或无效词;字词混合式模型势必导致模型复杂度增加,计算量或参数量更大,性能提升的同时也会导致效率降低。针对以上问题,本文分别提出了融合汉字结构信息的多元数据嵌入方法、引入词预测的多任务学习方法、基于互注意力机制的词汇增强方法,用于解决中文命名实体识别中多元数据嵌入和多特征融合现存的问题。本文主要研究工作和创新点包括:1.融合汉字结构信息的多元数据嵌入方法。主流方法基于字级别模型引入词汇信息来解决中文命名实体识别中词边界模糊和语义丢失的问题,却可能额外引入噪声词汇,同时还存在字词间强相关性问题。本文提出了一种基于Transformer的双流神经网络模型,利用汉字结构信息抑制交叉注意力网络中字和词的高关注度问题,并合理将汉字结构信息应用到中文命名实体识别任务中。通过提供汉字中更丰富的结构语义信息,来优化字和词这种混合模型所存在的缺陷。在四个中文NER基准数据集上均超过目前最先进的性能,最多在Weibo数据集上提高了3个百分点。2.引入词预测的多任务学习方法。目前主流的中文命名实体识别任务中,采用字词混合式模型来解决中文词边界模糊、缺乏词汇信息的问题。然而这种方法在字典质量差的情况下会带来更多的错误信息,导致实体识别出错。本文采用一种多任务学习方式,在基线模型FLAT上充分利用被遮盖的部分输出设计了一个词汇预测辅助任务。本质上利用一个二分类任务预测匹配词汇的有效性,通过该任务引入更多的先验信息,引导模型学习正确的词汇信息,从而进一步提升命名实体识别的效果。同时提出了二次输入的方法共享参数,减少了模型复杂度,在三个公开数据集上均展现出优越的性能。3.基于互注意力机制的词汇增强方法。以FLAT为例,在引入词汇信息时将词汇使用两组位置编码将其拼接至汉字后,使得输入序列过长,模型的计算复杂度过高。本文基于TENER模型设计了一种互注意力机制,用来构建的非扁平词格结构融合词汇信息,能够大幅简短输入序列、降低计算量的同时,使性能可以达到FLAT的水平。该方法相对于FLAT,减少了“词-字”、“词-词”之间不必要的注意力计算,降低了显存占用率,可以使用更高的批次来减少训练时间。在四个开放数据集上均取得较好的结果。

关键词：中文命名实体识别多元数据嵌入多特征融合多任务学习互注意力机制

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：