检索结果-南通市图书馆

作者：张富晓大连理工大学

学位级别：硕士

知识图谱作为一种高效的结构化数据存储形式,能够为自然语言处理的下游应用提供有力的数据支持,来满足人们日益增长的需求。非结构化数据是最常见的一种数据形式,也是构建知识图谱的重要数据来源。利用非结构化数据构建知识图谱涉及许... 详细信息

知识图谱作为一种高效的结构化数据存储形式,能够为自然语言处理的下游应用提供有力的数据支持,来满足人们日益增长的需求。非结构化数据是最常见的一种数据形式,也是构建知识图谱的重要数据来源。利用非结构化数据构建知识图谱涉及许多自然语言处理技术,命名实体识别和实体对齐是这个过程中不可或缺的关键技术。命名实体识别是将非结构化数据识别为结构化数据的基础,它的准确性直接影响后续任务的性能。实体对齐不仅能够帮助单个知识图谱增加新的实体和关系来扩展规模,也可以直接集成多个不同的知识图谱。在大数据背景下,文本中的实体具有复杂性和多样性的特点,研究如何提升命名实体识别和实体对齐准确率,具有非常重要的现实意义。本文主要针对命名实体识别和实体对齐任务中存在的问题进行研究:（1）在命名实体识别任务中,现有的识别模型主要将文本视为单纯的线性序列,并使用循环神经网络抽取其中的语义信息作为词表示,这导致模型在编码序列过程中会丢失文本的结构信息。为了克服这一缺点,本文提出了一种基于门控信息融合的命名实体识别模型（Bi LSTM-GAT-Gate-CRF,BGGF）,该模型通过双向长短时记忆网络（Bidirectional Long Short-Term Memory,Bi LSTM）学习文本中的语义信息,同时使用图注意力网络（Graph Attention Network,GAT）编码依存句法树中单词之间的依存信息。模型进一步通过构造信息控制门来控制这两种不同类型信息的融合,得到更好的词表示。本研究在三个常用的命名实体识别数据集上进行实验测试模型性能,实验结果充分表明本文所提出的模型在提高命名实体识别精度的有效性。（2）在实体对齐任务中,不同知识图谱中的等价实体通常有不同的表面形式或者不同的邻域,这导致模型在使用图卷积神经网络（Graph Convolutional Network,GCN）聚集实体周围的邻域信息,学习实体表示时会引入大量噪音。另外,关系三元组表述的事实具有很强的方向性,而GCN的卷积操作不能编码实体方向。为了应对这些问题,本研究提出了一种基于结构增强的实体对齐模型（Structure-Enhanced Entity Alignment,SEEA）,该模型能够利用LSTM充分抽取实体名称中的语义信息来减轻结构差异带来的负面影响,并编码关系三元组中实体的方向信息以学习更好的实体表示,同时通过获取实体间的结构相似信息有效提高模型的对齐性能。此外本研究还使用半监督的机器学习方法减轻模型对标注对齐实体的依赖。本研究在三个常用的实体对齐数据集上进行实验,实验结果充分表明SEEA模型的有效性,与现有实体对齐方法相比达到最先进水平。

关键词：知识图谱命名实体识别实体对齐图卷积网络

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的文档级生物医学关系抽取研究

基于深度学习的文档级生物医学关系抽取研究

作者：连瑞源大连理工大学

学位级别：硕士

生物医学是一门前沿交叉学科,与人类的健康和生命息息相关。近年来,生物医学领域的电子期刊和文献数量飞速增长,用生物医学文本挖掘技术自动发现隐藏在这些非结构化数据中的领域知识是本领域进一步发展的关键。文档级生物医学关系抽取... 详细信息

生物医学是一门前沿交叉学科,与人类的健康和生命息息相关。近年来,生物医学领域的电子期刊和文献数量飞速增长,用生物医学文本挖掘技术自动发现隐藏在这些非结构化数据中的领域知识是本领域进一步发展的关键。文档级生物医学关系抽取作为生物医学文本挖掘的一个重要分支,旨在从非结构化的生物医学文档中自动地抽取出存在的关系事实。目前,基于深度学习的方法是处理文档级生物医学关系抽取的常用方法。一方面,在文档级生物医学关系抽取中,实体通常在文档中有多个提及,在进行关系判断之前,需要对这些提及信息进行聚合。然而大多数的工作在聚合提及时都忽略了每个提及都有着独特上下文信息的事实。此外,在关系抽取过程中,不可避免地存在很多冗余信息,这些信息作为噪声影响了模型的整体性能。为此,本文提出了一个基于生成对抗网络和双重注意多实例学习的模型来解决这两个问题。该模型提出了一个双重注意多实例学习模块来聚合提及,充分考虑了不同提及的独特上下文信息,并引入生成对抗网络来处理模型中的噪声问题,提升了模型精度。另一方面,由于生物医学文档中存在相当一部分的关系需要借助其他实体或关系的信息来进行判断,因此逻辑推理成为近两年的研究热点。然而,目前的推理模型都是仅利用一种元素信息进行的单粒度推理,未能充分挖掘文档中多个粒度元素的推理关系。此外,在进行逻辑推理之前,获取丰富的文档信息是进行逻辑推理的前提条件,而绝大多数模型存在着文档信息利用不充分问题,限制了模型的推理能力。为此,本文提出了一个基于多维融合信息和多粒度逻辑推理的模型来解决这两个问题。该模型提出了一个多维信息融合模块将多种文档信息进行加权融合获得丰富的文档表示,同时提出了一个多粒度推理模块基于卷积神经网络进行多粒度逻辑推理,较大程度提升了模型关系抽取性能。本文在两个文档级生物医学关系抽取语料CDR和GDA上进行实验,实验表明,本文所提出的两个文档级生物医学关系抽取模型具有先进的性能,尤其是基于多维融合信息和多粒度逻辑推理的模型,在CDR语料上F1值为85.7%,达到目前的最优性能,在GDA语料上F1值为84.7%,达到了次优性能。

关键词：生物医学关系抽取双重注意多实例学习生成对抗网络信息融合逻辑推理

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于篇章的蛋白质交互关系抽取

基于篇章的蛋白质交互关系抽取

作者：张盼盼大连理工大学

学位级别：硕士

文本挖掘的主要目的是自动地从大量文本中抽取有用的信息。生物医学领域的文本挖掘,可以帮助领域专家快速地从相关领域文献中发现对研究有参考意义的信息,此外,还可以减少数据库专家在数据库维护方面所需要的人力和物力。蛋白质-蛋白... 详细信息

文本挖掘的主要目的是自动地从大量文本中抽取有用的信息。生物医学领域的文本挖掘,可以帮助领域专家快速地从相关领域文献中发现对研究有参考意义的信息,此外,还可以减少数据库专家在数据库维护方面所需要的人力和物力。蛋白质-蛋白质之间的交互作用抽取这一课题的相关文献越来越多。这些相关文章的研究都只是针对文献的摘要部分,考虑的只是研究者在摘要中所提到的交互关系,并没有从整篇文章中系统地考虑所有交互关系,并且,全文蛋白质交互关系的评价数据集也相对缺乏。本文使用BioCreative Ⅱ.5中所提供的训练集和FEBS Letters提供的部分文献作为评价集,在摘要关系抽取的基础上,加入全文特有的属性,并通过特征选择进行关系抽取。首先,在对摘要中的蛋白质交互关系抽取的基础上,提出将基本词特征、句法模式特征进行组合。其中,基本词特征中引入篇章位置信息Part、频度特征Coo这两个全文特有的属性;句法模式中,从语句描述的角度总结了关系的模式,并且将其作为一个特征,从而对全文进行关系抽取,取得了72.57%的F-score,AUC达到了77.90%。其次,不同的特征对抽取性能所起的所用也不一致,这些特征进行不同的结合时,正向作用和逆向作用所占的比重也不一致,甚至相互抵消。因此,本文通过特征选择的方式,对基本词特征和句法模式特征进行选择。特征选择的主要目的是提高分类的性能或者利用最少的特征维数取得较好的性能。最终,将特征选择获得的子集特征与树核进行结合,进行基于篇章的蛋白质交互关系抽取。句法树是在现有的动态扩展树(DET)的基础上进行二次扩展,形成二级DET。最终,F-score和AUC分别达到了74.46%、78.50%。

关键词：全文关系抽取句法模式特征选择树核

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于电子病历的知识图谱构建研究

基于电子病历的知识图谱构建研究

作者：袁光辉大连理工大学

学位级别：硕士

电子病历(Electronic Medical Records,EMR)是信息化医疗健康服务的产物之一,是采用电子设备(计算机、健康卡等)保存、管理、传输和重现的数字化的病人医疗记录。电子病历中包含着大量的医学事实,但其文本结构复杂多样,文本词汇专业性... 详细信息

电子病历(Electronic Medical Records,EMR)是信息化医疗健康服务的产物之一,是采用电子设备(计算机、健康卡等)保存、管理、传输和重现的数字化的病人医疗记录。电子病历中包含着大量的医学事实,但其文本结构复杂多样,文本词汇专业性强、可读性差,从中自动化的抽取信息较为困难。随着国内电子病历的大量积累,利用自然语言处理技术从大量电子病历中自动化的获取、整合有效的医疗信息具有重要意义。本文主要工作是运用自然语言处理技术研究基于电子病历的医疗知识图谱构建,具体研究内容包括下面两个部分。(1)提出一种基于位置降噪和丰富语义的电子病历实体关系抽取方法。电子病历的实体关系抽取任务是在给定医疗实体的情况下,判断实体之间的关系类别,是知识图谱构建的关键步骤。当前电子病历实体关系抽取存在两个问题:1)生成的位置向量存在噪声;2)电子病历中词的语义表示匮乏。为解决上述问题,本文提出一种基于位置降噪和丰富语义的实体关系抽取模型。模型首先利用位置信息和专业领域语料训练的词向量信息计算得到每个词的注意力分数;然后将此权重分数与通用领域语料训练的词向量结合,实现位置向量的降噪和丰富语义的引入;最后将加权后的词向量送入特征提取模型,提取特征判断实体关系类型。此方法在2010年i2b2/VA语料上进行实验评估,F值为76.47%,引入Bert后F达到83.05%,取得了该语料上目前最好的结果。(2)提出了一种知识图谱构建框架并构建了基于中文电子病历的知识图谱。中文电子病历是一种半结构化数据,病历文本中包含大量专有名词和缩写,且不同科室的电子病历文本差异较大,因此,目前大多数基于中文电子病历的知识图谱都是针对一个科室或一种疾病进行分析构建的。本文定义了一种适用于不同科室和疾病的知识图谱构建框架,对于更细粒度知识图谱的构建,可以在此基础上进行扩展、融合。基于该框架,本文在15835份中文电子病历语料上进行了实践,最终构建的知识图谱包含31388个医疗实体,204900对关系,经过人工评估,实体和关系准确率分别达到92.95%、84.05%,证明了本文所构建的知识图谱在质量上的可靠性。综上,本文提出了一种应用于电子病历的实体关系抽取方法和知识图谱构建框架,并构建了基于中文电子病历的知识图谱,实现了基于Neo4j的知识图谱存储和可视化,为后续医疗问答、知识搜索等下游任务提供了数据基础。

关键词：电子病历知识图谱位置向量降噪丰富语义

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

生物医学文本中实体关系抽取的研究

生物医学文本中实体关系抽取的研究

作者：郑洁琼大连理工大学

学位级别：硕士

作为生物医学信息抽取领域的重要分支,实体关系抽取的作用举足轻重。其中,细菌与其生存环境之间的交互关系抽取可以进一步发现生物之间的关联机制,对微生物学的发展,如食品加工和安全、健康科学和废物处理等领域有着非常重要的意义。然... 详细信息

作为生物医学信息抽取领域的重要分支,实体关系抽取的作用举足轻重。其中,细菌与其生存环境之间的交互关系抽取可以进一步发现生物之间的关联机制,对微生物学的发展,如食品加工和安全、健康科学和废物处理等领域有着非常重要的意义。然而目前现有的抽取方法性能并不是十分理想,因此如何提高细菌与其生存环境的交互关系抽取的性能是本文研究的重点。在采用基本特征的基础上,加入词向量、布朗聚类特征、外部资源特征、实体类型特征进行关系抽取,构建了一个基于SVM的简单高效的关系抽取系统。首先,考虑到生物医学特点,采用面向生物医学文本的词向量作为特征,从背景语料中学习潜在的语义信息;然后,通过布朗聚类方法将相近的实体对聚为一类,并将聚类结果表示为特征;接下来,将物种和术语信息作为外部资源特征加入到特征集合中;最后,由于实体在句子中出现在不同的位置往往有不同的含义,例如,出现在标题和正文的实体重要程度是不同的,因此将此信息作为特征。在2016年BioNLP-ST的BB任务测试集上获得了49.11%的F-值。虽然SVM方法可以利用领域专家总结的一些特征,但这种方式不能学习到深层的语义信息,而深度学习方法可以通过迭代训练获得深层的语义信息。因此,本文采用深度学习的方法进行关系抽取,提出了一个基于动态拓展树的双向LSTM框架(DET-BLSTM),首先,利用解析器解析获取最短路径树,针对语料进行分析,将路径长度过短的树进行动态拓展。然后,将词向量、词性向量和距离向量拼接后的结果作为输入。接下来,构建双向LSTM分别从动态拓展树的前向和后向获取信息,并使用Softmax进行分类。最后,综合考虑到浅层、深层两种方法的优缺点,将两者进行结合,即利用SVM系统的预测结果进行后处理,在测试集上获得58.15%的结果,获得了目前在该数据集上最好的结果。综上,本文分别采用了浅层和深层两种不同的方法进行关系抽取,最后为了利用领域专家经验提供的知识,将浅层方法的预测结果对DET-BLSTM的预测结果进行后处理。最终结果比目前最好系统的F-值提高了2.35%。

关键词：词向量关系抽取丰富特征动态拓展长短时记忆网络

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于SVMs蛋白质交互作用关系抽取

基于SVMs蛋白质交互作用关系抽取

作者：荆林梅大连理工大学

学位级别：硕士

从生物医学文献中抽取蛋白质交互作用关系是二十一世纪生物医学领域研究的热点内容之一,研究并实现有效的蛋白质交互作用关系抽取方法是本文的主要研究内容。本文在深入研究现有蛋白质交互作用关系抽取方法的基础上,建立了一种基于支持... 详细信息

从生物医学文献中抽取蛋白质交互作用关系是二十一世纪生物医学领域研究的热点内容之一,研究并实现有效的蛋白质交互作用关系抽取方法是本文的主要研究内容。本文在深入研究现有蛋白质交互作用关系抽取方法的基础上,建立了一种基于支持向量机(SVM)的蛋白质交互关系抽取模型,并针对SVM模型在分类超平面分类精度不高和实验语料中正负例数据不平衡的问题,提出了三种不同的改进模型: (1) SVM与互信息(Mutual Information,MI)组合模型。通过对SVM模型的分类结果进行分析后发现,SVM和其它统计分类模型一样,出错样本点多数集中在分类超平面附近。在SVM和互信息组合算法中,对于分类超平面附近的样本点通过计算样本点的互信息,然后根据互信息的值进行分类,对于距离分类超平面较远的样本仍然使用SVM模型分类。 (2)修正的SVM-KNN(K Nearest Neighbor,KNN)组合模型。在特征空间中计算测试样本到SVM最优分类超平面的距离,当该距离大于给定的阈值时,使用SVM模型的分类结果作为样本的最终分类结果,否则使用修正KNN方法对样本进行分类,这时,特征空间中所有的点都作为参考点,计算待分类样板到所有参考点的欧式距离,然后将得到的距离排序,找到距离待分类样本点最近的K个参考点,看这K个参考点的多数点属于哪一类,就将该样本分为哪一类。根据样本在特征空间中的不同分布使用不同的方法对SVM模型的分类性能进行优化。 (3)修正SVM-KNN与互信息组合模型。SVM与互信息组合模型、修正的SVM-KNN模型都取得了不错的效果,因此本文也尝试将修正的SVM-KNN模型与互信息相结合。结合的方法是通过将得到的互信息值作为SVM模型的一个特征进行训练,然后结合SVM和修正的KNN算法来构造新的二值分类器。对于分类超平面附近的样本采用修正KNN算法进行分类,对距分类超平面较远的样本点仍然使用SVM模型进行分类。本文先对语料进行预处理,抽取特征,并将抽取的特征转换为二进制特征向量,并在此基础上建立训练集和测试集,然后分别建立基于以上三种算法的关系抽取模型。实验结果表明,SVM与互信息组合模型、修正的SVM-KNN组合模型、修正SVM-KNN与互信息组合模型比传统的SVM模型更有优越性,在BC-PPI语料上,F值分别提高了0.98%、1.08%和2.83%,在IEPA语料上,F值分别提高了0.12%、0.44%和0.54%。

关键词：蛋白质交互关系 SVM 互信息修正SVM-KNN

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向多文本粒度的生物医学关系抽取研究

面向多文本粒度的生物医学关系抽取研究

作者：钱爽大连理工大学

学位级别：硕士

生物医学关系抽取旨在发掘生物医学文献中基因、疾病、蛋白质及药物等实体之间的关系,是生物医学信息抽取的关键环节,为生物医学领域知识库的构建与维护奠定基础。本文按照实体所在文本的不同粒度,从句子级和篇章级文本两个角度分析生... 详细信息

生物医学关系抽取旨在发掘生物医学文献中基因、疾病、蛋白质及药物等实体之间的关系,是生物医学信息抽取的关键环节,为生物医学领域知识库的构建与维护奠定基础。本文按照实体所在文本的不同粒度,从句子级和篇章级文本两个角度分析生物医学关系抽取,具体对药物-药物关系抽取和药物-疾病关系抽取两个典型任务展开了研究。药物-药物关系抽取任务指自动抽取同一句内两种药物之间存在的相互作用。不同于传统关系抽取任务,该任务句子长度长、修饰词多、结构复杂,包含许多冗余信息,增加了实体关系抽取的难度。针对该问题,本文提出了一种融合依存信息注意力机制的药物关系抽取模型,使用注意力机制对原句的语义信息和最短依存路径的句法信息进行融合,即从句法结构的角度衡量句子中各部分对于实体间关系的重要性,捕捉句中对实体间关系有用的信息,并结合SCIBert预训练语言模型编码词向量,在DDIExtraction2013语料上进行了实验评估,模型F值为81.76%,达到目前最好性能。药物-疾病关系抽取任务指自动抽取文章中药物诱发疾病的实体间关系。相比于句内关系抽取,其特点在于1.篇章级关系抽取任务存在许多跨句的实体间关系。2.同一实体在文中可能出现多次并存在多种不同的表示方式,即实体存在多个提及。现有研究方法对于远距离上下文语义的学习能力不佳,其次融合多个实体提及的方式可能会导致信息丢失。因此,本文提出了基于多注意力机制学习全局语义表示的篇章级关系抽取模型,设计全局上下文感知注意机制来获取整篇文章的全局语义,同时利用全局实体感知注意机制来融合目标实体所有提及对的信息。我们的模型在BioCreAtIvE V CDR数据集上实验验证,模型F值为60.1%,其中句内和句间关系抽取F值分别为65.5%和42.9%。综上所述,针对不同文本粒度关系抽取任务的特点,本文提出融合依存信息注意力机制的句子级关系抽取模型和学习篇章全局语义表示的篇章级关系抽取模型,分别在DDIExtraction2013和BioCreAtIvE V CDR数据集上实验验证了本文模型的有效性。

关键词：药物-药物关系抽取药物-疾病关系抽取依存信息全局语义表示注意力机制

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于组合核函数的蛋白质交互关系抽取

基于组合核函数的蛋白质交互关系抽取

作者：刘洋大连理工大学

学位级别：硕士

蛋白质交互关系（PPI）抽取是生物医学信息抽取领域的一个重要部分,具有很高的应用价值和实际意义。从语言学角度来分析,通常一个句子中包含拼写信息、词法信息、词信息、句法信息、语义信息和语法信息等。判断目标蛋白质对是否存在关... 详细信息

蛋白质交互关系（PPI）抽取是生物医学信息抽取领域的一个重要部分,具有很高的应用价值和实际意义。从语言学角度来分析,通常一个句子中包含拼写信息、词法信息、词信息、句法信息、语义信息和语法信息等。判断目标蛋白质对是否存在关系和这对蛋白质所在实例所蕴含的各种语言学信息紧密相关,如何使用尽可能多的语言学信息来提升PPI抽取的精度是我们的研究重点。因此本文提出一种将多种核函数融合的方法进行蛋白质交互关系抽取。首先将基于特征的平面核和基于结构的卷积树核组合。卷积树核是通过计算两棵树之间的公共子树个数来计算相似度。一棵完整的句法解析树中包含了较多噪声,需对其修剪以提高PPI抽取效果。首先讨论不同的树的剪裁策略对实验结果的影响,分别使用完全树、最小完全树、最小树和最短路径闭包树进行实验,最短路径闭包树效果最好;然后在最短路径闭包树的基础上提出一种动态拓展树,该树取得了明显优于其它解析树的效果。最后基于组合核在AIMeD上进行10倍交叉实验,精确率、召回率和F值分别达到了82.40%、51.30%和63.23%。然后使用语义核进行蛋白质关系抽取。语义核包含两部分内容：1)蛋白质对语义相似度（Protein Pair Similarity）;2)上下文语义相似度（Context Semantic Similarity）。蛋白质对语义相似度计算是将蛋白质名称映射到MeSH主题词表中,通过计算两个蛋白质在MeSH中的位置和共用的信息多少来衡量其语义相似度。上下文语义相似度计算是使用WordNet计算两个句子间的相似程度。实验证明语义核对PPI抽取有较好的效果。最后将特征核、树核、语义核组合,由于包含了丰富的词信息、精准句法信息和全面的语义信息,使用其在AIMeD语料上抽取蛋白质交互关系,F值达到了69.46%,优于其他先进的蛋白质交互关系抽取系统。

关键词：蛋白质交互关系抽取 SVM 树核语义核组合核

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的生物医学命名实体识别研究

基于深度学习的生物医学命名实体识别研究

作者：姜宇新大连理工大学

学位级别：硕士

生物医学命名实体识别作为生物信息抽取领域的基础性任务,是生物实体关系抽取、事件抽取等任务的先决条件。目前生物医学命名实体识别任务采用的主流方法是基于深度学习的方法,其可以避免复杂的语言学分析,从而减低人工特征工程的代价... 详细信息

生物医学命名实体识别作为生物信息抽取领域的基础性任务,是生物实体关系抽取、事件抽取等任务的先决条件。目前生物医学命名实体识别任务采用的主流方法是基于深度学习的方法,其可以避免复杂的语言学分析,从而减低人工特征工程的代价。然而,现有的基于神经网络方法的识别性能并没有达到最优的浅层机器学习效果。因此如何利用深度学习方法提升生物医学命名实体识别任务的性能是本文的主要研究内容。为了避免传统的神经网络框架忽略一些潜在的单词级别与句子级别的语义信息,本文提出了一个整合双通道与句子级读入控制门的新LSTM框架。在输入部分,增加双通道分别获取来自静态词向量和微调词向量的两种语义信息。然后,在神经网络内部整合了读入控制门来决定句子表示向量的传播情况。最后,在输出标记时利用CRF模型充分考虑上下文单词的类型间的依赖关系。在BioCreative II GM语料上取得了89.49%的F值。虽然在输入部分整合双通道可以考虑更加丰富的语义信息,但在语料中出现未登录词时还存在一定的问题。因此,本文在整合句子级读入控制门的基础上,考虑了字符级词向量与语言模型。在输入部分加入字符级词向量更准确的刻画单词本身的拼写信息,并基于注意力机制对字符级词向量与原始词向量进行组合作为网络的最终输入。同时,将语言模型集成至神经网络框架中,充分利用所有训练数据来学习语义和句法组成的一般特征表示。然后,神经网络可以通过语言模型学习到的特征表示来更准确地预测单词的标记。最后,在Bio Creative II GM语料上的F值为89.94%,优于现存的所有系统,并在JNLPBA语料上取得了74.80%的F值,也达到了令人满意的效果。综上,本文应用了两种深度学习方法提升生物医学命名实体识别任务的性能。最后,在没有加入任何人工特征与后处理操作的情况下,本文在BioCreative II GM语料上取得了89.94%的F值,并且比目前最好系统的F值提高了0.89%。

关键词：生物医学命名实体识别深度学习双通道读入控制门语言模型

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的事件及其时序关系抽取的研究

基于深度学习的事件及其时序关系抽取的研究

作者：黄梦佐大连理工大学

学位级别：硕士

作为信息抽取的重要组成部分,事件抽取旨在从大量的非结构化的自然语言文本中提取事件;事件时序关系识别则为事件抽取的下游任务,它致力于识别提取出来的事件之间的时序关系,挖掘事件之间的事理逻辑。事件包含事件触发词与事件要素两部... 详细信息

作为信息抽取的重要组成部分,事件抽取旨在从大量的非结构化的自然语言文本中提取事件;事件时序关系识别则为事件抽取的下游任务,它致力于识别提取出来的事件之间的时序关系,挖掘事件之间的事理逻辑。事件包含事件触发词与事件要素两部分,触发词标识了事件的发生与类型,要素则为事件的主要参与者,通用的事件抽取方法一般首先识别事件的触发词,然后识别特定于各个事件的要素。而通用的事件时序关系识别方法一般只考虑事件的触发词,识别文本中两个触发词之间的时序关系。在事件抽取任务上,本文针对现有的方法对句子信息编码不充分的问题,提出了一种层次蒸馏网络（Hierarchical Distillation Network,HDN）模型来获取语义丰富的句子表示,再分别通过序列标注和成对分类的手段来预测句子中的事件。具体地说,HDN融合了一个循环神经网络（Recurrent Neural Network,RNN）模块用于提取句子的序列信息,若干个图卷积神经网络（Graph Convolutional Network,GCN）模块用于提取句子的多阶句法信息,同时还基于双向注意力机制设计了一个蒸馏模块来减少层级编码之间的信息冗余。在实验阶段,本文分别在两个常用事件抽取数据集:ACE 2005和MLEE上测试了模型的性能,实验结果表明,提出的模型较之前最好的模型在事件抽取的结果上均获得了显著提升。在事件的时序关系抽取任务上,本文针对现有方法存在的（1）事件对的特征构造方式单一（2）整数线性规划（Integer Linear Programming,ILP）与神经网络的训练过程割裂等问题,提出了一种逻辑驱动的深度对比网络（Logic-driven Deep Comparison Network,LDCN）模型来进行时序关系的识别。LDCN不仅使用了表征能力强的HDN作为句子编码器,还分别从可交换特征和不可交换特征的角度来增强事件对之间的特征表示,最后引入了可微的逻辑驱动训练框架,使得模型在训练过程中可以充分考虑时序关系之间的逻辑一致性。在实验阶段,本文分别在两个常用的事件时序识别数据集:Time BankDense和MATRES上测试了模型的性能,实验结果表明,提出的模型较之前最好的模型在时序关系抽取的结果上均获得了显著提升。

关键词：事件抽取事件时序关系抽取层次蒸馏网络逻辑驱动深度对比网络