检索结果-南通市图书馆

基于深度学习的英—中跨语言摘要关键技术研究

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于深度学习的英—中跨语言摘要关键技术研究

作者：潘航宇战略支援部队信息工程大学

学位级别：硕士

互联网的蓬勃发展使人们比以往任何时候都更容易获取信息。随着大数据时代的到来,文本资源呈指数级增长。然而,海量文本中包含的冗余和无效信息愈发增多,人们反而难以及时有效地获取有用信息。跨语言摘要能够将陌生语言的文本总结为人... 详细信息

互联网的蓬勃发展使人们比以往任何时候都更容易获取信息。随着大数据时代的到来,文本资源呈指数级增长。然而,海量文本中包含的冗余和无效信息愈发增多,人们反而难以及时有效地获取有用信息。跨语言摘要能够将陌生语言的文本总结为人们所熟悉语言的摘要,便于人们准确、高效地获取陌生语言文本中的主要信息。鉴于英语是当前世界上使用范围最广泛的语言,本文重点研究了英-中跨语言摘要关键技术。目前,跨语言摘要的主流方法多采用深度学习技术,而基于深度学习的英-中跨语言摘要研究至少存在以下三方面问题:数据集质量低下且规模不足;模型的语义理解、跨语言对齐以及文本生成能力不高;传统目标函数仅依赖字符统计信息,而忽略了语义信息对训练的指导意义。针对上述三方面问题,本文分别进行了研究和改进,主要完成了以下工作:1.针对数据集质量低下且规模不足的问题,提出了一种基于过滤和文本增强的跨语言摘要数据集构建方法。首先,采用多策略过滤算法,从字符和语义角度去除单语言摘要数据集的低质量样本,提高数据源质量;然后,使用基于源端翻译的转换法,通过可靠的机器翻译系统将单语言摘要数据集转换为跨语言摘要数据集,形成初始数据集;最后,运用基于预训练模型的文本增强算法,通过自注意力机制和掩码语言模型产生跨语言摘要样本对,在保证质量的前提下扩大数据集规模。对构建过程和结果的综合评估表明,该方法能够以较低成本获得质量高且规模大的英-中跨语言摘要数据集。此外,在两个跨语言摘要基准集的实验中,三个基线模型中的最优模型经基于预训练模型的文本增强算法优化后,将ROUGE-1值分别提升了2.06%、2.04%,ROUGE-2值分别提升了4.23%、2.18%,ROUGE-L值分别提升了4.65%、2.05%,这表明该算法能够提升模型的跨语言摘要性能。2.针对模型的语义理解、跨语言对齐以及文本生成能力不高的问题,提出了一个基于多阶段训练的英-中跨语言摘要模型。首先,进行多语言去噪预训练,同时学习中、英文的通用语言知识并获得良好的初始化参数;然后,进行多语言机器翻译微调,同时学习对英文的语义理解能力、从英文到中文的跨语言对齐能力以及对中文的文本生成能力;最后,进行跨语言摘要微调,进一步学习特定于跨语言摘要任务的语义理解、跨语言对齐以及文本生成能力。实验结果表明该模型的跨语言摘要性能较好,且多语言去噪预训练和多语言机器翻译均可提高模型的跨语言摘要性能。与三个基线模型中的最优性能相比,该模型在两个英-中跨语言摘要数据集上将ROUGE-1值分别提升了79.65%、78.05%,ROUGE-2值分别提升了108.54%、147.37%,ROUGE-L值分别提升了84.05%、81.44%。3.针对传统目标函数仅依赖字符统计信息,而忽略了语义信息对训练的指导意义的问题,提出了一种语义融合目标函数,并基于该目标函数完成了跨语言摘要模型训练。首先,基于BERT模型设计一种单语言语义相似度fast BERTScore,并将其作为单语言语义目标函数;然后,基于XLM-Ro BERTa模型设计一种跨语言语义相似度XLMRo BERTa Score,并将其作为跨语言语义目标函数;最后,将两种语义目标函数与跨语言摘要的传统目标函数融合,得到语义融合目标函数,实现通过文本字符的具象监督信息和文本语义的抽象监督信息共同指导训练。实验结果表明该目标函数能够有效提升模型的跨语言摘要性能。在两个英-中跨语言摘要数据集的实验中,五个基线模型中的最优模型采用该目标函数进行训练后,与在传统目标函数上的训练结果相比,ROUGE-1值分别提升了1.81%、2.12%,ROUGE-2值分别提升了2.23%、8.14%,ROUGE-L值分别提升了2.49%、3.02%。

关键词：跨语言摘要深度学习数据集构建多阶段训练语义融合目标函数

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的实体关系联合抽取方法研究

基于深度学习的实体关系联合抽取方法研究

作者：潘航宇吉林大学

学位级别：硕士

命名实体识别和关系抽取是文本挖掘领域中的两个非常重要的基础任务。传统的研究方法是用管道模型分两步处理任务,即先进行命名实体识别,后进行关系抽取,虽然管道模型可以灵活的设计整个系统,但处理过程中不可避免的存在两个问题:1)割... 详细信息

命名实体识别和关系抽取是文本挖掘领域中的两个非常重要的基础任务。传统的研究方法是用管道模型分两步处理任务,即先进行命名实体识别,后进行关系抽取,虽然管道模型可以灵活的设计整个系统,但处理过程中不可避免的存在两个问题:1)割裂了命名实体识别和关系抽取两个任务之间的内在联系,舍弃了一些子任务之间有用的信息。2)误差传播,即当上游的命名实体识别任务出现误差时,会无差别无反馈地传递给关系抽取任务,对整个系统的准确率表现产生影响。为克服管道模型的上述问题,也有研究者开发了命名实体识别和关系抽取同时进行的联合模型。传统的联合模型一般严重依赖特征工程,另外许多模型往往只检查关系抽取的实体对,而不是直接对整个句子进行建模,从而无法推断同一句中的多对实体和关系。之前的联合抽取工作大多是基于词嵌入的表示进行的,由于传统的词嵌入无法解决多义词中各个义项表示的问题,模型训练效果也必然受到影响。为解决词嵌入的问题,近年来提出了基于预训练的文本表示,其中,以BERT模型最为出众,其充分结合了前人工作的优点,提出基于Transformer的双向编码器表示模型,获得了非常惊艳的效果。本文中使用基于预训练的BERT模型作为我们的文本表示,提出了一种新的命名实体识别和关系抽取联合框架。此前的模型依赖于特征,模型准确性受提取的特征影响,我们的模型可以自动学习特征,不受外部条件限制。我们的模型将命名实体识别看作序列标注问题,用CRF层获取全局最优的输出序列,对于关系抽取任务,通过sigmoid层,预测两个实体之间是否具备关系以及它们之间的关系类型,并且还能识别句子可能存在的多对关系。在训练过程中,将命名实体识别和关系抽取两个任务的损失函数之和作为最终的损失函数进行优化,实现命名实体识别和关系抽取的联合模型。最后还使用了序列模式的方法对结果进行了修正。实验结果表明,我们的模型优于之前自动提取特征的神经网络模型,与基于特征的神经网络模型相比表现仍然不错。

关键词：命名实体识别关系抽取联合模型 BERT

蜗壳周向流动非均匀性对可调向心涡轮性能的影响

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

内燃机学报 2015年第3期33卷 265-271页

作者：邢世凯马朝臣胡辽平潘航宇高建兵北京理工大学机械与车辆学院北京100081 河北师范大学职业技术学院河北石家庄050024 湖南天雁机械有限责任公司湖南衡阳421005

基于蜗壳周向流动不均匀的特性,建立增压器涡轮级全周计算模型,并与试验数据进行对比,验证数值计算结果的有效性.在此基础上,根据试验数据确定边界条件进行三维黏性数值计算,重点探讨蜗壳周向流动非均匀性对可调向心涡轮内部流场的影响... 详细信息

基于蜗壳周向流动不均匀的特性,建立增压器涡轮级全周计算模型,并与试验数据进行对比,验证数值计算结果的有效性.在此基础上,根据试验数据确定边界条件进行三维黏性数值计算,重点探讨蜗壳周向流动非均匀性对可调向心涡轮内部流场的影响.计算结果表明:该增压器蜗壳周向流动的非均匀性导致导叶和叶轮内部的流场分布出现周向不均匀的特性,即导叶入口气流角周向分布变化较大,叶轮各叶片负荷和各通道流量均呈现周向分布不均匀的特点.个别叶片负荷突变,有可能诱发叶片振动,降低涡轮使用寿命.

关键词：导流叶片可调涡轮蜗壳流动非均匀性径向涡轮内部流场数值模拟

项目经理EAP管理的实证研究——以南宁市建筑业项目经理为例

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

中国集体经济 2009年第12S期 122-123页

作者：姚丽霞潘航宇浙江工商大学

随着社会的不断发展,压力管理日渐成为企业关注的焦点,而员工援助计划被认为是压力管理的最有效途径。如何在企业中进行员工援助计划便成为保障员工心理健康,促进企业不断发展的关键问题。文章选取项目经理这一职业作为研究对象,通过问... 详细信息

随着社会的不断发展,压力管理日渐成为企业关注的焦点,而员工援助计划被认为是压力管理的最有效途径。如何在企业中进行员工援助计划便成为保障员工心理健康,促进企业不断发展的关键问题。文章选取项目经理这一职业作为研究对象,通过问卷调查的形式研究EAP管理对项目经理压力的影响。通过对调查结果的统计分析,认为先期预防和加强对项目经理自身的应对能力都能收到较好效果。

关键词：压力管理员工援助计划心理健康

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

跨语言摘要研究综述

小型微型计算机系统 2023年第8期44卷 1616-1628页

作者：潘航宇席耀一陈宇飞曹蓉南煜战略支援部队信息工程大学郑州450001

跨语言摘要能将一种语言的文本总结为另一种语言的摘要,旨在帮助人们快速准确地获取陌生语言文本的关键信息.目前,针对该研究的全面综述工作十分稀缺.因此,本文回顾跨语言摘要的研究发展,在全面调研和深入分析的基础上,从研究方法、数... 详细信息

跨语言摘要能将一种语言的文本总结为另一种语言的摘要,旨在帮助人们快速准确地获取陌生语言文本的关键信息.目前,针对该研究的全面综述工作十分稀缺.因此,本文回顾跨语言摘要的研究发展,在全面调研和深入分析的基础上,从研究方法、数据集、评价方法以及未来方向等4个方面对跨语言摘要的研究工作展开综述.首先,全面梳理了现有跨语言摘要方法,概括为“先翻译后摘要”、“先摘要后翻译”、间接学习方法、辅助学习方法以及特征增强方法等5大类,并进行了优缺点分析.其次,归纳和分析了跨语言摘要数据集的构建方法,并对现有数据集进行了详尽整理.然后,系统地总结和分析了跨语言摘要评价方法.最后,进一步讨论了未来研究方向.

关键词：跨语言摘要方法模型数据集评价方法未来研究方向