检索结果-南通市图书馆

面向低资源语言机器翻译的平行语料句对齐评分

在线全文

学校读者我要写书评

暂无评论

数据分析与知识发现 2024年

作者：李林霞陈波周毛克赵小兵中央民族大学中国少数民族语言文学学院中央民族大学国家语言资源监测与研究少数民族语言中心中央民族大学信息工程学院

[目的]量化低资源语言平行语料的句对齐评分，获取高质量平行语料，提升机器翻译的性能。[方法]提出基于神经网络的无监督句嵌入双语平行语料句对齐评分方法NeuroAlign：将平行句对嵌入至同一向量空间，计算平行语料中给定候选句对的对... 详细信息

[目的]量化低资源语言平行语料的句对齐评分，获取高质量平行语料，提升机器翻译的性能。[方法]提出基于神经网络的无监督句嵌入双语平行语料句对齐评分方法NeuroAlign：将平行句对嵌入至同一向量空间，计算平行语料中给定候选句对的对齐评分，然后根据评分排序过滤分值较低的平行句对，获得高质量的低资源语言双语平行语料。[结果]BUCC2018平行文本挖掘任务中F1值可提升0.5-0.8；CCMT2021低资源语言神经机器翻译中BLEU值可提升0.1-10.9；句对齐评分可接近人工评分。[局限]限于低资源双语平行语料的资源匮乏，未在藏汉、维汉、蒙汉以外的语言对上进行探索研究。[结论]可以有效应用至低资源语言平行语料的句对齐评分，从数据源端提升语料质量，进而改进机器翻译的效果。

关键词：机器翻译低资源语言平行语料句对齐评分

融合多粒度特征的低资源语言词性标注和依存分析联合模型

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

中文信息学报 2023年第7期37卷 13-22页

作者：陆杉毛存礼余正涛高盛祥黄于欣王振晗昆明理工大学信息工程与自动化学院云南昆明650500 昆明理工大学云南省人工智能重点实验室云南昆明650500

研究低资源语言的词性标注和依存分析对推动低资源自然语言处理任务有着重要的作用。针对低资源语言词嵌入表示,已有工作并没有充分利用字符、子词层面信息编码,导致模型无法利用不同粒度的特征。对此,该文提出融合多粒度特征的词嵌入表... 详细信息

研究低资源语言的词性标注和依存分析对推动低资源自然语言处理任务有着重要的作用。针对低资源语言词嵌入表示,已有工作并没有充分利用字符、子词层面信息编码,导致模型无法利用不同粒度的特征。对此,该文提出融合多粒度特征的词嵌入表示,利用不同的语言模型分别获得字符、子词以及词语层面的语义信息,将三种粒度的词嵌入进行拼接,达到丰富语义信息的目的,缓解由于标注数据稀缺导致的依存分析模型性能不佳的问题。进一步将词性标注和依存分析模型进行联合训练,使模型之间能相互共享知识,降低词性标注错误在依存分析任务上的线性传递。以泰语、越南语为研究对象,在宾州树库数据集上的试验表明,该文方法相比于基线模型的UAS、LAS、POS均有明显提升。

关键词：低资源语言词性标注依存分析多粒度特征联合模型

我国低资源语言大规模数据建构及语言田野实践的数据转向

在线全文

学校读者我要写书评

暂无评论

云南师范大学学报（哲学社会科学版） 2023年第6期55卷 25-35页

作者：范俊军沐华暨南大学文学院广东广州510632 楚雄师范学院语言文化学院云南楚雄675099

低资源语言是指缺乏可用于自然语言处理任务和语言学计量分析所需足够基础数据的语言。低资源语言数据稀缺,是当前语言科学和自然语言处理共同面临的问题。语言数据资源最基础的部分是单语或双语词汇、语句的语音和文本数据。我国普通... 详细信息

低资源语言是指缺乏可用于自然语言处理任务和语言学计量分析所需足够基础数据的语言。低资源语言数据稀缺,是当前语言科学和自然语言处理共同面临的问题。语言数据资源最基础的部分是单语或双语词汇、语句的语音和文本数据。我国普通话、粤方言、藏语、维吾尔语、蒙古语、壮语总体属于高资源语言,其他语言都属于低资源语言,其中县乡语言和方言属零资源语言。建构我国低资源语言的大规模数据,有助于强化我们掌握自己国家语言资源的控制权,发挥我国自然语言处理领域在语言模型技术创新中的独特作用,推动语言田野工作的数据转向,创新田野语言学理论和实践,促进基于数据计量的语言学广域研究。建构我国低资源语言数据,主要有四项任务:一是建构大规模词语数据集,二是建构知识语义词网,三是建构大规模句子数据集,四是现有语言资料的数据化。

关键词：低资源语言少数民族语言自然语言处理(NLP) 田野语言学

在线全文

学校读者我要写书评

暂无评论

基于迁移学习的低资源语言机器阅读理解

基于迁移学习的低资源语言机器阅读理解

作者：吴林娟天津大学

学位级别：硕士

机器阅读理解任务通过给定段落以及相关问题,期望机器从段落中抽取连续跨度作为答案返回。这类抽取式机器阅读理解任务在丰富资源语言(例如英语)上发展迅速,但由于训练语料的缺失和数据标注的困难,低资源语言机器阅读理解受到限制。随... 详细信息

机器阅读理解任务通过给定段落以及相关问题,期望机器从段落中抽取连续跨度作为答案返回。这类抽取式机器阅读理解任务在丰富资源语言(例如英语)上发展迅速,但由于训练语料的缺失和数据标注的困难,低资源语言机器阅读理解受到限制。随着预训练语言模型的发展,基于多语言预训练模型的迁移学习方法在低资源语言机器阅读理解任务上取得了突破性进展。然而,跨语言迁移学习只能大致定位答案所在的位置,无法获得准确答案跨度。现有方法关注答案跨度特性、任务级语义对齐和迁移知识后处理等方面提升低资源语言答案跨度检测准确性,却忽略了在迁移过程中由于语言间句法差异带来的问题:基于跨语言迁移学习获得的目标语言答案跨度不符合语言的句法约束。句法信息有助于机器对语义的理解,然而利用复杂多样的多语言句法提升低资源语言机器阅读理解是具有挑战的。针对以上挑战,本文从多语言预训练模型中已掌握的句法知识对迁移的影响出发,提出基于多语言语义解耦表示的机器阅读理解模型,并进一步探究预训练模型中句法知识对跨语言机器阅读理解产生影响的原因。首先,通过实验说明目标语言答案跨度和句法约束一致性比例下降的问题,创新地提出了一种基于多语言语义解耦表示的机器阅读理解模型。面向多语言句法多样性和互异性带来的挑战,提出孪生网络解耦模型,将多语言预训练表示中的语义和复杂句法解纠缠,通过仅迁移解耦语义来减少句法差异造成的消极影响,提升了低资源语言阅读理解的有效性和泛化性。其次,经过进一步实验探索发现,多语言预训练模型中原有的句法信息在微调过程出现丢失现象。而答案跨度大部分是由一个或多个句法成分构成,句法信息的丢失可能是影响目标语言不符合句法约束的原因之一。本文通过引入句法图预测任务,与阅读理解任务共同训练,提升多语言句法表达,并指导目标语言检测出更准确的答案跨度边界。最后,本文对提出的模型设计了大量对比实验。在三个公开多语言阅读理解数据集上,基于两个典型的多语言预训练模型(mBERT和XLM-100)实验,结果表明本文所提出的模型在所有低资源目标语言上都取得了优异的性能,且提升了目标语言答案跨度和句法约束的一致性。通过消融和分析实验证明了解耦模型以及句法图预测任务对于低资源语言阅读理解的有效性和泛化性。

关键词：机器阅读理解低资源语言跨语言迁移预训练模型句法结构

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

低资源语言神经机器翻译关键技术研究

低资源语言神经机器翻译关键技术研究

作者：赖文中央民族大学

学位级别：硕士

机器翻译,研究如何利用计算机自动地实现不同语言之间的相互转化,是自然语言处理的重要研究方向之一。近年来,随着深度神经网络技术的飞速发展,学术界和工业界的机器翻译研究也逐渐从传统的统计机器翻译向神经机器翻译转化。经过大规模... 详细信息

机器翻译,研究如何利用计算机自动地实现不同语言之间的相互转化,是自然语言处理的重要研究方向之一。近年来,随着深度神经网络技术的飞速发展,学术界和工业界的机器翻译研究也逐渐从传统的统计机器翻译向神经机器翻译转化。经过大规模、高质量的平行语料训练,神经机器翻译的性能在多个翻译任务中都达到了媲美人类手工翻译的水平。但除英语、汉语等少数语言外,世界上大多数语言对之间都不存在大规模的平行语料,属低资源语言,这给神经机器翻译和应用研究带来了新的课题。本文旨在探索神经机器翻译技术在低资源语言场景下的应用,为此分别研究了三种情况下汉语与“一带一路”部分国家语言和我国少数民族语言之间的机器翻译技术。本文的主要贡献包括:☆针对低资源语言神经机器翻译中的数据匮乏问题,本文在拥有少数平行语料的前提下,结合语料对齐和语法纠错等技术,提出了一种基于语义相关词替换策略的数据增强方法,通过自动增加平行语料的数量以达到提升神经机器翻译性能的目标。实验结果表明,该方法在蒙古语、藏语、维吾尔语和阿拉伯语与汉语之间的翻译任务中取得了很好的性能,最高有3.06个BLEU点的提升。☆针对一些语言对之间不存在平行语料的问题,本文分别利用两种语言的大规模单语数据,结合双语平行语料挖掘技术和跨语言词嵌入技术,提出了一种不依赖于任何平行语料的无监督神经机器翻译模型,本文实验的语言对包括:阿拉伯语、俄语、葡萄牙语、印度语与汉语之间的机器翻译任务。实验结果表明,该方法可以在一定程度上提升无监督神经机器翻译任务的性能,最高有5.19个BLEU点的提升。☆针对一些语言与汉语之间不存在平行语料,但与英语存在平行语料的情况,本文利用英语作为枢轴语言,结合对偶学习模型和模型融合思想,提出了一种基于枢轴语言（英语）的神经机器翻译模型,扩大了神经机器翻译的适用范围。实验结果表明,该方法在爱沙尼亚语、拉脱维亚语及罗马尼亚语与汉语之间的机器翻译任务中的性能有明显提升,相比于传统的基于语料翻译的方法,最多有16.31个BLEU点的提升。通过在“一带一路”沿线国家和我国少数民族语言选取的10种语言与汉语之间进行的机器翻译实验表明,我们提出的三种方法和目前的机器翻译方法相比较,均取得了不同程度的翻译性能的提升。同时,为了与当前相关技术做比较,我们还在一些资源丰富语言及近距离语言对中进行实验,也验证了本文提出方法的有效性。

关键词：神经机器翻译低资源语言数据增强技术无监督技术枢轴语言

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向机器阅读理解的高质量藏语数据集构建

中文信息学报 2024年第3期38卷 56-64页

作者：孙媛刘思思陈超凡旦正错赵小兵中央民族大学信息工程学院北京100081 国家语言资源监测与研究少数民族语言中心北京100081 民族语言智能分析与安全冶理教育部重点实验室北京100081

机器阅读理解是通过算法让机器根据给定的上下文回答问题,从而测试机器理解自然语言的程度。其中,数据集的构建是机器阅读理解的主要任务之一。目前,相关算法模型在大多数流行的英语数据集上都取得了显著的成绩,甚至超过了人类表现。但... 详细信息

机器阅读理解是通过算法让机器根据给定的上下文回答问题,从而测试机器理解自然语言的程度。其中,数据集的构建是机器阅读理解的主要任务之一。目前,相关算法模型在大多数流行的英语数据集上都取得了显著的成绩,甚至超过了人类表现。但对于低资源语言,由于缺乏相应的数据集,机器阅读理解研究尚处于起步阶段。该文以藏语为例,人工构建了藏语机器阅读理解数据集(TibetanQA),其中包含20000个问题答案对和1513篇文章。该数据集的文章均来自云藏网,涵盖了自然、文化和教育等12个领域,问题形式多样且具有一定的难度。另外,该数据集在文章收集、问题构建、答案验证、回答多样性和推理能力等方面,均采用严格的流程以确保数据的质量,同时采用基于语言特征消融输入的验证方法说明了数据集的质量。最后,该文初步探索了三种经典的英语阅读理解模型在TibetanQA数据集上的表现,其结果难以媲美人类,这表明藏语机器阅读理解任务还需要更进一步的探索。

关键词：机器阅读理解低资源语言藏语数据集

在线全文

学校读者我要写书评

暂无评论

基于强化语言关联的中缅越跨语言摘要研究

计算机工程 2024年

作者：何志磊高盛祥朱恩昌余正涛昆明理工大学信息工程与自动化学院昆明理工大学云南省人工智能重点实验室

（CLS）旨在用目标语言（例如中文）的文本对源语言（例如缅甸语）的文本核心内容进行概括和总结。CLS实质上是机器翻译和单语摘要的联合任务，需要模型同时具备这两方面的能力。在面向越南语、缅甸语等低资源语言场景下，跨语言摘要训... 详细信息

（CLS）旨在用目标语言（例如中文）的文本对源语言（例如缅甸语）的文本核心内容进行概括和总结。CLS实质上是机器翻译和单语摘要的联合任务，需要模型同时具备这两方面的能力。在面向越南语、缅甸语等低资源语言场景下，跨语言摘要训练数据稀缺，且中文和缅甸语、越南语属于不同的语系，语言差异较大，导致当前的跨语言摘要方法泛化性较差。基于此，以缅-中，越-中为研究对象，提出了语言关系增强的跨语言摘要方法，该方法首先将输入序列转化为连续的词对，然后，计算源语言和目标语言之间的这些连续词对之间的关系；最后，引入机器翻译和单语摘要的联合训练方法，有效地捕捉目标语言和源语言之间的关系，提高模型的泛化性和对连续文本的处理能力。在自建数据集上进行广泛的实验，相较于其他基线模型，研究提出的方法在ROUGE-1、ROUGE-2和ROUGE-L评价指标上分别提升了5%、1%和4%。

关键词：跨语言摘要低资源语言语言差异连续文本泛化性

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

低资源语音识别研究进展

昆明理工大学学报(自然科学版) 2024年第3期 86-102页

作者：余正涛董凌高盛祥昆明理工大学信息工程与自动化学院云南省人工智能重点实验室

探讨低资源语音识别领域最新研究进展，旨在为未来研究和应用提供有益参考.首先，简要回顾了语音识别的发展过程，并介绍了当前主流端到端语音识别框架的基本原理.其次，针对低资源语音识别面临的问题，详细分析了在语音数据增强、自监... 详细信息

探讨低资源语音识别领域最新研究进展，旨在为未来研究和应用提供有益参考.首先，简要回顾了语音识别的发展过程，并介绍了当前主流端到端语音识别框架的基本原理.其次，针对低资源语音识别面临的问题，详细分析了在语音数据增强、自监督语音表征学习、多语言联合学习、结合大语言模型以及语言知识增强5个方面的相关研究工作.最后，对低资源语音识别未来的研究方向进行了展望.

关键词：语音识别低资源语言数据增强语音表征学习大语言模型语言知识

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

服务21世纪海上丝绸之路的低资源语言处理

广东外语外贸大学学报 2018年第3期29卷 77-82页

作者：刘伍颖广东外语外贸大学语言工程与计算实验室广州510420

21世纪海上丝绸之路沿线区域分布着数量众多的非通用语言。这些非通用语言的资源稀缺性严重影响了自然语言处理的性能。针对低资源语言处理这个科学问题,提出了一种总体研究架构:该架构从低资源语言的资源规范标准化、语言数据结构化和... 详细信息

21世纪海上丝绸之路沿线区域分布着数量众多的非通用语言。这些非通用语言的资源稀缺性严重影响了自然语言处理的性能。针对低资源语言处理这个科学问题,提出了一种总体研究架构:该架构从低资源语言的资源规范标准化、语言数据结构化和语言计算形式化三个方面给出了系统的解决方案。在越南语、印尼语、马来语上的实验结果表明新研究架构是有效的。

关键词：低资源语言自然语言处理非通用语言 21世纪海上丝绸之路