检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

一种消减多模态偏见的鲁棒视觉问答方法

北京大学学报（自然科学版） 2024年第1期60卷 23-33页

作者：张丰硕李豫李向前徐金安陈钰枫北京交通大学计算机与信息技术学院北京100044

为了增强视觉问答模型的鲁棒性,提出一种偏见消减方法,并在此基础上探究语言与视觉信息对偏见的影响。进一步地,构造两个偏见学习分支来分别捕获语言偏见以及语言和图片共同导致的偏见,利用偏见消减方法,得到鲁棒性更强的预测结果。最后... 详细信息

为了增强视觉问答模型的鲁棒性,提出一种偏见消减方法,并在此基础上探究语言与视觉信息对偏见的影响。进一步地,构造两个偏见学习分支来分别捕获语言偏见以及语言和图片共同导致的偏见,利用偏见消减方法,得到鲁棒性更强的预测结果。最后,依据标准视觉问答与偏见分支之间的预测概率差异,对样本进行动态赋权,使模型针对不同偏见程度的样本动态地调节学习程度。在VQA-CP v2.0等数据集上的实验结果证明了所提方法的有效性,缓解了偏见对模型的影响。

关键词：视觉问答数据集偏差语言偏见深度学习

在线全文

学校读者我要写书评

暂无评论

专有名词增强的复述生成方法研究

计算机工程 2024年第3期50卷 98-105页

作者：张雪陈钰枫徐金安田凤占北京交通大学计算机与信息技术学院北京100044 北京天润融通科技股份有限公司北京100176

现有的中文复述生成模型在对包含专有名词的原句生成复述句时经常丢失原句中的专有名词,造成复述句的语义偏移,降低复述句的可用性,进而影响其在下游任务中的应用效果。为了解决这类问题,提出专有名词增强的复述生成方法。针对包含单个... 详细信息

现有的中文复述生成模型在对包含专有名词的原句生成复述句时经常丢失原句中的专有名词,造成复述句的语义偏移,降低复述句的可用性,进而影响其在下游任务中的应用效果。为了解决这类问题,提出专有名词增强的复述生成方法。针对包含单个专有名词的原句构建基于占位符的复述生成模型,通过将训练句对中的专有名词用占位符替换,训练模型对占位符的保留能力;针对包含多个专有名词的原句构建词汇约束的复述生成模型,通过将专有名词列表与原句拼接并进行区分,训练模型对多个专有名词的识别和复制能力,提高复述句对专有名词的保留率。此外,综合考虑语义一致性和表达多样性,提出参考句无关的复述句质量评价指标用来评估生成复述句的质量。以真实对话系统业务中的意图识别冷启动任务为下游任务,对比不同模型生成复述句的质量以及在意图识别任务上的准确率。实验结果表明,词汇约束的复述生成模型能够生成与原句语义一致且表达具有多样性的高质量复述语料,对应语料训练得到的意图识别模型准确率最高,相较于未考虑专有名词的复述模型,意图识别模型的准确率提高了5.38%。

关键词：复述生成语义偏移占位符词汇约束意图识别

在线全文

学校读者我要写书评

暂无评论

基于子句单元的异构图网络抽取式文本摘要

中文信息学报 2024年第6期 119-128页

作者：林群凯陈钰枫徐金安张玉洁刘健北京交通大学交通数据分析与挖掘北京市重点实验室

的目标是将长文本进行压缩、归纳和总结，从而形成具有概括性含义的短文本，其能帮助人们快速获取文档的主要信息。当前大多数的抽取式文本摘要的研究都是以整句作为抽取单元，而整句作为抽取单元会引入冗余信息，因此该文考虑使用粒度... 详细信息

的目标是将长文本进行压缩、归纳和总结，从而形成具有概括性含义的短文本，其能帮助人们快速获取文档的主要信息。当前大多数的抽取式文本摘要的研究都是以整句作为抽取单元，而整句作为抽取单元会引入冗余信息，因此该文考虑使用粒度更细的抽取单元。已有研究表明，细粒度的子句单元比整句单元在抽取式摘要上更具有优势。结合当下热门的图神经网络，该文提出了一种基于子句单元异构图网络的抽取式摘要模型，有效融合了词、实体和子句单元等不同层次的语言信息，能够实现更细粒度的抽取式摘要。在大规模基准语料库(CNN/DM和NYT)上的实验结果表明，该模型产生了突破性的性能并优于以前的抽取式摘要模型。

关键词：子句异构图抽取式摘要

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

引入图像信息的多模态复述生成模型

北京大学学报（自然科学版） 2022年第1期58卷 45-53页

作者：马超万璋张玉洁徐金安陈钰枫北京交通大学计算机与信息技术学院北京100044

在商品描述、新闻评论等多模态场景下,已有复述生成模型只能围绕文本信息生成复述。为了解决其因无法利用图像信息而导致的语义丢失问题,提出多模态复述生成模型(multi-modalityparaphrasegeneration model,MPG)来引入图像信息,并用其... 详细信息

在商品描述、新闻评论等多模态场景下,已有复述生成模型只能围绕文本信息生成复述。为了解决其因无法利用图像信息而导致的语义丢失问题,提出多模态复述生成模型(multi-modalityparaphrasegeneration model,MPG)来引入图像信息,并用其生成复述。在MPG中,为了引入与原句对应的图像信息,首先根据原句构建抽象场景图,并将与原句相关联的图像区域特征转换为场景图的结点特征。进一步地,为了利用构建好的场景图来生成语义一致的复述句,使用关系图卷积神经网络和基于图的注意力机制对图结点特征进行编码和解码。在评测阶段,提出句对相似度计算方法,从MSCOCO数据集中筛选出描述图像中相同物体的句对,并将其作为复述测试集进行评测。实验结果显示,所提出的MPG模型生成的复述拥有更好的语义忠实度,表明在多模态场景下图像信息的引入对提高复述生成质量的有效性。

关键词：复述生成多模态抽象场景图注意力机制

在线全文

学校读者我要写书评

暂无评论

基于单词领域特征敏感的多领域神经机器翻译

北京大学学报（自然科学版） 2023年第1期59卷 1-10页

作者：黄增城满志博张玉洁徐金安陈钰枫北京交通大学计算机与信息技术学院北京100044

鉴于现有基于单词的领域特征学习方法在领域识别上的精度较低,为提高领域判别和提供准确的翻译,提出一种单词级别的领域特征敏感学习机制,包括两方面:1)编码器端的上下文特征编码,为了扩展单词级别的领域特征学习范围,引入卷积神经网络... 详细信息

鉴于现有基于单词的领域特征学习方法在领域识别上的精度较低,为提高领域判别和提供准确的翻译,提出一种单词级别的领域特征敏感学习机制,包括两方面:1)编码器端的上下文特征编码,为了扩展单词级别的领域特征学习范围,引入卷积神经网络,并行提取不同大小窗口的词串作为单词的上下文特征;2)强化的领域特征学习,设计基于多层感知机的领域判别器模块,增强从单词上下文特征中获取更准确领域比例的学习能力,提升单词的领域判别准确率。在多领域UM-Corpus英-汉和OPUS英-法翻译任务中的实验结果显示,所提方法平均BLEU值分别超过强基线模型0.82和1.06,单词的领域判别准确率比基线模型分别提升10.07%和18.06%。对实验结果的进一步分析表明,所提翻译模型性能的提升得益于所提出的单词领域特征敏感的学习机制。

关键词：多领域神经机器翻译领域特征敏感上下文特征领域判别

在线全文

学校读者我要写书评

暂无评论

融合小句对齐知识的汉英神经机器翻译

北京大学学报（自然科学版） 2022年第1期58卷 61-68页

作者：苗国义刘明童陈钰枫徐金安张玉洁冯文贺北京交通大学计算机与信息技术学院北京100044 创新工场人工智能工程院北京100080 广东外语外贸大学语言工程与计算实验室广州510420

针对当前神经机器翻译在捕捉复杂句内小句间的语义和结构关系方面存在不足,导致复杂句长文本翻译的篇章连贯性不佳的问题,提出一种融合小句对齐知识的汉英神经机器翻译方法。首先提出手工和自动相结合的标注方案,构建大规模小句对齐的... 详细信息

针对当前神经机器翻译在捕捉复杂句内小句间的语义和结构关系方面存在不足,导致复杂句长文本翻译的篇章连贯性不佳的问题,提出一种融合小句对齐知识的汉英神经机器翻译方法。首先提出手工和自动相结合的标注方案,构建大规模小句对齐的汉英平行语料库,为模型训练提供丰富的小句级别的汉英双语对齐知识;然后设计一种基于小句对齐学习的神经机器翻译模型,通过融合小句对齐知识,增强模型学习复杂句内小句间语义结构关系的能力。在WMT17,WMT18和WMT19汉英翻译任务中的实验表明,所提出的方法可以有效地提升神经机器翻译的性能。进一步的评测分析显示,所提方法能有效地提高汉英神经机器翻译在复杂句翻译上的篇章连贯性。

关键词：神经机器翻译小句对齐结构关系篇章连贯性

在线全文

学校读者我要写书评

暂无评论

探索低资源的迭代式复述生成增强方法

智能系统学报 2022年第4期17卷 680-687页

作者：张琳刘明童张玉洁徐金安陈钰枫北京交通大学计算机与信息技术学院北京100044

复述生成旨在同一语言内将给定句子转换成语义一致表达不同的句子。目前,基于深度神经网络的复述生成模型的成功依赖于大规模的复述平行语料,当面向新的语言或新的领域时,模型性能急剧下降。面对这一困境,提出低资源的迭代式复述生成增... 详细信息

复述生成旨在同一语言内将给定句子转换成语义一致表达不同的句子。目前,基于深度神经网络的复述生成模型的成功依赖于大规模的复述平行语料,当面向新的语言或新的领域时,模型性能急剧下降。面对这一困境,提出低资源的迭代式复述生成增强方法,最大化利用单语语料和小规模复述平行语料迭代式训练复述生成模型并生成复述伪数据,以此增强模型性能。此外,提出了句子流畅性、语义相近性和表达多样性为基准设计的伪数据筛选算法,选取高质量的复述伪数据参与每轮模型的迭代训练。在公开数据集Quora上的实验结果表明,提出的方法仅利用30%的复述语料在语义和多样性指标上均超过了基线模型,验证了所提方法的有效性。

关键词：低资源迭代式复述生成数据增强筛选算法神经网络模型编码–解码框架注意力机制

句法分析中基于词汇化树邻接语法的数据增强方法

在线全文

学校读者我要写书评

暂无评论

中文信息学报 2022年第10期36卷 27-37,44页

作者：陈鸿彬张玉洁徐金安陈钰枫北京交通大学计算机与信息技术学院北京100044

句法分析是自然语言处理的基础技术,主流的由数据驱动的神经网络句法分析模型需要大规模的标注数据,但是通过人工标注扩展树库成本很高,因此如何利用现有标注树库进行数据增强成为研究焦点。在汉语句法分析的数据增强任务中,对于给定的... 详细信息

句法分析是自然语言处理的基础技术,主流的由数据驱动的神经网络句法分析模型需要大规模的标注数据,但是通过人工标注扩展树库成本很高,因此如何利用现有标注树库进行数据增强成为研究焦点。在汉语句法分析的数据增强任务中,对于给定的标注树库,要求数据增强所生成的句子满足如下条件:第一,要求生成句具有多样化且完整的句法树结构;第二,要求生成句具有合理的语义。对此,我们首次提出基于词汇化树邻接语法的数据增强方法。针对第一个需求,该文设计实现基于词汇化树邻接语法的词汇化树抽取算法与句法树合成算法,基于该语法可以在句法树之间进行“接插”和“替换”的操作,从而推导生成新的句法树,并且用语言学的知识保证生成句符合语法规则且具有完整的句法树结构。针对第二个需求,该文利用语言模型对生成句进行语义合理性评估,选取语义合理的句子作为最终的增强数据,从而获取高质量的标注树库。我们以汉语为例开展研究,在汉语树库CTB5上进行句法分析的数据增强评测实验。实验结果显示,在小样本(CTB5的20%)实验中,通过该方法得到的增强数据使依存句法分析和成分句法分析的精度分别提高1.39%和2.14%。在鲁棒性实验中,该文通过构建扩展测试集进行评测实验,在扩展测试集上,通过该方法得到的增强数据使依存句法分析和成分句法分析的精度分别提高1.43%和0.44%,表现出更好的鲁棒性。

关键词：依存句法分析成分句法分析词汇化树邻接语法语言模型数据增强

在线全文

学校读者我要写书评

暂无评论

融合知识的领域自适应方法综述

计算机科学 2023年第8期50卷 142-149页

作者：崔福伟吴璇璇陈钰枫刘健徐金安北京交通大学电子信息工程学院北京100044 北京交通大学计算机与信息技术学院北京100044

训练基于数据驱动的模型时,常假设源域和目标域的数据分布相同,但是,在实际场景中,这一假设通常不成立,因此容易造成模型的泛化能力较差的问题。为提高模型的泛化能力,领域自适应方法应运而生,其通过学习源域和目标域的数据特征来对齐... 详细信息

训练基于数据驱动的模型时,常假设源域和目标域的数据分布相同,但是,在实际场景中,这一假设通常不成立,因此容易造成模型的泛化能力较差的问题。为提高模型的泛化能力,领域自适应方法应运而生,其通过学习源域和目标域的数据特征来对齐两域数据分布,使得在源域数据上训练好的模型在有少量数据标签或者没有数据标签的目标域上也具有较好表现。为了进一步提高模型的泛化能力,现有研究探索将知识融入领域自适应方法中,该技术具有较高的实用价值。文中首先概述了融合知识的领域自适应方法的发展背景和相关综述的研究现状;其次对领域自适应的问题定义和理论基础进行了介绍;然后给出了一种融合知识的领域自适应方法的分类体系,并对其中的一些代表性方法进行了概述;最后,通过对该领域挑战性问题的分析,预测了融合知识的领域自适应方法未来的研究方向,以期为相关的研究提供一定的参考。

关键词：泛化能力领域自适应融合知识分类体系