检索结果-南通市图书馆

计算机研究与发展 2024年第5期61卷 1206-1217页

作者：林萌戴程威郭涛中国科学院信息工程研究所北京100019 中国科学院大学网络空间安全学院北京100049

随着5G的发展,攻击性言论逐渐以多模态的方式在社交网络上广泛传播.因此,攻击性模因的检测与解释生成对于提高内容审核效果、维护和谐健康的舆论场环境有着重要的作用.现有的攻击性模因解释生成研究只关注于攻击对象和攻击内容,忽略了... 详细信息

随着5G的发展,攻击性言论逐渐以多模态的方式在社交网络上广泛传播.因此,攻击性模因的检测与解释生成对于提高内容审核效果、维护和谐健康的舆论场环境有着重要的作用.现有的攻击性模因解释生成研究只关注于攻击对象和攻击内容,忽略了模因包含的社会背景知识和隐喻表达手法,无法全面、准确地解释攻击性模因的含义,大大限制了解释的应用范围.为了应对这一挑战,提出一种基于多模态大模型的攻击性模因解释生成方法,通过增强攻击目标、攻击内容和隐喻识别等多种指令数据,利用其微调多模态大模型,以提升大模型对攻击性模因的解释生成能力.实验结果证实,该方法生成的解释具有3点优势:一是相比基线模型在BERTScore评估指标上提高了19%;二是解释中包含了攻击性隐喻表达的相关背景知识;三是在处理未见的模因数据时也表现出良好的泛化性能.

关键词：攻击性模因解释生成多模态大语言模型数据增强指令微调

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

PromptWE:一种融合解释的提示学习事实核查模型

引用

清华大学学报（自然科学版） 2024年第5期64卷 760-769页

作者：张翔然李璐旸浙江大学工程师学院杭州310015 北京外国语大学信息科学技术学院北京100089

针对事实核查任务中如何利用生成的解释更好地辅助真实性判断的问题,该文提出一种融合解释的提示学习事实核查模型PromptWE。该模型在生成任务中通过证据筛选和摘要生成更易理解的解释,然后在分类任务中将解释融合进提示学习模型的提示... 详细信息

针对事实核查任务中如何利用生成的解释更好地辅助真实性判断的问题,该文提出一种融合解释的提示学习事实核查模型PromptWE。该模型在生成任务中通过证据筛选和摘要生成更易理解的解释,然后在分类任务中将解释融合进提示学习模型的提示模板中,从而将解释与预训练模型储备的知识相结合,以提高真实性判别的准确率。该模型在2个数据集上的F1值比SOTA模型高5%,表明模型生成的解释能提升模型判别信息真假的能力。此外,为了说明高质量的解释在分类任务中的重要性,该文将数据集中的专家证据直接作为解释,融合进提示模板中进行了提示学习训练,比融合模型生成的解释的F1值提高了16%,证明了高质量解释能有效激发通用语言模型在事实核查任务上的能力。

关键词：事实核查提示学习解释生成

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于知识增强预训练模型的个性化评分预测与解释生成

基于知识增强预训练模型的个性化评分预测与解释生成

引用

作者：王全秀华东师范大学

学位级别：硕士

评分预测作为推荐系统的经典任务,一直以来受到了研究者的广泛关注。随着电商平台的用户数量不断增加,用户生成的评论不断积累,相关研究在用户ID和商品ID的基础上引入了评论文本来提升评分预测的效果。近年来,基于多层堆叠的Transforme... 详细信息

评分预测作为推荐系统的经典任务,一直以来受到了研究者的广泛关注。随着电商平台的用户数量不断增加,用户生成的评论不断积累,相关研究在用户ID和商品ID的基础上引入了评论文本来提升评分预测的效果。近年来,基于多层堆叠的Transformer结构的预训练模型大批涌现,也得益于GPU算力的不断提升,这些层次深、参数多的大规模预训练模型在文本相关的任务上表现出了卓越的性能。最近,如何将预训练语言模型应用到推荐系统领域正在吸引越来越多研究者的注意。然而现有的研究大多忽略了以下两个方面的探索:(1)如何在预训练模型的基础上建模用户评论的细粒度方面中包含的丰富知识及其相关的知识图;(2)如何将用户、项目、评分以及方面作为提示信息融入到预训练模型中帮助生成解释文本。对于第一个问题,基于个性化评论的评分预测旨在利用现有评论中的文本信息,对用户的兴趣和项目特征进行建模,从而进行评分预测。现有的研究大多集中在对非结构化文本的直接建模上。然而,他们主要有两个问题。首先,很少考虑在每个评论的细粒度方面(aspectlevel)中包含的丰富知识及其相关的知识图来补充纯文本,以便更好地建模用户项目交互。其次,在基于个性化评论的评分预测的下游任务中,并没有仔细研究预训练语言模型的能力。在本文中,提出了一种名为基于预训练语言模型的知识感知协同过滤(KCFPLM)的方法来解决这两个问题。具体来说,为了利用丰富的知识,本文从评论中提取一些方面,构建一个异构带权知识图,并使用一个Transformer网络来建模这些方面关于给定的用户项目对之间的交互作用;另外,为了表示用户和项目,本文将用户或项目的所有历史评论作为预训练语言模型的输入。KCFPLM通过在知识图上的表示传播和基于个性化注意的方面组合,将Transformer网络和预训练语言模型紧密集成。因此,KCFPLM将评论文本、方面、知识图和预训练模型结合成一个统一的模型。本文在几个公共数据集进行了全面的实验,证明了KCFPLM及其主要组件的有效性。对于第二个问题,个性化的解释生成的目标是通过对用户和项目的联合建模,来生成为用户推荐该项目的理由。以往的研究中大部分采用了编码器解码器架构,将用户和项目的ID等属性编码为向量输入到解码器中再翻译为解释文本,事实上,用户和项目ID作为推荐系统中的重要标识符,与待生成的文本之间存在语义鸿沟。而且在真实推荐场景中,解释生成往往面临着提示生成信息不足的问题,或者要依赖系统通过询问用户来获得特征提示信息。另外,预训练语言模型在文本生成任务上有卓越的表现,但由于其复杂的结构和大规模的参数,很少有研究探索将其定制化以适应推荐解释生成任务。受最近Prompt Learning进展的启发,本文提出了基于个性化提示学习解释生成模型PPLGen:通过设计个性化提示模板,使预训练模型能够适应于推荐解释生成任务;为了克服用户ID和项目ID与词语之间的语义鸿沟,设计了嵌入式的Prompt;针对提示信息不足,本文在前置任务中预测了用户对于项目的评分以及感兴趣的方面集作为补充信息。在多个数据集上的实验结果证明了PPLGen模型的优越性。

关键词：基于评论的评分预测预训练语言模型知识图提示学习解释生成

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的视觉蕴涵推理及解释生成

基于深度学习的视觉蕴涵推理及解释生成

引用

作者：姚远合肥工业大学

学位级别：硕士

随着人工智能的发展,计算机作为智能设备的基础,其对于各类模态所呈现信息的理解渐渐成为研究主流。图像与文本作为日常生活中常出现的模态,二者之间的蕴涵关系推理也成为推进人工智能对于现实社会理解的重要途径。目前以图像与文本作... 详细信息

随着人工智能的发展,计算机作为智能设备的基础,其对于各类模态所呈现信息的理解渐渐成为研究主流。图像与文本作为日常生活中常出现的模态,二者之间的蕴涵关系推理也成为推进人工智能对于现实社会理解的重要途径。目前以图像与文本作为主要输入模态的任务有视觉问答(Visual Question Answering,VQA)、图像描述生成、文本生成图像等。视觉蕴涵推理源于文本单模态的语义蕴涵推理(Textual Entailment,TE)任务,通过对其增加视觉信息拓展而来。视觉蕴涵的目的即通过真实世界图片表达出的信息,判断能否推断出给定的自然语言文本。本文基于深度学习,在视觉蕴含推理及其解释生成方面开展了相应工作,主要包含以下两个方面:(1)针对该领域中部分模型的融合机制较为低效、特征提取机制可解释性不强等问题,本文设计堆叠式多模态注意力融合(Stacked Multi-Modal Refining and Fusion,SMMRF)网络。SMMRF网络主要包含三个模块:从文本的全局与局部两个角度学习与图片之间语义交互的全局与局部文本特征融合模块(Global&Local Textual feature fusion block,GLTFF),丰富后续参与多模态融合的文本语义特征,增强可解释性;对两类模态特征进一步提炼与融合的注意力仿射融合模块(Attention&Affine Fusion block,AAF),实现了更高效的特征融合方式。在堆叠式的网络结构中,为保证原始文本信息浓度,避免特征损失设计的假设特征保留机制(Hypothesis-Preserving Mechanism,HPM)。SMMRF网络在相关数据集上进行了实验,整体表现较其他模型有一定提升。(2)为减轻因语言偏置导致的文本单模态对最终蕴涵分类结果的偏误化影响,同时降低网络拟合负担,在两个方面对网络进行了增强。第一,结合反事实方法解析模型中各类模态对最终结果的影响,设计新的反事实推理框架,最小化文本对推理结果的直接偏误化影响。第二,引入解释生成任务作为蕴涵推理任务的辅助,在提高视觉蕴涵推理准确性的同时,给出可理解的自然语言解释。生成的解释文本为分类提供更多的视觉依据,以增强视觉信息方式缓解了语言偏置。通过开展对比和消融实验,证明了整体模型的有效性,其蕴含推理准确性和生成的解释文本的质量较其他模型有相应提高。

关键词：视觉蕴涵推理多模态深度学习反事实解释生成

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于神经网络的自然语言推断及其解释生成

基于神经网络的自然语言推断及其解释生成

引用

作者：成臻南京大学

学位级别：硕士

近年来随着神经网络的快速发展和海量数据的积累,深度学习在众多自然语言处理任务上取得了引人注目的成果。然而,能够真正帮助机器理解人类语言的自然语言理解任务仍然是自然语言处理领域乃至人工智能领域的一大难题。自然语言推断作为... 详细信息

近年来随着神经网络的快速发展和海量数据的积累,深度学习在众多自然语言处理任务上取得了引人注目的成果。然而,能够真正帮助机器理解人类语言的自然语言理解任务仍然是自然语言处理领域乃至人工智能领域的一大难题。自然语言推断作为自然语言理解的基础任务之一,常常被用于验证机器是否理解自然语言文本。自然语言推断可以帮助机器判断两个文本片段——前提和假设之间的语义逻辑关系,即蕴含、无关或矛盾。在这个文本间逻辑关系推断任务中,现有方法通过引入对齐机制有效地捕捉到前提-假设文本对间的对齐成分,从而帮助机器识别蕴含关系。然而这些对齐成分在一定程度上会引起模型对无关关系的判断,仅考虑对齐成分会导致一种无关预测偏置问题。此外,由于现有自然语言推断方法的预测结果缺乏相应的可解释性,研究者们开始展开对自然语言推断进行解释生成的探索。具有可解释性的自然语言推断不仅可以帮助我们衡量推断结果的可信度,还能了解现有技术存在的缺陷和弊端,从而有针对性地对其进行改进。目前,自然语言推断的解释生成大多采用基于编码器-解码器框架的解释生成模型。然而,由于逻辑语义被隐式地包含在前提-假设文本对中,这些基于判别式的解释生成模型难以有效地生成包含正确逻辑语义的解释。针对上述问题,本文对自然语言推断及其解释生成展开研究,主要工作内容如下:·针对自然语言推断中的无关预测偏置问题,本文提出一种具有高度可解释性的多视角推断器(Multi-Perspective Inferrer,简称MPI)。在多视角推断器中,每种逻辑关系具有相应的视角与之一一对应。该推断器从多个视角出发在两个文本片段中捕捉相应最有价值的成分,从而形成完整视角并做出最终的逻辑关系预测。此外,为了保证该推断器的视角与逻辑关系能够一一对应,本文设计了一种辅助损失函数对视角进行监督,实验表明该辅助监督不仅提升了多视角推断器的预测效果,也使推断结果具有很强的可解释性。·针对自然语言推断解释生成中逻辑语义错误的问题,本文提出了一种深度生成式的变分解释生成器(Variational Explanation Generator,简称Variational EG)。变分解释生成器通过引入隐变量对前提-假设文本对间的逻辑语义进行显式建模,帮助生成具有正确逻辑语义的解释。为了解决变分解释生成器训练过程的后验坍塌问题,文本提出了一种逻辑监督作为辅助损失函数。实验表明变分解释生成器有效解决了判别式解释生成器中逻辑语义错误的问题,生成具有更高质量的解释,而且在提供可解释性的同时有效提升了逻辑关系识别的准确率。

关键词：自然语言推断解释生成可解释性胶囊网络变分自编码器

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：