检索结果-南通市图书馆

检索条件"主题词=文本攻击"

共 1 条记录，以下是1-10 订阅

全选清除本页清除全部题录导出标记到"检索档案"

详细简洁

排序：

一种基于ERNIE-Attack的对抗样本生成评测系统

一种基于ERNIE-Attack的对抗样本生成评测系统

引用

作者：苏世帅浙江师范大学

学位级别：硕士

最近的研究表明,由于对抗样本的存在,深度神经网络模型可能会遭受严重的损害,因为它们只是通过对原始输入的微小变化来构建的。由于深度神经网络模型产生错误的分类预测,特别是在现实场景下,例如医疗、无人驾驶以及金融领域,对抗样本会... 详细信息

最近的研究表明,由于对抗样本的存在,深度神经网络模型可能会遭受严重的损害,因为它们只是通过对原始输入的微小变化来构建的。由于深度神经网络模型产生错误的分类预测,特别是在现实场景下,例如医疗、无人驾驶以及金融领域,对抗样本会让人们的财产甚至健康安全受到危害。这种情况下,深度神经网络模型就显得不是那么的安全。随着计算机视觉技术的发展,攻击策略和防御对策已经取得了长足的进步,但是,由于语言的复杂性,自然语言处理(NLP)仍然是一个极具挑战性的领域,尤其是针对文本的敌意攻击。为文本生成对抗性样本需要符合人类无法察觉扰动、语法流畅等特点,这些也给文本对抗样本的生成带来了挑战。首先,本文介绍了NLP中对抗攻击的研究意义和研究背景,梳理了国内外的对于NLP中对抗攻击的研究状况,将其中有研究价值的部分进行了挖掘和改进。对NLP中对抗攻击的方法进行了总结,归纳了近年来生成对抗网络的发展和NLP领域的相关网络模型,并且总结了现有模型的优缺点。其次,在现有NLP对抗攻击模型上进行改进,本文利用百度的NLP预训练语言模型ERNIE研发了新的文本攻击模型ERNIE-Attack,并提出将命名实体识别引入到在攻击方法中,命名实体识别可以有效地对原始文本中的特殊短语进行识别,如地名、人名、电影名等命名实体,在攻击原始文本时有了命名实体识别的引入可以使得生成的对抗样本语义质量有所提升。攻击时利用ERNIE特有的Mask方法先对需要进行攻击的文本进行预训练,再利用ERNIE-Attack方法对受害者模型进行文本攻击。最后,本文为方便该模型与其它攻击方法进行实验对比,设计了通用的文本对抗攻击和评测对比平台,并将本文研发的攻击算法集成到文本对抗攻击算法对比评测系统当中。为了实现快速的攻击对比实验,该系统集成了多种攻击算法与数据集。同时,该系统可以实现扰动率、语义相似度、查询次数、攻击成功率等多个指标的评测。本文实验通过对比多个数据集生成的攻击样本效果,在文本攻击方面的效果得到了较好的提升。

关键词：自然语言处理文本攻击命名实体评测系统

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

全选清除本页清除全部题录导出标记到“检索档案”

共1页 << < 1 > >>

回到顶部

执行限定条件

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：