检索结果-南通市图书馆

作者：侯哲贤西安电子科技大学

学位级别：硕士

随着近些年计算机算力的增加和数据信息大爆炸,深度学习逐渐受到人们的广泛关注,其在多种现实场景中都有应用。而迁移学习是在成熟的深度学习模型基础上对模型进行再训练,是利用少量数据和计算资源得到目标模型的方法。模型在提供便利... 详细信息

随着近些年计算机算力的增加和数据信息大爆炸,深度学习逐渐受到人们的广泛关注,其在多种现实场景中都有应用。而迁移学习是在成熟的深度学习模型基础上对模型进行再训练,是利用少量数据和计算资源得到目标模型的方法。模型在提供便利的同时也遭受着如对抗样本、模型窃取、数据投毒之类的安全问题。本文对其中的数据投毒攻击展开了深入研究,挖掘深度学习模型中存在的数据投毒问题,寻找和设计潜在的攻防方案。同时又把部分目光放在了迁移场景当中,挖掘数据投毒攻击在迁移学习中的作用和危害。为此本文制定了详细的方案以及实验,并通过实验对比分析寻找影响攻击的因素,成功降低模型的分类性能。本文的主要工作和创新如下:(1)设计基于噪声添加的干净标签毒物数据,并将其应用于网络模型训练当中。本文采用了干净标签攻击的策略,在深度学习的过程中通过制造在人类观察者看来“无比正常”的数据来躲避投毒检测机制并实施数据投毒攻击。其中毒物制作技术采用基于噪声的方式,通过更改原始图像像素值数据(变化的本质即向图像中添加噪声)来得到毒物样本。这些毒物样本会被神经网络中特征提取和处理算法放大,使得图像在特征空间中的张量表示呈现一定的规律,进而误导深度学习模型。(2)设计并使用了一种基本的卷积神经网络模型BCNN,引入了两种成熟的模型和三种数据集,以对研究进行充分实践和评估。本文工作中单个图像噪声占比维持在0.1953%至0.5102%,预训练模型误判率最高达42.23%,已投毒模型针对目标数据的误判率维持在73.75%至99.4274%。其中误判率数值的高低只是一种数据表现,分类结果只是取分类占比的最高值对应结果。在相同的分类任务中,两个模型的运行时间相差微乎其微,可忽略不计,意即投毒攻击不会对模型分类功能产生过多干扰。(3)提出了干净标签数据投毒攻击及其在迁移学习中的应用研究,旨在挖掘迁移学习面临的投毒攻击问题。根据分析研究,迁移学习之所以会继承投毒攻击的根本原因在于再训练模型和预训练模型的相似性,会使得模型在对数据进行处理的过程中用同样的方式对数据特征进行计算,对数据造成同样的误判。在本文工作中,已中毒模型再训练之后对目标数据的误判率维持在53.4557%至86.7%,非目标数据误判率以及模型运行效率基本同预训练模型保持一致。防御方案介入后的误判率下降了13.3557%至51.95%,可起到一定程度的防御。

关键词：人工智能干净标签数据投毒迁移学习深度学习模型安全

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

隐蔽图像后门攻击

引用

中国图象图形学报 2023年第3期28卷 864-877页

作者：朱淑雯罗戈韦平李晟张新鹏钱振兴复旦大学计算机科学技术学院上海200433

目的图像后门攻击是一种经典的对抗性攻击形式,后门攻击使被攻击的深度模型在正常情况下表现良好,而当隐藏的后门被预设的触发器激活时就会出现恶性结果。现有的后门攻击开始转向为有毒样本分配干净标签或在有毒数据中隐蔽触发器以对抗... 详细信息

目的图像后门攻击是一种经典的对抗性攻击形式,后门攻击使被攻击的深度模型在正常情况下表现良好,而当隐藏的后门被预设的触发器激活时就会出现恶性结果。现有的后门攻击开始转向为有毒样本分配干净标签或在有毒数据中隐蔽触发器以对抗人类检查,但这些方法在视觉监督下很难同时具备这两种安全特性,并且它们的触发器可以很容易地通过统计分析检测出来。因此,提出了一种隐蔽有效的图像后门攻击方法。方法首先通过信息隐藏技术隐蔽图像后门触发,使标签正确的中毒图像样本(标签不可感知性)和相应的干净图像样本看起来几乎相同(图像不可感知性)。其次,设计了一种全新的后门攻击范式,其中毒的源图像类别同时也是目标类。提出的后门攻击方法不仅视觉上是隐蔽的,同时能抵御经典的后门防御方法(统计不可感知性)。结果为了验证方法的有效性与隐蔽性,在ImageN et、MNIST、CIFAR-10数据集上与其他3种方法进行了对比实验。实验结果表明,在3个数据集上,原始干净样本分类准确率下降均不到1%,中毒样本分类准确率都超过94%,并具备最好的图像视觉效果。另外,验证了所提出的触发器临时注入的任意图像样本都可以发起有效的后门攻击。结论所提出的后门攻击方法具备干净标签、触发不可感知、统计不可感知等安全特性,更难被人类察觉和统计方法检测。

关键词：后门攻击隐蔽触发攻击范式干净标签统计隐蔽

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：