面向卷积神经网络的迁移性对抗样本生成研究

作     者：刘汉文 

作者单位：华中科技大学 

学位级别：硕士

导师姓名：曾志刚

授予年度：2022年

学科分类：08[工学] 081104[工学-模式识别与智能系统] 0811[工学-控制科学与工程] 

主      题：对抗样本 迁移攻击 随机切块 梯度增强 

摘      要：卷积神经网络容易受到对抗样本的攻击,并且由某一卷积神经网络生成的对抗样本可对其他卷积神经网络产生攻击效果。对抗样本的存在及其可迁移性严重威胁到了现实世界中应用深度卷积神经网络的系统。研究如何生成高迁移性对抗样本,可以为构建鲁棒模型提供参考,以及促进深度学习模型可解释性的发展。迁移性对抗样本生成算法分为两种,一种基于输入变换,一种基于动量累积。现有基于输入变换的方法多采用全局特征视角,缺乏局部特征视角的研究。基于动量累积的方法中,在不降低对抗样本生成效率的前提下,某些算法相比基准算法在对抗训练模型上的攻击效果有所上升,但在正常训练模型上的攻击效果有所下降。面对上述问题,本文做了以下两部分的工作:针对现有基于输入变换的迁移性对抗样本生成算法缺乏局部特征视角的问题,提出一种基于随机切块的迁移攻击算法。此外,在随机切块变换的基础上,提出自集成随机切块策略进一步提高所生成对抗样本的质量。实验表明,该策略可大幅提高对抗样本的迁移攻击成功率。所提算法可以作为一个即插即用的模块应用于现有的生成对抗样本的框架并且可以与基于动量累积的迁移性对抗样本生成算法相结合,生成迁移攻击成功率更高的对抗样本。针对某些基于动量累积的迁移性对抗样本生成算法在正常训练模型上攻击效果有所下降的问题,提出一种基于梯度增强的迁移攻击算法。通过寻求所求对抗扰动低频信息与高频信息的平衡,达到生成的对抗样本在正常训练模型以及对抗训练模型上迁移攻击成功率均有所提升的效果。此外,该算法可以与基于输入变换的迁移性对抗样本生成算法相结合,组成迁移攻击效果更强的算法。