针对视频分类模型的共轭梯度攻击

作     者：戴扬 冯旸赫 黄金才 DAI Yang;FENG Yanghe;HUANG Jincai

作者机构：国防科技大学系统工程学院长沙410073 

出 版 物：《工程科学学报》 (Chinese Journal of Engineering)

年 卷 期：2024年第46卷第9期

页      面：1630-1637页

核心收录：

学科分类：0710[理学-生物学] 08[工学] 080502[工学-材料学] 0805[工学-材料科学与工程（可授工学、理学学位）] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金资助项目(62276272) 

主　　题：对抗样本 深度学习安全性 视频攻击 白盒攻击 共轭梯度算法 

摘      要：基于深度神经网络的视频分类模型目前应用广泛,然而最近的研究表明,深度神经网络极易受到对抗样本的欺骗.这类对抗样本含有对人类来说难以察觉的噪声,而其存在对深度神经网络的安全性构成严重威胁.尽管目前已经针对图像的对抗样本产生了相当多的研究,针对视频的对抗攻击仍存在复杂性.通常的对抗攻击采用快速梯度符号方法(FGSM),然而该方法生成的对抗样本攻击成功率低,以及易被察觉,隐蔽性不足.为解决这两个问题,本文受非线性共轭梯度下降法(FR–CG)启发,提出一种针对视频模型的非线性共轭梯度攻击方法.该方法通过松弛约束条件,令搜索步长满足强Wolfe条件,保证了每次迭代的搜索方向与目标函数损失值上升的方向一致.针对UCF-101的实验结果表明,在扰动上界设置为3/255时,本文攻击方法具有91%的攻击成功率.同时本文方法在各个扰动上界下的攻击成功率均比FGSM方法高,且具有更强的隐蔽性,在攻击成功率与运行时间之间实现了良好的平衡.