基于样本预处理的低成本对抗样本防御算法

作     者：陈虓 昌燕 王丹琛 张仕斌 

作者机构：四川省数字经济研究中心 先进密码技术与系统安全四川省重点实验室(成都信息工程大学) 成都信息工程大学网络空间安全学院 

出 版 物：《计算机应用》 (Journal of Computer Applications)

年 卷 期：2024年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0839[工学-网络空间安全] 080203[工学-机械设计及理论] 0835[工学-软件工程] 0802[工学-机械工程] 0811[工学-控制科学与工程] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(62272068) 成都市重点研发支撑计划(2021-YF09-00114-GX) 

主　　题：攻击 防御 图像放缩 图像切割 像素值统一化 

摘      要：为尽可能防御现有的各种针对人工智能算法（特别是人工神经网络）的攻击方法，同时降低由此带来的额外开销，提出基于样本预处理的藤牌算法。通过切割图像非重要信息部分、邻近像素值统一化和图像放缩等三种方法对样本进行预处理，破坏对抗扰动，生成对模型威胁更小的新样本，以确保模型识别的高准确率。实验结果表明，藤牌算法可以在比同类算法开销更小的情况下，防御针对MNIST、CIFAR10数据集和squeezenet1＿1、mnasnet1＿3、mobilenet＿v3＿large神经网络模型的对抗攻击，防御后的样本准确率最低可达88.50%；同时在处理干净样本时也不会过多降低样本准确率，防御效果和防御成本都优于对比算法。