检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

针对视频分类模型的共轭梯度攻击

工程科学学报 2024年第9期46卷 1630-1637页

作者：戴扬冯旸赫黄金才国防科技大学系统工程学院长沙410073

基于深度神经网络的视频分类模型目前应用广泛,然而最近的研究表明,深度神经网络极易受到对抗样本的欺骗.这类对抗样本含有对人类来说难以察觉的噪声,而其存在对深度神经网络的安全性构成严重威胁.尽管目前已经针对图像的对抗样本产生... 详细信息

基于深度神经网络的视频分类模型目前应用广泛,然而最近的研究表明,深度神经网络极易受到对抗样本的欺骗.这类对抗样本含有对人类来说难以察觉的噪声,而其存在对深度神经网络的安全性构成严重威胁.尽管目前已经针对图像的对抗样本产生了相当多的研究,针对视频的对抗攻击仍存在复杂性.通常的对抗攻击采用快速梯度符号方法(FGSM),然而该方法生成的对抗样本攻击成功率低,以及易被察觉,隐蔽性不足.为解决这两个问题,本文受非线性共轭梯度下降法(FR–CG)启发,提出一种针对视频模型的非线性共轭梯度攻击方法.该方法通过松弛约束条件,令搜索步长满足强Wolfe条件,保证了每次迭代的搜索方向与目标函数损失值上升的方向一致.针对UCF-101的实验结果表明,在扰动上界设置为3/255时,本文攻击方法具有91%的攻击成功率.同时本文方法在各个扰动上界下的攻击成功率均比FGSM方法高,且具有更强的隐蔽性,在攻击成功率与运行时间之间实现了良好的平衡.

关键词：对抗样本深度学习安全性视频攻击白盒攻击共轭梯度算法

同方期刊数据库

在线全文

学校读者我要写书评

暂无评论

面向LinUCB算法的数据投毒攻击方法

中国科学：信息科学 2024年第7期54卷 1569-1587页

作者：姜伟龙何琨华中科技大学计算机科学与技术学院武汉430074

LinUCB算法是求解上下文多臂老虎机问题的一种典型算法,被广泛应用于新闻投放、产品推荐、医疗资源分配等场景中.目前对该算法的安全性研究略显薄弱,这就要求研究者进一步加深对该算法的攻击方式的研究,以作出具有针对性乃至泛用性的防... 详细信息

LinUCB算法是求解上下文多臂老虎机问题的一种典型算法,被广泛应用于新闻投放、产品推荐、医疗资源分配等场景中.目前对该算法的安全性研究略显薄弱,这就要求研究者进一步加深对该算法的攻击方式的研究,以作出具有针对性乃至泛用性的防御措施.本文提出了两种通过添加虚假数据的方式对LinUCB算法进行离线数据投毒攻击的攻击方案,即TCA方案(target context attack)与OCA方案(optimized context attack).前者是基于训练数据与目标上下文的相似性来生成投毒数据的;后者是建模一个优化问题,通过求解该问题来构造投毒数据,是前者的优化版本.实验测试表明,仅需添加少量投毒数据作为攻击成本即可实现对攻击目标的100%攻击成功率.

关键词：上下文多臂老虎机 LinUCB算法数据投毒攻击白盒攻击优化问题

在线全文

学校读者我要写书评

暂无评论

基于数据增强的车辆鲁棒对抗纹理生成

系统工程与电子技术 2024年

作者：蔡伟狄星雨蒋昕昊王鑫高蔚洁火箭军工程大学导弹工程学院

现有的物理对抗攻击方法大多数局限于平面补丁，即使是可以执行多角度攻击的对抗样本也存在鲁棒性不足、泛化性不够、在数字域和物理域的攻击效果差距较大等问题。基于此提出了一种白盒车辆对抗纹理生成方法：在训练数据集中添加不同亮... 详细信息

现有的物理对抗攻击方法大多数局限于平面补丁，即使是可以执行多角度攻击的对抗样本也存在鲁棒性不足、泛化性不够、在数字域和物理域的攻击效果差距较大等问题。基于此提出了一种白盒车辆对抗纹理生成方法：在训练数据集中添加不同亮度和对比度的图像，并在每一代训练后生成的纹理上添加模拟现实环境的噪声，利用贝叶斯优化算法来优化不同损失项权重，最后添加正则化项减小模型过拟合；针对现有数据集模型和掩码无法完全重合的问题提出了一种修复方法用于修复图像来缩小数字仿真和现实拍摄的差距。通过数字仿真实验和物理世界实验表明，与现有对抗纹理生成算法相比，此算法实现了更高的平均攻击成功率和更低的平均精确率。

关键词：对抗攻击物理攻击纹理生成白盒攻击

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

面向深度学习的图像分类对抗样本生成研究

面向深度学习的图像分类对抗样本生成研究

作者：金星齐鲁工业大学

学位级别：硕士

图像对抗样本的出现对深度学习的安全性产生了严重的威胁,对抗样本生成算法成为当前研究的热点。研究图像对抗样本生成方法不仅能够为模型的鲁棒性检测提供新的途径,而且有助于揭示深度学习模型的脆弱性,更好地发现模型的漏洞和不足之处... 详细信息

图像对抗样本的出现对深度学习的安全性产生了严重的威胁,对抗样本生成算法成为当前研究的热点。研究图像对抗样本生成方法不仅能够为模型的鲁棒性检测提供新的途径,而且有助于揭示深度学习模型的脆弱性,更好地发现模型的漏洞和不足之处,从而建立更有效的防御机制,保障深度学习模型在实际应用中的安全性和可靠性。本文主要针对目前对抗样本生成方法中的不足进行改进。具体的研究工作如下:(1)针对Mask-FGSM生成速度慢和个别对抗样本扰动范围过大的问题,提出了一种基于显著图的对抗样本生成方法。该方法提高了对抗样本生成速度和扰动的稀疏性,减少了对抗样本与原始图像之间的差距。通过Grad-CAM++计算出图像的显著图,仅对图像显著区域进行添加扰动,减少了修改图像像素的数量,使添加的扰动范围更小,减少了对抗样本的失真。此外,为了进一步提高扰动的稀疏性,减少对原始图像的修改,提出了一种基于显著像素矩阵的对抗样本生成方法。该方法利用模型输出的Logits分数对图像中每个像素的重要程度进行排序,通过设置阈值获得对模型预测结果影响大的像素点进行添加扰动,进一步提高了扰动的稀疏性。在Image Net1K数据集上进行了多个实验,实验结果表明,在对VGG16模型进行白盒攻击时,仅对图像约1%的像素点添加扰动就可以达到100%的攻击成功率。(2)针对黑盒对抗样本生成方法中攻击成功率低的问题,本文提出了一种基于梯度校正的对抗样本生成方法。该方法基于MI-FGSM迭代攻击过程中累计的动量项,利用Nesterov加速梯度的前瞻性思想,对迭代图像进行N次预测得到N张预测图像。然后使用替代模型计算出这N张预测图像的梯度信息,利用正态分布函数将这N张预测图像的梯度信息进行加权求和。在每次迭代攻击的过程中,利用上一次迭代中的加权求和后的预测图像的梯度信息对当前迭代梯度进行校正,稳定对抗样本的更新方向,摆脱局部极值点,提高对抗样本的黑盒攻击成功率。实验结果表明,在Image Net1K数据集中,本文提出的算法在对Inc Resv2模型进行集成攻击时可以达到97.2%的黑盒攻击成功率,优于典型的黑盒攻击方法。此外,本文设计并实现了一种对抗样本生成系统。将对抗样本生成方法集成到了系统之内,通过直观的界面为用户提供了生成对抗样本的方式。在提高深度学习模型的鲁棒性方面,为人工智能安全研究人员和深度学习研究人员提供有力支持。

关键词：深度学习对抗样本黑盒攻击白盒攻击

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

针对车载环境感知系统的对抗样本生成方法

同济大学学报（自然科学版） 2022年第10期50卷 1377-1384页

作者：黄世泽张肇鑫董德存秦晋哲上海市轨道交通结构耐久与系统安全重点实验室上海201804 同济大学道路与交通工程教育部重点实验室上海201804

针对车载环境感知场景中的目标检测系统,提出了一种针对目标检测器的对抗样本生成方法。该方法能够实现对目标检测器的白盒对抗攻击,包括目标隐身攻击和目标定向攻击。在Rail数据集和Cityscapes数据集中进行测试,测试结果验证了所提方法... 详细信息

针对车载环境感知场景中的目标检测系统,提出了一种针对目标检测器的对抗样本生成方法。该方法能够实现对目标检测器的白盒对抗攻击,包括目标隐身攻击和目标定向攻击。在Rail数据集和Cityscapes数据集中进行测试,测试结果验证了所提方法对YOLO目标检测器对抗攻击的有效性。

关键词：车载环境感知系统对抗攻击目标检测深度学习白盒攻击

低成本对抗性隐蔽虚假数据注入攻击及其检测方法

在线全文

学校读者我要写书评

暂无评论

电网技术 2023年第4期47卷 1531-1539页

作者：黄冬梅丁仲辉胡安铎王晓亮时帅上海电力大学电子与信息工程学院上海市浦东新区201306 上海电力大学电气工程学院上海市杨浦区200090 国家海洋局东海信息中心上海市浦东新区200136

信息物理深度耦合的电网面临着虚假数据注入攻击的威胁,深度学习技术成为检测虚假数据注入攻击的重要手段。针对深度神经网络面临的对抗性攻击的问题,该文提出一种低成本对抗性隐蔽虚假数据注入攻击方案及对应的检测方法。通过两阶段优... 详细信息

信息物理深度耦合的电网面临着虚假数据注入攻击的威胁,深度学习技术成为检测虚假数据注入攻击的重要手段。针对深度神经网络面临的对抗性攻击的问题,该文提出一种低成本对抗性隐蔽虚假数据注入攻击方案及对应的检测方法。通过两阶段优化求解最优的量表组合及攻击值,得到预期攻击目标的最优攻击策略,对最优攻击值通过白盒攻击添加对抗性扰动,使深度学习模型将其误报为正常样本。从检测的角度,对历史数据库中的所有初始攻击样本均添加对抗性扰动,并标记为攻击样本加入训练集,对模型进行训练,提升检测性能。分别在IEEE14节点系统和IEEE118节点系统上进行实验,验证了所提攻击和检测方法的有效性。

关键词：深度学习虚假数据注入攻击对抗攻击白盒攻击对抗训练

在线全文

学校读者我要写书评

暂无评论

面向人体姿态估计的不可察局部对抗攻击

计算机辅助设计与图形学学报 2023年第10期35卷 1577-1587页

作者：刘复昌王昊王延斌缪永伟杭州师范大学信息科学与技术学院杭州311121 南京航空航天大学机电学院南京210016

尽管深度神经网络在很多任务上取得了良好的结果,但是它们对于微小的对抗扰动却很容易出现预测错误.然而在人体姿态估计的对抗攻击任务中,通常需要添加较大的扰动噪声才能攻击成功,这使得其不可察性变差;减少扰动噪声又会削弱攻击效果.... 详细信息

尽管深度神经网络在很多任务上取得了良好的结果,但是它们对于微小的对抗扰动却很容易出现预测错误.然而在人体姿态估计的对抗攻击任务中,通常需要添加较大的扰动噪声才能攻击成功,这使得其不可察性变差;减少扰动噪声又会削弱攻击效果.为了克服该矛盾,提出一种面向人体姿态估计的两阶段局部对抗攻击方法.所提方法首先通过预攻击估计出扰动关键区域,然后利用不可察性约束在关键区域内生成扰动.方法不仅可以对人体姿态进行有效攻击,而且还能确保最终扰动区域具有低可察性.采用COCO2017作为对抗扰动实验数据集并使用PCK(percentage of correct keypoints)作为评价指标,比较在人体姿态估计模型中IGSM和C&W方法的攻击效果,其PCK降低值分别提高了15.4%与2.8%.实验结果表明所提方法在保证攻击的低可察的同时,能够取得较好的攻击效果.

关键词：对抗攻击人体姿态估计不可察性白盒攻击局部扰动

时空梯度迭代的声纹对抗攻击算法STI-FGSM

在线全文

学校读者我要写书评

暂无评论

计算机工程与应用 2023年第21期59卷 151-158页

作者：李烁顾益军谭昊中国人民公安大学信息网络安全学院北京100038 广州大学网络空间先进技术研究院广州510006

为了解决当前声纹对抗攻击算法梯度信息利用不足、迁移性较差等问题,针对说话人识别模型,提出一种时空迭代快速梯度符号法(space-time iterative fast gradient sign method,STI-FGSM)的声纹对抗攻击算法。该算法基于动量迭代快速梯度... 详细信息

为了解决当前声纹对抗攻击算法梯度信息利用不足、迁移性较差等问题,针对说话人识别模型,提出一种时空迭代快速梯度符号法(space-time iterative fast gradient sign method,STI-FGSM)的声纹对抗攻击算法。该算法基于动量迭代快速梯度符号法(momentum iterative fast gradient sign method,MI-FGSM),融合动量和时序梯度信息,使用下一步观测梯度修正扰动更新方向。引入空间梯度信息,充分学习语音样本区域信息,实现不同区域的空间梯度动量累加。结合扰动集成的方法,充分利用已知的白盒模型,实现多模型扰动叠加,进一步提高黑盒攻击成功率。实验结果表明,STI-FGSM算法针对ResNetSE34V2、TDy_ResNet34_half、x-vector、ECAPA-TDNN四种说话人识别模型,均能取得较强的白盒攻击,并实现较高的黑盒攻击成功率,其性能优于其他算法。

关键词：说话人识别对抗攻击梯度扰动集成白盒攻击黑盒攻击迁移性

在线全文

学校读者我要写书评

暂无评论

基于深度神经网络的对抗样本技术综述

计算机工程与应用 2021年第23期57卷 61-70页

作者：白祉旭王衡军郭可翔战略支援部队信息工程大学郑州450001

深度学习在完成一些难度极高的任务中展现了惊人的能力,但深度神经网络难以避免对刻意添加了扰动的样本(称为“对抗样本”)进行错误的分类。“对抗样本”逐渐成为深度学习安全领域的研究热点。研究对抗样本产生的原因和作用机理,有助于... 详细信息

深度学习在完成一些难度极高的任务中展现了惊人的能力,但深度神经网络难以避免对刻意添加了扰动的样本(称为“对抗样本”)进行错误的分类。“对抗样本”逐渐成为深度学习安全领域的研究热点。研究对抗样本产生的原因和作用机理,有助于从安全性和鲁棒性方面优化模型。在掌握对抗样本原理的基础上,对经典对抗样本攻击方法进行分类总结,根据不同的攻击原理将攻击方法分为白盒攻击与黑盒攻击两个大类,并引入非特定目标攻击、特定目标攻击、全像素添加扰动攻击和部分像素添加扰动攻击等细类。在ImageNet数据集上对几种典型攻击方法进行复现,通过实验结果,比较几种生成方法的优缺点,分析对抗样本生成过程中的突出问题。并对对抗样本的应用和发展作了展望。

关键词：深度神经网络对抗样本白盒攻击黑盒攻击鲁棒性