检索结果-南通市图书馆

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

面向视觉分类模型的投毒攻击

计算机应用 2023年第2期43卷 467-473页

作者：梁捷郝晓燕陈永乐太原理工大学信息与计算机学院山西晋中030600

数据投毒攻击中的后门攻击方式的攻击者通过将带有隐藏触发器的样本插入训练集中来操纵训练数据的分布,从而使测试样本错误分类以达到改变模型行为和降低模型性能的目的。而现有触发器的弊端是样本无关性,即无论采用什么触发模式,不同... 详细信息

数据投毒攻击中的后门攻击方式的攻击者通过将带有隐藏触发器的样本插入训练集中来操纵训练数据的分布,从而使测试样本错误分类以达到改变模型行为和降低模型性能的目的。而现有触发器的弊端是样本无关性,即无论采用什么触发模式,不同有毒样本都包含相同触发器。因此将图像隐写技术与深度卷积对抗网络(DCGAN)结合,提出一种基于样本的攻击方法来根据灰度共生矩阵生成图像纹理特征图,利用图像隐写技术将目标标签字符嵌入纹理特征图中作为触发器,并将带有触发器的纹理特征图和干净样本拼接成中毒样本,再通过DCGAN生成大量带有触发器的假图。在训练集样本中将原中毒样本以及DCGAN生成的假图混合起来,最终达到投毒者注入少量的中毒样本后,在拥有较高的攻击率同时,保证触发器的有效性、可持续性和隐藏性的效果。实验结果表明,该方法避免了样本无关性的弊端,并且模型精确度达到93.78%,在30%的中毒样本比例下,数据预处理、剪枝防御以及AUROR防御方法对攻击成功率的影响达到最小,攻击成功率可达到56%左右。

关键词：视觉分类模型投毒攻击后门攻击触发器图像隐写深度卷积对抗网络

基于生成对抗网络的联邦学习中投毒攻击检测方案

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

计算机应用 2023年第12期43卷 3790-3798页

作者：陈谦柴政王子龙陈嘉伟西安电子科技大学网络与信息安全学院西安710071

联邦学习(FL)是一种新兴的隐私保护机器学习(ML)范式,然而它的分布式的训练结构更易受到投毒攻击的威胁:攻击者通过向中央服务器上传投毒模型以污染全局模型,减缓全局模型收敛并降低全局模型精确度。针对上述问题,提出一种基于生成对抗... 详细信息

联邦学习(FL)是一种新兴的隐私保护机器学习(ML)范式,然而它的分布式的训练结构更易受到投毒攻击的威胁:攻击者通过向中央服务器上传投毒模型以污染全局模型,减缓全局模型收敛并降低全局模型精确度。针对上述问题,提出一种基于生成对抗网络(GAN)的投毒攻击检测方案。首先,将良性本地模型输入GAN产生检测样本;其次,使用生成的检测样本检测客户端上传的本地模型;最后,根据检测指标剔除投毒模型。同时,所提方案定义了F1值损失和精确度损失这两项检测指标检测投毒模型,将检测范围从单一类型的投毒攻击扩展至全部两种类型的投毒攻击;设计阈值判定方法处理误判问题,确保误判鲁棒性。实验结果表明,在MNIST和Fashion-MNIST数据集上,所提方案能够生成高质量检测样本,并有效检测与剔除投毒模型;与使用收集测试数据和使用生成测试数据但仅使用精确度作为检测指标的两种检测方案相比,所提方案的全局模型精确度提升了2.7~12.2个百分点。

关键词：联邦学习投毒攻击生成对抗网络 F1值损失精确度损失阈值判定方法

基于图嵌入和异常检测的推荐系统投毒攻击检测方法研究

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于图嵌入和异常检测的推荐系统投毒攻击检测方法研究

作者：崔拓燕山大学

学位级别：硕士

在推荐系统中,用户评分为具有相似兴趣的用户群提供有价值的信息,系统会更倾向于向类似用户推荐评分较高的产品。然而,黑产商人有组织地注入虚假用户,旨在提高目标产品被推荐的概率或打压竞争对手的产品,这些行为严重影响了推荐系统的... 详细信息

在推荐系统中,用户评分为具有相似兴趣的用户群提供有价值的信息,系统会更倾向于向类似用户推荐评分较高的产品。然而,黑产商人有组织地注入虚假用户,旨在提高目标产品被推荐的概率或打压竞争对手的产品,这些行为严重影响了推荐系统的服务质量。而且近年来,由于深度学习技术的广泛应用,研究人员利用该类技术例如生成对抗网络对推荐系统的训练集进行攻击。这类攻击称为投毒攻击,具备注入规模小,干扰效果大,模仿精度高的特点。如何准确有效地检测这些投毒攻击产生的虚假用户,国内外学者进行了广泛的研究并取得了不错的检测结果。但是,传统的检测手段往往依赖专家知识或人为设计指标,无法充分利用用户-商品之间的关系,检测效果很差。为了解决该问题,本文对推荐系统投毒攻击的检测方法进行深入研究。首先,针对现有方法依赖专家知识或人为设计指标的问题,提出一种基于多路二部图嵌入和偏差网络的检测方法。该方法将用户-商品-评分视为多路二部图,并利用评分信息将其转化为来自不同视角的两组同构超图,分别为用于聚合用户视角信息的商品超图集合和用于聚合商品视角信息的用户超图集合;之后根据绑定自编码器分别提取不同视角超图集合的内部结构特征,结合具有域内和域间的消息传递策略的同构超图卷积算子捕捉语义信息和高阶结构信息,获得高质量的用户低维向量表示;利用偏差网络计算每个用户的可疑度值,对其排序并检测投毒攻击用户。其次,针对现有检测方法忽略节点与全局信息联系的问题,提出一种基于对比二部图嵌入和深度SAD的检测方法。该方法根据二部图编码器聚合所有节点的二阶邻居信息,获得用户节点和商品节点的初始嵌入;基于注意力机制获得h阶封闭子图的局部嵌入,结合简单聚合函数获得全局嵌入;设计基于评分的负采样机制采样节点局部负例,通过最大化局部和全局表示之间的互信息优化模型参数,获得用户嵌入向量;之后通过特征映射函数将用户向量嵌入投射到超球面上,根据少量标签修正模型,超球面包裹的样本被视为真实用户,偏离超球面的则为虚假用户。最后在Film Trust,ML-100k,Ciao和Amazon四种规模各异,密集度不同的数据集上进行实验表明,本文所提出的算法均优于现有的四种检测方法。

关键词：投毒攻击推荐系统对比学习图嵌入异常检测

面向联邦学习安全聚合的投毒攻击与防御技术研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向联邦学习安全聚合的投毒攻击与防御技术研究

作者：郭林哈尔滨工程大学

学位级别：硕士

传统的机器学习模型训练方法需要集中收集和处理大量敏感数据,这可能导致数据泄露和数据滥用等问题。为应对这些问题,联邦学习(Federated Learning)被提出。联邦学习作为一种特殊的分布式机器学习,可以在保证模型性能的前提下,避免个人... 详细信息

传统的机器学习模型训练方法需要集中收集和处理大量敏感数据,这可能导致数据泄露和数据滥用等问题。为应对这些问题,联邦学习(Federated Learning)被提出。联邦学习作为一种特殊的分布式机器学习,可以在保证模型性能的前提下,避免个人数据的泄露,并有效解决数据孤岛的问题。与此同时,联邦学习系统也很容易受到各种威胁,如数据投毒攻击、后门攻击、模型推理攻击等。为了抵御这些攻击,相应的防御策略也应运而生,如设计安全的聚合算法、结合区块链技术、使用安全硬件等。本文针对现有基于安全聚合算法的防御策略,设计了一种面向安全聚合的数据投毒攻击增强方法,并针对该方法提出了一种有效的防御方案。首先,针对基于阈值机制的安全聚合算法存在被绕过的安全风险,提出一种面向安全聚合的数据投毒攻击增强方法。通过研究现有安全聚合算法的具体实现细节,提出一种基于阈值内特征处理的投毒攻击策略。通过将该投毒攻击策略与其他现有的投毒攻击在不同防御策略下的效果进行对比,验证提出的投毒攻击方法可以绕过安全聚合算法的过滤机制,从而破坏联邦学习系统的安全性。其次,针对现有的安全聚合算法无法防御所设计的数据投毒攻击的问题,提出一种面向增强型数据投毒攻击的防御方法。通过研究基于阈值内特征处理的投毒攻击的特点,提出一种基于多指标筛选的投毒攻击防御机制。通过与基于Krum聚合算法和TrimmedMean聚合算法的防御机制进行对比,验证了所提出的防御机制在面对基于阈值内特征处理的投毒攻击时的防御效果更好。

关键词：联邦学习投毒攻击投毒防御特征选择安全聚合算法

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

联邦学习投毒攻击防御与追溯

联邦学习投毒攻击防御与追溯

作者：陈典佐西安电子科技大学

学位级别：硕士

在人工智能的时代,面向大数据的机器学习算法为人类现实生活提供大量的便捷。但是这些中心化的算法往往需要收集大量的隐私数据,这也引发了人们对数据安全问题的担忧。在这样的背景下,联邦学习的概念被提出。联邦学习框架里,个人隐私数... 详细信息

在人工智能的时代,面向大数据的机器学习算法为人类现实生活提供大量的便捷。但是这些中心化的算法往往需要收集大量的隐私数据,这也引发了人们对数据安全问题的担忧。在这样的背景下,联邦学习的概念被提出。联邦学习框架里,个人隐私数据无需上传到中央服务器或第三方平台,而是保存在个人设备本地,并直接在本地训练联合模型,中央服务器只收集本地更新参数用于联合模型的更新。联邦学习为使用去中心化数据训练联合模型提供解决方案,同时达到保护用户隐私、数据安全和遵守政府法规。然而,由于联邦学习中的知识共享过程是通过上传模型参数而不是原始数据来进行的,恶意用户可以轻易篡改数据然后进行训练并将模型更新上传至服务器,对联邦模型进行投毒攻击。投毒攻击通过在模型训练或再训练期间攻击训练数据集或算法来操纵模型的输出,如在训练数据集中添加恶意样本或直接修改某些原始数据的标签,其本质是改变训练数据的分布造成模型的全局或局部扰动,从而威胁模型的安全性和可信度。相较于传统的机器学习算法,针对联邦学习的本地投毒攻击更难以检测并且更具破坏性。本文主要研究在联邦学习框架遭受标签翻转攻击以及后门攻击时,检测以及防御恶意节点,并分别提出基于进化策略的联邦学习投毒攻击防御算法和基于贝叶斯优化的联邦学习投毒攻击防御算法。主要研究内容可概括总结如下:(1)基于进化策略的联邦学习投毒攻击防御算法:该算法采用进化策略动态调整各用户设备的贡献度,同时针对原有进化策略变异强度不变而收敛速度慢的问题,引入自适应变异强度加快收敛速度,通过多数投票检查每个客户端更新模型的符号,区分正常客户端和恶意客户端,最后利用Logit函数进一步惩罚异常客户端的贡献。实验结果表明该算法能在不影响模型性能的情况下有效防御投毒攻击。(2)基于贝叶斯优化的联邦学习投毒攻击防御算法:目前许多防御算法需要对攻击者数量做出假设,为了解决这个问题,该方法采用聚类的思想,使用贝叶斯优化算法与异常度分配机制结合历史用户行为定位恶意用户。并且自动确定异常度的动态划分阈值,从源头上主动追踪攻击者,同时无需对攻击者做额外假设。在真实数据集上实验结果证明,该方法能够防御多种攻击模式,并可以有效消除污染参数的影响。

关键词：联邦学习投毒攻击数据隐私人工智能安全

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于边缘计算环境的投毒攻击研究

基于边缘计算环境的投毒攻击研究

作者：张鹏电子科技大学

学位级别：硕士

随着智能电网的发展和普及,越来越多的终端设备接入电网网络,解决终端设备对实时性的计算需求成为一个难点,边缘计算的引入是一个很好的解决方案,以往只依托云计算的电网系统在带宽、时延等方面的限制将得到缓解。然而边缘计算由于算力... 详细信息

随着智能电网的发展和普及,越来越多的终端设备接入电网网络,解决终端设备对实时性的计算需求成为一个难点,边缘计算的引入是一个很好的解决方案,以往只依托云计算的电网系统在带宽、时延等方面的限制将得到缓解。然而边缘计算由于算力和存储资源受限,因此容易遭受安全方面的影响。在边缘计算的多种攻击场景中,涉及机器学习方面的攻击研究比较少,随着边缘计算中越来越多的重要决策依赖于机器学习模型,有必要担心边缘计算环境中机器学习算法带来的潜在威胁。投毒攻击是一种关于机器学习安全对抗研究的重要方向,攻击者在训练机器学习模型之前,向训练数据集中添加精心构造的毒样本数据,此时通过学习算法得到的目标模型将受到影响。针对边缘计算的特点,边缘侧的机器学习通常设置为增量学习、在线学习方式,而增量学习是投毒攻击的主要对象,因此边缘计算环境的投毒攻击研究具有重要意义。本文针对边缘计算环境的多种在线预测场景,提出多种投毒攻击策略,主要贡献有以下几方面:1.对于边缘计算资源受限的情况,以及电力系统在边缘侧需求,本文使用在线学习的方式对边缘侧构建回归任务模型,实现了边缘计算环境下多种在线预测算法。2.针对智能电网边缘计算的攻击研究,目前主要集中在虚假数据注入攻击,对边缘侧机器学习模型的投毒攻击研究甚少,本文为相关的研究提供了一种思路和方向。3.在投毒攻击研究领域,大部分都是针对图像识别等分类任务,回归任务的投毒攻击研究屈指可数,本文提出的白盒攻击和黑盒攻击两类投毒攻击,都是针对回归任务的投毒攻击研究。4.研究基于在线学习的回归任务投毒攻击,对于回归模型的投毒攻击研究,目前针对的是离线训练方式,本文提出的最大损失攻击以及子序列查找攻击,都是针对在线回归任务的投毒攻击研究。5.本文提出了两种针对回归任务的黑盒投毒攻击方式,在实际场景中使用范围更广,可以对一些复杂的目标模型产生攻击效果。本文提出的基于边缘计算环境几种投毒攻击策略在实验仿真中表明攻击的可行性,为后续边缘计算环境中机器学习的安全决策部署好第一道防线。

关键词：智能电网投毒攻击边缘计算回归任务

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的推荐系统投毒攻击与检测研究

基于深度学习的推荐系统投毒攻击与检测研究

作者：张旭鑫华中科技大学

学位级别：硕士

随着互联网技术的快速发展与全面普及,网络中的信息以惊人的速度产生和传递,“信息爆炸”的时代已经来临。推荐系统作为信息过滤的重要手段能够有效地缓解信息过载带来的消极影响,推荐系统在不断提高用户体验的同时带来了丰厚的经济效益... 详细信息

随着互联网技术的快速发展与全面普及,网络中的信息以惊人的速度产生和传递,“信息爆炸”的时代已经来临。推荐系统作为信息过滤的重要手段能够有效地缓解信息过载带来的消极影响,推荐系统在不断提高用户体验的同时带来了丰厚的经济效益,其重要性也日益凸显,越来越多的研究工作专注于推荐系统中的安全性问题。推荐系统中的投毒攻击可以通过虚假欺骗数据的注入来实现操纵推荐系统的目的,这种投毒攻击严重危害了推荐系统的正常运行,损害了正常用户的利益。近年来,国内外的研究学者针对投毒攻击提出了很多的应对方案,这些应对方案在面对现有的投毒攻击时表现并不突出,投毒攻击的不断进化和改进也是亟待解决的难题。本文首先揭示了推荐系统中的投毒攻击容易被现有算法检测到的本质原因在于攻击用户和正常用户的特征不一致。进而,本文设计出了一种新的投毒攻击算法Rec UP,它在逃避现有防御检测的同时保持一定的攻击效果。该算法利用生成对抗网络的特性,在生成攻击用户的同时模拟正常用户的特征分布,保持了两者之间的特征一致性。同时,本文精心设计了反映攻击效果的损失函数来辅助生成器的训练过程,并引进了正常用户作为模板来确保生成的用户在形为上和正常用户保持一致。实验证明Rec UP相比于现有的投毒攻击方法,能有效逃避相关检测算法的防御,同时与SOTA(State-Of-The-Art)的攻击方法保持同一水平甚至略好的攻击效果,该方法展示了当前检测方法无法应对的潜在威胁。为了应对诸如Rec UP不断改进的投毒攻击算法,本文从图的角度出发,探索正常用户和攻击用户在图结构上的异同。本文利用图嵌入技术对项目进行向量化表达,进而提取了新的特征,这些特征为现有的投毒攻击检测算法分辨正常用户和攻击用户提供了新的角度。实验验证了新特征在分辨正常用户攻击用户方面的有效性和可用性。

关键词：推荐系统投毒攻击投毒攻击检测生成对抗网络图嵌入技术

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

联邦学习场景下抵御投毒攻击的算法研究

联邦学习场景下抵御投毒攻击的算法研究

作者：邓懿康华中科技大学

学位级别：硕士

随着数据隐私安全问题受到越来越多的关注,传统的集中式训练已经无法满足人们的需求,联邦学习的出现解决了这个问题。然而在联邦学习中,服务端无法完全控制客户端的行为,客户端上传的模型参数可能会扰乱全局模型的训练,降低全局模型的... 详细信息

随着数据隐私安全问题受到越来越多的关注,传统的集中式训练已经无法满足人们的需求,联邦学习的出现解决了这个问题。然而在联邦学习中,服务端无法完全控制客户端的行为,客户端上传的模型参数可能会扰乱全局模型的训练,降低全局模型的性能。攻击者可以通过更改上传的模型参数(模型投毒攻击)或者污染客户端的本地数据(数据投毒攻击)等方式对全局模型进行攻击,这些攻击方式被称为投毒攻击。如何增强联邦学习下全局模型的鲁棒性是目前联邦学习的重要研究方向之一。针对模型投毒攻击,提出了基于委员会机制的防御算法RFL-MA(Robust Federated Learning against Model Poisoning Attacks)。针对数据投毒攻击,提出了基于全连接层更新量的防御算法RFL-DA(Robust Federated Learning against Data Poisoning Attacks)。RFL-MA算法引入委员会的思想,将模型参数的验证任务交给委员会成员,综合考虑委员会给出的验证结果,将可疑的模型参数排除在聚合过程之外,在每轮全局聚合后更新委员会成员,及时清理异常委员和鼓励拥有高质量数据集的客户端加入到委员会中。RFL-DA算法将预训练模型的浅层网络参数固定,让客户端在本地对预训练模型的全连接层进行更新,根据全连接层的更新量来判断客户端的可疑程度,降低可疑客户端的聚合权重,减少可疑客户端对全局模型的影响。最后,搭建了一个面向投毒攻击的联邦学习原型系统,对RFL-MA算法和RFL-DA算法进行了实现。实验结果表明,RFL-MA算法和RFL-DA算法在不同的数据分布情况下都有着优秀的表现。面对符号翻转攻击(模型投毒攻击的一种实现),RFL-MA算法在MNIST、FMNIST、CIFAR-10数据集上的准确率分别比传统的防御算法提高13%、7%、9.6%;面对标签翻转攻击(数据投毒攻击的一种实现),RFL-DA算法在攻击成功率上的表现与主流的Fools Gold算法相近,在准确率上的表现相比Fools Gold算法更优秀,在三个数据集上分别提高10.5%、3%、1.7%,这表明RFL-DA算法既能保持低攻击成功率又能保持高准确率。

关键词：联邦学习投毒攻击鲁棒性防御算法

联邦学习中面向投毒与推理攻击的防御方法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

联邦学习中面向投毒与推理攻击的防御方法研究

作者：朱长长安徽大学

学位级别：硕士

联邦学习允许多个客户端在不共享数据的情况下,协作地训练一个全局模型,为客户端提供了基本的隐私保护。然而,在联邦学习中,恶意的客户端可能执行投毒攻击,导致全局模型不可用或存在后门;也可能执行推理攻击,获取其他客户端的隐私数据... 详细信息

联邦学习允许多个客户端在不共享数据的情况下,协作地训练一个全局模型,为客户端提供了基本的隐私保护。然而,在联邦学习中,恶意的客户端可能执行投毒攻击,导致全局模型不可用或存在后门;也可能执行推理攻击,获取其他客户端的隐私数据。针对上述两类攻击,本文对联邦学习中投毒与推理攻击的防御方法展开研究。主要研究内容如下:(1)提出两种针对投毒攻击的防御机制:基于阈值的异常更新值去除机制(Threshold-Based Abnormal Update Value Removal Mechanism,简称TBRM)和基于信誉分的聚合机制(Aggregation Mechanism Based on Reputation Score,简称ABRS)。在TBRM机制中,服务器将重构误差的平均值作为阈值,对良性客户端的模型更新值进行筛选,以防御投毒攻击。ABRS是TBRM的一种改进,用于解决TBRM机制可能由于去除良性更新值而导致模型精度降低的问题。在ABRS机制中,服务器根据重构误差计算客户端的信誉分,并基于信誉分对客户端的模型更新值加权聚合,以降低投毒攻击的影响。实验结果表明,上述两种防御机制可以有效防御投毒攻击。(2)提出针对GAN推理攻击的防御方案。该方案考虑两种攻击者设置:女巫攻击者和单个攻击者。服务器首先使用余弦相似度对女巫攻击者进行检测,如果检查到女巫攻击者,就停止检测并聚合正常客户端的模型,以防御GAN推理攻击。如果未检测到女巫攻击者,服务器通过计算客户端模型的参数变化幅度来识别出攻击者和受害者的模型集合,并对模型集合进行网络剪枝以降低攻击者模型的影响并保护受害者的模型。实验结果表明,所提方案可以有效防御GAN推理攻击。

关键词：联邦学习投毒攻击推理攻击网络剪枝