检索结果-南通市图书馆

计算机应用研究 2024年第4期41卷 1171-1176页

作者：刘金全张铮陈自东曹晟国能大渡河大数据服务有限公司数据安全组成都610041 电子科技大学计算机科学与工程学院(网络空间安全学院) 成都611731

联邦学习分布式的训练结构易受到投毒攻击的威胁,现有方法主要针对中央服务器设计安全聚合算法以防御投毒攻击,但要求中央服务器可信且中毒参与方数量需低于正常参与方。为了解决上述问题,提出了一种基于联邦学习参与方的投毒攻击防御方... 详细信息

联邦学习分布式的训练结构易受到投毒攻击的威胁,现有方法主要针对中央服务器设计安全聚合算法以防御投毒攻击,但要求中央服务器可信且中毒参与方数量需低于正常参与方。为了解决上述问题,提出了一种基于联邦学习参与方的投毒攻击防御方法,将防御策略的执行转移到联邦学习的参与方。首先,每个参与方独立构造差异损失函数,通过计算全局模型与本地模型的输出并进行误差分析,得到差异损失权重与差异损失量;其次,依据本地训练的损失函数与差异损失函数进行自适应训练;最终,依据本地模型与全局模型的性能分析进行模型选取,防止中毒严重的全局模型干扰正常参与方。在MNIST与FashionMNIST等数据集上的实验表明,基于该算法的联邦学习训练准确率优于DnC等投毒攻击防御方法,在中毒参与方比例超过一半时,正常参与方仍能够实现对投毒攻击的防御。

关键词：联邦学习投毒攻击防御训练权重鲁棒性

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

面向机器学习样本的投毒攻击防御技术研究

面向机器学习样本的投毒攻击防御技术研究

引用

作者：刘枭天太原理工大学

学位级别：硕士

近年来,随着对人工智能领域的不断深入研究,机器学习算法的智能化水平也在不断提高,已经被广泛应用于社会各个领域,成为当代社会最具前景和影响力的技术之一。然而,机器学习算法在快速发展的同时,也面临着许多安全威胁,其中之一就是投... 详细信息

近年来,随着对人工智能领域的不断深入研究,机器学习算法的智能化水平也在不断提高,已经被广泛应用于社会各个领域,成为当代社会最具前景和影响力的技术之一。然而,机器学习算法在快速发展的同时,也面临着许多安全威胁,其中之一就是投毒攻击。投毒攻击是一种针对机器学习模型训练阶段的攻击方式,其目的是通过向模型输入恶意样本或注入恶意“水印”,从而降低模型的预测准确率。根据攻击目标的不同,投毒攻击可以被分为数据投毒攻击和模型投毒攻击,其中数据投毒攻击就是通过向机器学习模型的训练数据集中注入恶意样本,从而改变模型的训练结果和预测准确率。因此,为保证机器学习模型的性能和预测效果,需采用合适的投毒防御方法保证机器学习模型训练数据集的“干净”。现有的投毒防御研究大多是针对特定类型的攻击进行防御的,一种防御方法只能防御一种类型的攻击,当攻击者采用其他类型的投毒攻击方式或未知的投毒攻击方式时,该防御方法可能会失效,因此现有防御方法需改进完善。本文基于基类样本与投毒样本经训练后数据分布的差异性,从样本特征变化和攻击置信水平变化两个角度进行投毒防御,并通过实验验证了所提出算法的可行性。本文主要研究内容及成果如下:从样本特征变化的角度分析,本文提出基于辅助分类器生成对抗网络的投毒防御方法。根据投毒样本训练前后的数据分布变化,采用一种耦合ACGAN结构,通过生成新样本特征的方式,实现真实特征与扰动特征的分离,使判别器可以对投毒样本进行正确分类,获取到投毒样本的正确标签;之后,通过得到的样本正确标签更新训练集,重新训练模型,实现目标模型对投毒样本的正确分类,保证了模型在预测阶段对样本的预测准确率。实验结果表明,该防御方法可以在保证时间复杂度较低的同时,恢复已受攻击模型的预测准确率。从攻击置信水平变化的角度分析,本文提出一种基于样本聚类剪枝的投毒防御方法。通过迭代聚类和剪枝算法实现对投毒样本的间接提取,采用梯度计算将训练集中的数据投影到新空间中,并对新空间中的数据进行聚类;之后,根据攻击置信水平的变化,对样本集进行剪枝操作,并将剩下的样本集作为下次迭代聚类时的输入;重复迭代聚类剪枝操作,直至攻击置信水平不再发生变化,此时得到的数据集就是投毒样本集;最后,采用数据遗忘算法更新已受攻击模型的模型参数,恢复已受攻击模型的泛化性。实验结果表明,该防御方法可以有效检测出训练集中的投毒样本,保证了样本检索精度以及样本检索率。

关键词：投毒攻击防御人工智能安全生成对抗网络样本特征聚类剪枝

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：