检索结果-南通市图书馆

信息技术与信息化 2023年第9期 56-59页

作者：唐钰慧西南交通大学四川成都611756

研究联邦学习中的隐私安全问题有利于能够帮助其在现实场景下的应用和发展。梯度泄露攻击(deep leakage from gradients,DLG)是联邦学习框架下利用梯度进行的攻击。有研究表明,随着批次的增大,梯度泄露算法将会频繁攻击失败。故针对这... 详细信息

研究联邦学习中的隐私安全问题有利于能够帮助其在现实场景下的应用和发展。梯度泄露攻击(deep leakage from gradients,DLG)是联邦学习框架下利用梯度进行的攻击。有研究表明,随着批次的增大,梯度泄露算法将会频繁攻击失败。故针对这个问题,通过不断研究梯度泄露算法的算法内容,从三个方面对其进行改进,分别是引入生成式网络、标签提取方法、正则项添加。实验结果表明,在批次数量大小等于1时,DLG算法和改进算法都可以恢复来自CIFAR100、LFW数据集和MNIST数据集中的数据,而当批次数量大小增加到4或8时,DLG算法无法恢复来自CIFAR100、LFW数据集中的数据,而改进算法可以继续恢复数据。这也就意味着,增加批次数量,无法抵御改进后的梯度泄露算法攻击。

关键词：联邦学习隐私保护生成式网络正则项梯度泄露攻击

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

面向联邦学习基于梯度的数据重构关键技术研究

面向联邦学习基于梯度的数据重构关键技术研究

引用

作者：葛孟雨电子科技大学

学位级别：硕士

传统深度学习方法通常在单台机器上对集中式的数据集进行训练。然而,在现实场景中,数据孤岛现象导致多方数据无法交换或共享。联邦学习作为新兴分布式技术,致力于保护隐私、共建模型及提升性能。尽管联邦学习仅涉及用户与服务器梯度交换... 详细信息

传统深度学习方法通常在单台机器上对集中式的数据集进行训练。然而,在现实场景中,数据孤岛现象导致多方数据无法交换或共享。联邦学习作为新兴分布式技术,致力于保护隐私、共建模型及提升性能。尽管联邦学习仅涉及用户与服务器梯度交换,但已有研究显示私有数据仍可能被重构。深度泄露梯度(DLG)是一种典型的梯度泄露攻击方法,却在高度压缩的场景中失效,原因是在联邦学习中,梯度压缩常被用于减小通信开销,从而导致大量信息损失,使得以DLG为代表的梯度泄露攻击方法在实际联邦学习应用中效果有限。本文在前人研究基础上,探讨了梯度在高度压缩场景下的泄露攻击方法。研究的重要性在于,通过展示梯度泄露攻击的可行性和有效性,提醒联邦学习社区需要制定更有效的防御机制以保护用户的数据隐私,确保提供数据时得到充分保护。此外,该研究可作为隐私审计手段,揭示在梯度压缩防御设置下攻击者可获取多少隐私数据,有助于未来隐私机制的设计。本文针对联邦学习梯度泄露的关键技术研究,提出了以下四种适用于梯度压缩场景的梯度泄露攻击方法:(1)基于属性推断的梯度泄露攻击:攻击者从共享梯度推断出原始私有训练数据的具体属性,以此作为先验信息补偿进行梯度泄露攻击;(2)基于特征推断的梯度泄露攻击:在基于属性推断的梯度泄露攻击失效的情况下,攻击者从共享梯度推断出原始训练数据的低维向量表征,以此作为先验信息补偿进行梯度泄露攻击;(3)基于特征生成的梯度泄露攻击:在此方法中,攻击者进一步改进了基于特征推断的梯度泄露攻击,从共享梯度中推断出原始数据的特征后,利用该特征生成一张初始化图像,以此作为先验信息补偿进行梯度泄露攻击;(4)基于梯度生成的梯度泄露攻击:为了解决前三种攻击方式重构效率较低且不适用于批量数据重构的问题,该方法中的攻击者直接利用生成网络从共享梯度中生成一张图像,以此直接作为私有数据重构结果。实验结果显示,本文提出的四种梯度泄露攻击方法均适用于梯度被高度压缩的联邦学习场景。通过这些攻击方法所重构的私有图像数据,在主观视觉效果和客观数值指标表现方面均优于现有的先进方法。本研究对于提高联邦学习中数据隐私保护的意识和实践具有重要价值,为未来设计更加有效的防御机制提供了有益的参考。

关键词：深度学习联邦学习梯度压缩梯度泄露攻击模型反转攻击

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

链式联邦学习的通信安全与效率研究与应用

链式联邦学习的通信安全与效率研究与应用

引用

作者：葛莉娜河南大学

学位级别：硕士

近些年,联邦学习发展迅速也更广泛地运用到了我们的实际领域应用中,联邦学习中的隐私安全与通信效率问题也同样受到了更多的关注与研究。其中,链式结构和压缩技术作为联邦学习中的重要解决方案,通过结合这两种方法,可以在保证用户隐私... 详细信息

近些年,联邦学习发展迅速也更广泛地运用到了我们的实际领域应用中,联邦学习中的隐私安全与通信效率问题也同样受到了更多的关注与研究。其中,链式结构和压缩技术作为联邦学习中的重要解决方案,通过结合这两种方法,可以在保证用户隐私安全的同时提高联邦学习训练中的通信效率。本文首先对联邦学习的背景和研究现状进行了有关介绍,对一些经典的隐私保护算法进行了详细地分析。针对现有隐私保护方法及通信优化方法在联邦学习中不能同时兼顾隐私性与计算复杂度,以及模型训练精确度的现象,提出了相关改进,主要工作如下:（1）传统的联邦学习隐私保护方法在训练过程中面临着梯度泄露攻击与模型中毒攻击的风险。针对以上问题,本文引入链式通信机制,使得掩蔽梯度能够在参与者之间传输。为了提高训练过程的安全性,本文提出了一种基于链式联邦学习的攻击感知模型,防止模型中毒攻击破坏训练效果。在攻击感知模型中,设计了恶意节点识别方法,该方法通过用户可信度的价值和分组划分的形式避免了模型中毒攻击。攻击感知模型通过不同用户的可信度大小进行分组划分,分别划分为恶意攻击者、嫌疑人以及普通用户。在链式训练过程中,针对当前组的训练精确度调整用户的可信度,逐渐从所有客户端中识别出恶意攻击者,并不允许攻击者再次参与后续训练。本文在CIFAR-100公共数据集上进行了实验,验证了该模型能够有效地防御模型中毒攻击导致的模型退化,提高了联邦学习整体训练过程的安全性,同时保证了联邦训练较好的训练速度。（2）传统的联邦学习框架往往存在精确度不足和通信效率低下的问题。引入链式通信结构来防御联邦学习中的隐私泄露攻击,但由于模型参数较大增加了通信代价,从而导致通信效率低下。为了有效地提高网络通信效率,提出了一种基于链式联邦学习的通信效率优化模型,又称为链式梯度压缩模型。该模型针对用户梯度参数执行梯度压缩处理,将排名为第15%的梯度绝对值设为阈值,通过设置梯度阈值对梯度参数进行剪枝,仅传输绝对值大于阈值的梯度值。在节点之间的链式传递过程中,减少所有用户节点上传的通信内容,确保了在实现联邦安全训练的同时提高网络通信效率。本文在MNIST和CIFAR-10公共数据集上分别进行了实验,证明了该模型能够有效地平衡训练过程中的隐私性与通信效率。为了评估该模型的性能,分别从梯度压缩率、隐私性与收敛性三个方面进行了分析。实验结果表明,该模型的精确度接近于对比框架,并且在通信效率方面远快于对比方案。（3）本文提出了一种联邦安全通信框架在机器翻译中的应用与实现。为了实现安全并高效的机器翻译,本文将联邦学习应用于机器翻译领域中,结合多方用户的训练模型来提高机器翻译的准确度和训练过程中的安全性。该系统结合了链式通信结构、攻击感知模型和链式梯度压缩模型。链式结构被用于保护传输的梯度信息,在防御梯度泄露攻击的同时实现和Fed-AVG相同的联邦训练效果。攻击感知模型用于在训练过程中监测模型中毒攻击,防止攻击造成的训练效果较差及模型退化,提高联邦训练过程中的安全性。链式梯度压缩模型用于压缩传输的梯度参数,减少通信内容,提高网络通信效率。

关键词：联邦学习梯度泄露攻击模型中毒攻击通信安全通信效率

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于生成模型的联邦学习隐私保护算法

引用

电子设计工程 2023年第24期31卷 81-84,89页

作者：缪昊洋高谭芮汤影成都理工大学计算机与网络安全学院四川成都610000

在联邦学习中,交换模型参数或梯度信息通常被视作是安全的。但近期研究表明,模型参数或者梯度信息也会导致训练数据的泄露。基于保护客户端数据安全的目的,提出了一种基于生成模型的联邦学习算法。为了验证该算法的有效性,在DermaMNIST... 详细信息

在联邦学习中,交换模型参数或梯度信息通常被视作是安全的。但近期研究表明,模型参数或者梯度信息也会导致训练数据的泄露。基于保护客户端数据安全的目的,提出了一种基于生成模型的联邦学习算法。为了验证该算法的有效性,在DermaMNIST数据集上进行了仿真实验,采用梯度泄露攻击对算法进行验证。实验结果表明,提出的基于生成模型的联邦学习算法与联邦学习经典算法在准确率上仅仅相差0.02%,并且通过MSE、PSNR、SSIM等评价指标可以判断出该算法可以有效地保护数据隐私。

关键词：生成模型联邦学习半监督生成对抗网络隐私保护梯度泄露攻击

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：