检索结果-南通市图书馆

检索条件"主题词=对抗引导训练"

共 1 条记录，以下是1-10 订阅

全选清除本页清除全部题录导出标记到"检索档案"

详细简洁

排序：

基于数据隐私保护和模型安全防护的训练算法研究

基于数据隐私保护和模型安全防护的训练算法研究

引用

作者：陈羽祺西安电子科技大学

学位级别：硕士

随着大数据时代到来,各类应用与服务产生海量数据,基于数据驱动的机器学习技术得到迅速发展,并且被应用在各个领域。同时,机器学习技术的大规模推广和普及使其隐私性和模型安全性问题越来越受到重视。面对机器学习中已经暴露出的隐私安... 详细信息

随着大数据时代到来,各类应用与服务产生海量数据,基于数据驱动的机器学习技术得到迅速发展,并且被应用在各个领域。同时,机器学习技术的大规模推广和普及使其隐私性和模型安全性问题越来越受到重视。面对机器学习中已经暴露出的隐私安全问题,若不采取防护措施保护数据隐私和提高模型鲁棒性,将会对用户的隐私和安全带来极大的威胁。一方面,由于用户数据直接用于机器学习算法处理,或用于机器学习模型的训练,不完全可信的服务提供商可能利用用户上传的数据非法获取用户隐私;另一方面,由于机器学习模型缺乏可解释性,导致机器学习模型对对抗样本不具有鲁棒性,即恶意用户可能对输入数据进行恶意修改或扰动,导致机器学习模型给出错误输出,甚至恶意控制机器学习模型的输出。若机器学习中的数据隐私性和模型安全得不到保证,基于机器学习的应用将承受严峻的安全风险。为应对机器学习应用中的隐私安全挑战,国内外专家和学者们提出诸多机器学习训练过程中的隐私安全技术来保护用户隐私安全,其中包括了联邦学习技术和对抗训练技术。一方面,尽管联邦学习允许多个用户在保证数据集隐私的前提下共同训练一个模型,但是联邦学习仍然可能遭受如模型反演攻击、置信度推测等隐私窃取攻击。由于用户置信度是一种重要的用户数据集隐私信息,可以反映用户本地数据集质量高低,因此,用户置信度隐私的泄露不仅使用户的隐私遭受侵害,还可能导致联邦学习中的偏见与不公。然而现有的考虑低置信度用户参与的联邦学习算法中,存在对参数服务器可信度的假设过高的问题,导致现有的算法在实际场景中不具有可行性。另一方面,对抗训练技术通过在训练阶段的损失函数中添加对抗损失项,一定程度上提高了机器学习模型的对抗鲁棒性和泛化能力。然而,现有算法的防御效果针对未知攻击仍然无法达到理想效果,并且缺少针对未知对抗样本攻击的对抗防御。针对上述问题,本文分别提出了一种基于密文置信度评估的数据隐私保护训练算法（Cipher Evaluating-based Data Privacy-Preserving Training,CE-DPPT）和一种基于对抗引导的模型安全防护训练算法（Adversarial Guided-based Model Security-Protecting Training,AG-MSPT）,主要贡献如下:1.针对现有低置信度用户参与的联邦学习算法中,服务器可信度假设过强的问题,本文提出浮点型同态加密协议和密文多层感知机学习算法,并进一步提出基于密文置信度评估的数据隐私保护训练算法。与现有算法相比,该算法降低了对参数服务器的假设,解决了因参数服务器直接访问参与者模型梯度导致的置信度隐私泄露的问题。在低置信度用户参与的联邦学习场景下,该算法降低了低置信度用户对全局模型的负面影响,提高了对高置信度用户梯度的利用率,使全局模型的准确率和泛化能力进一步提升。通过对该算法的理论分析,本文证明了其正确性和安全性。最后,本文在MNIST与SVHN数据集上进行了大量实验。实验结果表明,相对于现有算法,本文所提算法降低了对参数服务器的可信度假设并提高了全局模型准确率。该研究成果已被信息安全领域国际知名会议Applied Cryptography and Network Security（ACNS）录用。2.针对现有的对抗训练防御算法难以抵御未知算法对抗样本攻击的问题,本文给出对抗引导损失函数的定义,并进一步提出基于对抗引导的模型安全防护训练算法。本文算法提高了机器学习模型对未知算法攻击的鲁棒性,改变敌手生成的对抗噪声的分布,使对抗样本能够被基于显著图的检测机制识别。最后,本文对该算法的正确性进行了理论分析,并在MNIST数据集上针对对抗鲁棒性、可解释性两个方面进行了实验与分析。实验结果表明,该算法对提高机器学习模型对抗鲁棒性有一定的效果,并且较现有算法具有更好的可解释性。

关键词：联邦学习对抗训练置信度评估对抗引导训练

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

全选清除本页清除全部题录导出标记到“检索档案”

共1页 << < 1 > >>

回到顶部

执行限定条件

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：