联邦学习中防御投毒攻击的客户端筛选策略

作     者：徐鹤 张迪 李鹏 季一木 

作者机构：南京邮电大学计算机学院软件学院网络空间安全学院 南京邮电大学网络安全与可信计算研究所 江苏省高性能计算与智能处理工程研究中心 

出 版 物：《南京邮电大学学报(自然科学版)》 (Journal of Nanjing University of Posts and Telecommunications(Natural Science Edition))

年 卷 期：2024年

学科分类：08[工学] 0839[工学-网络空间安全] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(6210219和62102196) 江苏省重点研发计划(BE2019740) 江苏省教育厅高等学校自然科学研究项目(20KJA520001) 江苏省六大人才高峰高层次人才项目(RJFW-111)资助项目 

主　　题：联邦学习 投毒攻击 差分隐私 指数机制 

摘      要：联邦学习是一种解决数据孤岛问题的方法，但随着攻击模型的不断进化，敌手可能在训练过程中注入有害参数，导致模型训练效果下降。为了增强联邦学习模型训练过程的安全性，设计了一种面向联邦学习投毒攻击的客户端筛选策略。在该策略中，基于差分隐私指数机制的评分函数来动态更新权重参数。首先，为每个客户端分配一致的权重参数；然后，将每一轮训练的效果作为评估标准，进行量化，并将量化结果传递至所构建的更新函数中；接着服务器根据这些更新后的权重参数，筛选出适合参与本轮训练的客户端，并对这些客户端上传的训练模型进行聚合。整个流程反复进行多轮次，最终得出一个有效可靠的训练模型。最后，通过实验验证了文中所提出的策略在面对敌手投毒攻击下的可行性。