基于标签分类的联邦学习客户端选择方法
作者机构:唐山市数据科学重点实验室(华北理工大学) 华北理工大学理学院 河北省数据科学与应用重点实验室(华北理工大学)
出 版 物:《计算机应用》 (Journal of Computer Applications)
年 卷 期:2024年
学科分类:12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 080203[工学-机械设计及理论] 0835[工学-软件工程] 0802[工学-机械工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
主 题:联邦学习 非独立同分布 客户端选择 频数统计 分类排序
摘 要:联邦学习作为一种分布式的机器学习方法,在保护数据隐私的同时可以充分挖掘其中的价值。由于传统的联邦学习训练方法只是随机选择参与客户端,因此难以适应非独立同分布(Not Identically and Independently Distributed,Non-IID)数据集。针对Non-IID数据下联邦学习模型精度低、收敛速度慢等问题,提出一种基于标签分类的联邦客户端选择(Federated Client Selection based on Label Classification,FedLCCS)方法。首先对客户端数据集标签按照频数统计结果进行分类排序,其次选择拥有高频数标签的客户端参与训练,最后通过调节自有参数来获取不同精度的模型。在MNIST、Fashion-MNIST和Cifar-10数据集下的实验表明,结合FedLCCS方法后的联邦平均(Federated Averaging,FedAvg)、联邦近端优化(Federated Proximal,FedProx)两种基线方法在初始数据集标签选择比例下准确率最多提高约17个百分点,收敛速度最多提升约60%,整体运行时间最多降低约35%。验证了FedLCCS方法可以优化联邦模型的精度、收敛速度和运行时间,并且能够训练不同精度的模型应对多样化的需求。