基于激励机制的联邦学习优化算法
Federated learning optimization algorithm based on incentive mechanism作者机构:贵州大学公共大数据国家重点实验室贵州贵阳550025 贵州大学计算机科学与技术学院贵州贵阳550025 贵州大学密码学与数据安全研究所贵州贵阳550025 贵州大学大数据与信息工程学院贵州贵阳550025
出 版 物:《通信学报》 (Journal on Communications)
年 卷 期:2023年第44卷第5期
页 面:169-180页
核心收录:
学科分类:080904[工学-电磁场与微波技术] 0810[工学-信息与通信工程] 0809[工学-电子科学与技术(可授工学、理学学位)] 08[工学] 080402[工学-测试计量技术及仪器] 0804[工学-仪器科学与技术] 081001[工学-通信与信息系统]
基 金:国家重点研发计划基金资助项目(No.2021YFB3101100) 国家自然科学基金资助项目(No.U1836205,No.62272123) 贵州省高层次创新型人才基金资助项目(黔科合平台人才6008) 贵阳市科技计划基金资助项目(筑科合1-5,筑科合2-4) 贵州省科技计划基金资助项目(黔科合平台人才5017,黔科合支撑一般065) 贵州大学人才引进基金资助项目(贵大人基合字-53)
摘 要:针对联邦学习的训练过程迭代次数多、训练时间长、效率低等问题,提出一种基于激励机制的联邦学习优化算法。首先,设计与时间和模型损失相关的信誉值,基于该信誉值,设计激励机制激励拥有高质量数据的客户端加入训练。其次,基于拍卖理论设计拍卖机制,客户端通过向雾节点拍卖本地训练任务,委托高性能雾节点训练本地数据从而提升本地训练效率,解决客户端间的性能不均衡问题。最后,设计全局梯度聚合策略,增加高精度局部梯度在全局梯度中的权重,剔除恶意客户端,从而减少模型训练次数。