一种基于区块链的隐私保护异步联邦学习

作     者：高胜 袁丽萍 朱建明 马鑫迪 章睿 马建峰 Sheng GAO;Liping YUAN;Jianming ZHU;Xindi MA;Rui ZHANG;Jianfeng MA

作者机构：中央财经大学信息学院北京100081 西安电子科技大学网络与信息安全学院西安710071 中国科学院信息工程研究所北京100093 

出 版 物：《中国科学：信息科学》 (Scientia Sinica(Informationis))

年 卷 期：2021年第51卷第10期

页      面：1755-1774页

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 0839[工学-网络空间安全] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 081201[工学-计算机系统结构] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(批准号:62072487,61902290) 北京市自然科学基金(批准号:M21036) 全国统计科学研究(批准号:2020LD01) 陕西省重点研发计划(批准号:2020ZDLGY09-06,2019ZDLGY12-04)资助项目 

主　　题：联邦学习 区块链 差分隐私 模型效用 异步训练 

摘      要：联邦学习能够在保障本地数据隐私前提下利用分布式数据和计算资源实现机器学习模型联合训练.现有异步联邦学习有效解决了同步联邦学习所存在的计算资源浪费、训练效率低等问题.然而,现有异步联邦学习通过聚合不同节点训练得到局部模型,并通过中心服务器完成全局模型更新,内生性地受制于中心化信用模式,存在单点失效、隐私泄露等问题.为此,提出了一种基于区块链的隐私保护异步联邦学习,通过上链局部模型并通过共识算法生成全局模型,保证异步联邦学习的可信性.为了保证联邦学习的隐私性,同时提高模型效用,提出利用差分隐私中的指数机制以高概率选择贡献度高的模型梯度,并分配较低的隐私预算以保证局部模型的隐私性.另一方面,针对异步联邦学习时钟不同步问题,提出了双因子调整机制进一步提高全局模型效用.最后,理论分析与实验结果表明所提出的方案能有效保证异步联邦学习的可信性和隐私性,同时提高了模型效用.