基于协同网络与度量学习的标签噪声鲁棒联邦学习方法

作     者：吴飞 张家宾 岳晓凡 季一木 荆晓远 WU Fei;ZHANG Jiabin;YUE Xiaofan;JI Yimu;JING Xiaoyuan

作者机构：南京邮电大学自动化学院、人工智能学院南京210003 南京邮电大学计算机学院南京210003 武汉大学计算机学院武汉430072 

出 版 物：《计算机科学》 (Computer Science)

年 卷 期：2024年第51卷第10期

页      面：391-398页

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(62076139) 之江实验室开放课题(2021KF0AB05) 未来网络科研基金项目(FNSRFP-2021-YB-15) 南京邮电大学1311人才计划 

主　　题：鲁棒联邦学习 标签噪声 协同网络 度量学习 

摘      要：针对联邦学习中标签噪声问题的研究较少,目前的主流方法是,服务器端引入基准数据集对客户端的模型进行评估,对客户端的聚合权重、特征类中心进行控制等,但大多数方法区分噪声客户端/噪声样本的能力尚有提升空间。文中提出了一种基于协同网络与度量学习的标签噪声鲁棒联邦学习方法。该方法由以下3部分组成:1)客户端互评分机制:客户端为彼此模型评分,构建评分矩阵,进一步将其转化为邻接矩阵,以区分干净/噪声客户端。2)协同网络模块:通过构建两个协同对等的联邦网络模型,使用简森-香农散度为协同网络彼此的训练区分干净样本与噪声样本。3)联邦-协同网络三元组损失:为噪声样本设计损失函数,约束同一噪声样本协同网络的输出特征。在CIFAR-10和CIFAR-100两个公开数据集上进行实验验证,结果表明所提方法在准确性上具有优势。