相似度感知蒸馏的统一弱监督个性化联邦图像分割

作     者：潘建珊 林立 吴洁伟 刘翼翔 陈孝华 林其友 黄建业 唐晓颖 Pan Jianshan;Lin Li;Wu Jiewei;Liu Yixiang;Chen Xiaohua;Lin Qiyou;Huang Jianye;Tang Xiaoying

作者机构：深圳市公共信用中心深圳518000 南方科技大学电子与电气工程系深圳518000 香港大学电机电子工程系中国香港999077 南方科技大学嘉兴研究院嘉兴314000 

出 版 物：《中国图象图形学报》 (Journal of Image and Graphics)

年 卷 期：2024年第29卷第3期

页      面：620-636页

核心收录：

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家重点研发计划资助(2023YFC2415400) 国家自然科学基金项目(62071210) 深圳市科创委研究项目基金(RCYX20210609103056042) 深圳市科创委可持续发展专项基金项目(KCXFZ2020122117340001) 广东省基础与应用基础研究项目(2021A1515220131) 国家市场监督管理总局科技计划项目(2021MK128) 

主　　题：相似度感知 知识蒸馏 弱监督学习 个性化联邦学习 医学图像分割 

摘      要：目的 联邦学习允许多个机构在不侵犯数据隐私、安全的前提下协作训练强大的深度模型。现有多数联邦范式在处理多中心不同数据分布时性能通常会下降,且弱监督条件下的联邦范式鲜有研究,特别是各站点数据采用不同形式稀疏标注的情况。针对该问题,提出一种站点分布相似度感知知识蒸馏的统一弱监督个性化联邦学习框架(unified weakly supervised personalized federated image segmentation via similarity-aware distillation,pFedWSD),以应对多中心数据分布和标注上的差异。方法 所提出的pFedWSD通过循环知识蒸馏为每个站点训练个性化模型,包含动态循环公共知识积累及个性化两个阶段。第1阶段以不确定度感知方式动态地排序每轮训练中各站点模型性能,并以循环知识蒸馏的形式积累公共知识;第2阶段通过批标准化层的统计信息来度量各站点间相似性并聚合得到各站点教师模型并进行知识蒸馏。在弱监督方面,引入门控条件随机场损失和树能量损失相结合的训练目标,以产生更为精确的伪标注监督信号。结果 在眼底视杯视盘分割和视网膜中心凹无血管区分割两项任务中,pFedWSD的Dice系数和HD95(95%Hausdorff distance)指标均优于多种中心式联邦和个性化联邦方法,在两项任务中,Dice系数分别为90.38%和93.12%,相比于较先进的方法FedAP(federated learning with adaptive batchnorm for personalized healthcare)和FedALA(adaptive local aggregation for personalized federated learning)分别提升了1.67%和6.56%,性能接近于全监督集中式训练所得的模型。结论 本文提出的弱监督个性化联邦学习框架能有效统一不同形式稀疏标注数据并对不同分布的各站点数据训练得到个性化模型,使各站点分割性能均得到显著提升。