面向真实世界医疗联邦学习的个性化抗退化框架
计算机视觉与模式识别
2021-10-04 v1 人工智能
分布式、并行与集群计算
机器学习
摘要
如今，基于大规模数据集的深度学习方法可产出具有临床实用价值的计算机辅助诊断模型。然而，隐私与伦理问题日益严峻，使得从多家机构收集大量数据变得困难。联邦学习（FL）提供了一种有前景的分布式解决方案，通过交换客户端模型而非私有数据来协同训练。然而，现有 FL 方法的服务器聚合在真实世界医疗 FL 场景中被观察到会降低模型性能，这被称为退化（retrogress）。为解决该问题，我们提出一种个性化抗退化框架，为每个客户端产出更优的个性化模型。具体而言，我们在服务器端设计渐进式傅里叶聚合（PFA），通过从低频到高频逐步整合客户端模型，实现更稳定有效的全局知识收集。此外，借助引入的副手模型接收聚合的服务器模型，我们在客户端设计副手增强迁移（DET）策略，并执行恢复-交换-升华三步，以平滑迁移全局知识来改进个性化本地模型。在真实世界皮肤镜 FL 数据集上的大量实验证明，我们的个性化抗退化框架优于最先进的 FL 方法，且在分布外队列上具有泛化性。代码与数据集见 https://github.com/CityU-AIM-Group/PRR-FL。
引用
@article{arxiv.2110.00394,
title = {Personalized Retrogress-Resilient Framework for Real-World Medical Federated Learning},
author = {Zhen Chen and Meilu Zhu and Chen Yang and Yixuan Yuan},
journal= {arXiv preprint arXiv:2110.00394},
year = {2021}
}
备注
MICCAI 2021 Oral. Code and dataset available at https://github.com/CityU-AIM-Group/PRR-FL