面向 U 形医学图像网络的鲁棒拆分联邦学习
图像与视频处理
2022-12-14 v1 计算机视觉与模式识别
分布式、并行与集群计算
摘要
U 形网络广泛应用于各种医学图像任务中，如分割、复原与重建，但其中大多数通常依赖于集中式学习，因而忽视了隐私问题。为解决隐私顾虑，联邦学习（FL）与拆分学习（SL）已引起越来越多的关注。然而，FL 与 SL 均难以同时平衡本地计算成本、模型隐私与并行训练。为实现这一目标，本文提出面向 U 形医学图像网络的鲁棒拆分联邦学习（RoS-FL），这是一种 FL 与 SL 的新型混合学习范式。先前的工作无法同时保护输入、模型参数、标签与输出等数据隐私。为有效处理所有这些隐私项，我们为 U 形医学图像网络设计了一种新颖的拆分方法，将网络拆分为由不同参与方持有的三部分。此外，分布式学习方法通常受数据异构性导致的本地与全局模型间漂移的困扰。基于此考虑，我们提出动态权重校正策略（DWCS）以稳定训练过程并避免模型漂移。具体而言，设计了一个权重校正损失来量化相邻两个通信轮次模型间的漂移。通过最小化该损失，得到一个校正模型。然后我们将校正模型与最终轮模型的加权和作为结果。所提 RoS-FL 的有效性得到了不同任务上大量实验结果的支持。相关代码将发布于 https://github.com/Zi-YuanYang/RoS-FL。
引用
@article{arxiv.2212.06378,
title = {Robust Split Federated Learning for U-shaped Medical Image Networks},
author = {Ziyuan Yang and Yingyu Chen and Huijie Huangfu and Maosong Ran and Hui Wang and Xiaoxiao Li and Yi Zhang},
journal= {arXiv preprint arXiv:2212.06378},
year = {2022}
}
备注
11 pages, 5 figures