DSFedMed：通过基础模型与轻量级模型互蒸馏的双尺度联邦医学图像分割
计算机视觉与模式识别
2026-01-23 v1 分布式、并行与集群计算
摘要
基础模型（FMs）在多种视觉任务中展现出强大的泛化能力。然而，它们在联邦设置中的部署受到高计算需求、大量通信开销和显著推理成本的阻碍。我们提出了 DSFedMed，一个双尺度联邦框架，该框架在集中式基础模型和轻量级客户端模型之间实现相互知识蒸馏，用于医学图像分割。为了支持知识蒸馏，我们生成了一组高质量医学图像来替代真实的公共数据集，并提出了一种可学习性引导的样本选择策略，以提高双尺度蒸馏的效率和有效性。这种相互蒸馏使基础模型能够将通用知识迁移到轻量级客户端，同时融入客户端特定的见解来优化基础模型。在五个医学成像分割数据集上的评估表明，与现有的联邦基础模型基线相比，DSFedMed 在 Dice 分数上平均提高了 2 个百分点，同时将通信成本和推理时间降低了近 90%。这些结果证明了在资源受限的联邦部署中显著的效率提升和可扩展性。
引用
@article{arxiv.2601.16073,
title = {DSFedMed: Dual-Scale Federated Medical Image Segmentation via Mutual Distillation Between Foundation and Lightweight Models},
author = {Hanwen Zhang and Qiaojin Shen and Yuxi Liu and Yuesheng Zhu and Guibo Luo},
journal= {arXiv preprint arXiv:2601.16073},
year = {2026}
}