从何处起步？联邦学习中从随机初始化到基础模型指导的初始化用于医学图像分割
计算机视觉与模式识别
2023-11-28 v1
摘要
在医学图像分析中，联邦学习（FL）作为一项关键技术脱颖而出，它实现了隐私保护下的去中心化数据处理，对于处理敏感医疗数据至关重要。目前，大多数 FL 模型采用随机初始化，这已在多种实例中被证明有效。然而，鉴于 FL 中非 IID（独立同分布）数据带来的独特挑战，我们提出了一种新视角：探索使用具有海量预训练知识的基础模型（如 Segment Anything Model (SAM)）作为 FL 模型在医学图像分割任务中初始化的指导性教师的影响。本工作首次尝试利用基础模型作为 FL 中初始化的指导性教师，评估其对 FL 模型性能的影响，尤其是在非 IID 数据场景下。我们在胸部 X 光肺分割上的实证评估表明，具有基础模型指导初始化的 FL 不仅在复杂数据环境中实现更快收敛，还提升了性能。这些发现为 FL 中的模型初始化提供了新视角。
引用
@article{arxiv.2311.15463,
title = {Where to Begin? From Random to Foundation Model Instructed Initialization in Federated Learning for Medical Image Segmentation},
author = {Ming Li and Guang Yang},
journal= {arXiv preprint arXiv:2311.15463},
year = {2023}
}