FedBiP：带个人化潜在扩散模型的异构单次联邦学习
机器学习
2025-03-04 v2 计算机视觉与模式识别
分布式、并行与集群计算
多媒体
摘要
单次联邦学习 (OSFL) 作为一种特殊的去中心化机器学习范式近年来受到广泛关注。OSFL 只需一次客户端数据或模型上传，相较于传统联邦学习显著降低了通信成本并缓解了隐私威胁。尽管有上述前景，现有方法在实际 OSFL 系统中因客户端数据异构性和数据数量有限而面临挑战。最近，潜在扩散模型 (LDM) 在大规模数据集上预训练后，展现出在合成高质量图像方面的显著进展，为解决上述问题提供了潜在方案。然而，直接将预训练 LDM 应用于异构 OSFL 会导致合成数据的分布迁移显著，导致基于此类数据训练的分类模型性能下降。这种问题在稀有领域（如医学影像）尤为突出，这类领域在 LDM 预训练数据中欠represent。为此，我们提出了联邦双层个人化 (FedBiP)，在实例级和概念级对预训练 LDM 进行个人化。FedBiP 在不损害隐私法规的前提下，遵循客户端本地数据分布合成图像。FedBiP 也是首次同时解决特征空间异构性和客户端数据稀缺性的问题。我们在三个包含特征空间异构性的 OSFL 基准测试上以及在具有标签异构性的医学和卫星图像数据集上进行了广泛实验。结果表明，FedBiP 有效而显著优于其他 OSFL 方法。
引用
@article{arxiv.2410.04810,
title = {FedBiP: Heterogeneous One-Shot Federated Learning with Personalized Latent Diffusion Models},
author = {Haokun Chen and Hang Li and Yao Zhang and Jinhe Bi and Gengyuan Zhang and Yueqi Zhang and Philip Torr and Jindong Gu and Denis Krompass and Volker Tresp},
journal= {arXiv preprint arXiv:2410.04810},
year = {2025}
}
备注
CVPR 2025