FedDifRC：基于扩散表示协作的异构化联邦学习方法
机器学习
2025-07-21 v2
摘要
联邦学习旨在保护隐私的同时跨多个参与者协同训练模型，但该范式面临数据异构性问题——即跨客户端数据偏好不均，损害模型的收敛性和性能。本文首次引入强大的扩散模型进入联邦学习范式，表明扩散表示在联邦训练中具有有效的引导作用。为探索扩散表示处理数据异构性的可能性，我们提出了一种基于扩散表示协作的新颖联邦范式，称为FedDifRC，利用扩散模型提供的有意义的引导来缓解数据异构性。核心思想是构建文本驱动的扩散对比和噪声驱动的扩散正则化，以提供丰富的类别相关语义信息和一致的收敛信号。在一个方面，我们利用扩散模型对不同文本提示的条件反馈，构建文本驱动的对比学习策略。在另一个方面，我们引入噪声驱动的一致性正则化，将本地实例与扩散去噪表示对齐，约束特征空间中的优化区域。此外，FedDifRC可扩展为无需依赖任何标记数据即可运行的自监督方案。我们还对FedDifRC进行理论分析，确保在非凸目标下具备收敛性。在不同情景下的实验验证了FedDifRC的有效性以及关键组件的效率。
引用
@article{arxiv.2507.06482,
title = {FedDifRC: Unlocking the Potential of Text-to-Image Diffusion Models in Heterogeneous Federated Learning},
author = {Huan Wang and Haoran Li and Huaming Chen and Jun Yan and Jiahua Shi and Jun Shen},
journal= {arXiv preprint arXiv:2507.06482},
year = {2025}
}
备注
11 Pages, ICCV 2025