FedDM：提高联邦扩散模型通信效率并处理数据异构性的框架
机器学习
2024-07-23 v1 计算机视觉与模式识别
分布式、并行与集群计算
摘要
我们提出FedDM，一个用于联邦训练扩散模型的新颖训练框架。我们的理论分析在联邦设置下保证了扩散模型的收敛，呈现了这种收敛得以保证的具体条件。我们提出了一套训练算法，利用U-Net架构作为扩散模型的 backbone。这些包括基本的Federated Averaging变体FedDM-vanilla、用于处理客户端之间数据异构性的FedDM-prox，以及集成量化模块以减少模型更新大小以提高联邦网络通信效率的FedDM-quant。我们在FashionMNIST（28x28分辨率）、CIFAR-10（32x32分辨率）和CelebA（64x64分辨率）上评估DDPMs，以及在LSUN Church Outdoors（256x256分辨率）上评估LDMs，仅关注影像模态。我们的评估结果表明，FedDM算法在各种图像分辨率下保持高质量的生成。同时，采用量化更新和proximal项进行本地训练目标，显著提高了通信效率（最高可提高4倍）和模型收敛，尤其是在非IID数据设置下，代价是FID分数上升（最高可提高1.75倍）。
引用
@article{arxiv.2407.14730,
title = {FedDM: Enhancing Communication Efficiency and Handling Data Heterogeneity in Federated Diffusion Models},
author = {Jayneel Vora and Nader Bouacida and Aditya Krishnan and Prasant Mohapatra},
journal= {arXiv preprint arXiv:2407.14730},
year = {2024}
}
备注
13 pages,3 figures, 2 algorithms, 3 tables