利用基础模型的合成数据辅助联邦学习
机器学习
2024-07-09 v1 人工智能
摘要
在联邦学习（FL）参与者之间的数据分布是非独立同分布（Non-IID）的异构场景中，FL受到众所周知的数据异构性问题的困扰。这导致全局模型难以收敛，从而显著降低FL的性能。为了解决这个问题，我们提出了差分隐私合成数据辅助的基于基础模型的联邦学习（DPSDA-FL），这是一种新颖的数据增强策略，有助于同质化客户端本地的数据分布。DPSDA-FL通过利用从基础模型生成的差分隐私合成数据来改进本地模型的训练。我们通过在基准图像数据集CIFAR-10上进行评估来证明我们方法的有效性。我们的实验结果表明，在存在Non-IID问题的FL中，DPSDA-FL可以将全局模型的类别召回率和分类准确率分别提高高达26%和9%。
引用
@article{arxiv.2407.05174,
title = {Synthetic Data Aided Federated Learning Using Foundation Models},
author = {Fatima Abacha and Sin G. Teo and Lucas C. Cordeiro and Mustafa A. Mustafa},
journal= {arXiv preprint arXiv:2407.05174},
year = {2024}
}