个性化与否:带激励的动态个性化联邦学习
机器学习
2022-09-23 v2 人工智能
摘要
个性化联邦学习(FL)促进多个客户端协作学习个性化模型而不共享私有数据。该机制缓解了系统中常见的统计异质性,即不同客户端上的非独立同分布(non-IID)数据。现有个性化算法通常假设所有客户端都自愿进行个性化。然而,潜在参与者仍可能不愿个性化模型,因为其可能表现不佳。此时,客户端选择使用全局模型。为避免不切实际的假设,我们将个性化率(定义为愿意训练个性化模型的客户端比例)引入联邦设置,并提出 DyPFL。这一动态个性化 FL 技术激励客户端参与本地模型个性化,同时允许在全局模型表现更优时采用之。我们证明 DyPFL 的算法流程保证了良好的收敛性能,使其在广泛条件下(包括异质性、客户端数量、本地轮次和批大小的变化)优于其他个性化方法。
引用
@article{arxiv.2208.06192,
title = {Personalizing or Not: Dynamically Personalized Federated Learning with Incentives},
author = {Zichen Ma and Yu Lu and Wenye Li and Shuguang Cui},
journal= {arXiv preprint arXiv:2208.06192},
year = {2022}
}
备注
Withdrawal for further revision