显式个性化与局部训练：联邦学习中的双重通信加速
机器学习
2023-05-23 v1
摘要
联邦学习是一种不断演进的机器学习范式，其中多个客户端基于各自的私有数据执行计算，并与远程服务器间歇通信。降低通信成本的常见策略是局部训练，即在连续通信轮次之间执行多次局部随机梯度下降步骤。然而，传统的局部训练方法忽视了客户端特定个性化的实际必要性，该技法则用于使局部模型适配个体需求。我们提出 Scafflix，一种将显式个性化与局部训练高效融合的新算法。这一创新方法得益于上述两种技术，从而实现了双重通信加速，我们在理论与实践中均予以证明。
引用
@article{arxiv.2305.13170,
title = {Explicit Personalization and Local Training: Double Communication Acceleration in Federated Learning},
author = {Kai Yi and Laurent Condat and Peter Richtárik},
journal= {arXiv preprint arXiv:2305.13170},
year = {2023}
}