利用服务器端信息的个性化联邦学习
机器学习
2022-06-14 v2 人工智能
摘要
个性化联邦学习（FL）是联邦学习中一个新兴的研究领域，其在客户端数据异构的情况下学习一个易于适应的全局模型。然而，个性化 FL 的主要挑战之一是严重依赖客户端的计算资源来计算高阶梯度，因为客户端数据与服务端隔离以确保隐私。为解决此问题，我们关注一种服务端可能拥有独立于客户端数据的数据的问题设定——这在各类应用中十分普遍，但在现有文献中相对未被探索。具体而言，我们提出 FedSIM，一种利用此类服务器数据改进服务端元梯度计算以提升个性化性能的个性化 FL 新方法。通过大量基准与消融实验，我们证明 FedSIM 在准确率上优于现有方法，通过在服务端计算完整元梯度而更具计算效率，且收敛速度最高快 34.2%。
引用
@article{arxiv.2205.11044,
title = {Personalized Federated Learning with Server-Side Information},
author = {Jaehun Song and Min-hwan Oh and Hyung-Sin Kim},
journal= {arXiv preprint arXiv:2205.11044},
year = {2022}
}