以用户为中心的联邦学习:在无线资源与个性化之间权衡
机器学习
2023-04-26 v1
摘要
联邦学习(FL)系统中客户端间的统计异构性增加了算法收敛时间并降低了泛化性能,导致以较差的模型换取巨大的通信开销。为在不违反 FL 所施加隐私约束的前提下解决上述问题,个性化 FL 方法须将统计相似的客户端耦合起来,而不能直接访问其数据,以保证隐私保护的迁移。本工作中,我们在参数服务器(PS)上设计了以用户为中心的聚合规则,其基于易得的梯度信息,并能为每个 FL 客户端生成个性化模型。所提聚合规则受加权聚合经验风险最小化器上界的启发。其次,我们推导了基于用户聚类的通信高效变体,极大提升了其在通信受限系统中的适用性。我们的算法在平均准确率、最差节点性能与训练通信开销方面优于流行的个性化 FL 基线。
引用
@article{arxiv.2304.12930,
title = {User-Centric Federated Learning: Trading off Wireless Resources for Personalization},
author = {Mohamad Mestoukirdi and Matteo Zecchin and David Gesbert and Qianrui Li},
journal= {arXiv preprint arXiv:2304.12930},
year = {2023}
}
备注
arXiv admin note: substantial text overlap with arXiv:2110.09869