通过多维个性化边缘模型实现更公平更高效的联邦学习
机器学习
2023-04-28 v2 人工智能
分布式、并行与集群计算
摘要
联邦学习(FL)是一种在保持隐私的同时训练海量且地理分布的边缘数据的新兴技术。然而,由于边缘异构性的日益增强,FL在公平性和计算效率方面存在固有挑战,因此在近期最先进(SOTA)方案中通常导致次优性能。本文提出一种定制化联邦学习(CFL)系统,从多个维度消除FL异构性。具体而言,CFL在专门设计的全局模型基础上,由在线训练的模型搜索辅助器和新颖的聚合算法联合指导,为每个客户端定制个性化模型。大量实验表明,CFL在FL训练和边缘推理方面具有全栈优势,并显著提升了SOTA性能,在模型精度(非异构环境下最高提升7.2%,异构环境下最高提升21.8%)、效率和FL公平性方面均有改善。
引用
@article{arxiv.2302.04464,
title = {Towards Fairer and More Efficient Federated Learning via Multidimensional Personalized Edge Models},
author = {Yingchun Wang and Jingcai Guo and Jie Zhang and Song Guo and Weizhan Zhang and Qinghua Zheng},
journal= {arXiv preprint arXiv:2302.04464},
year = {2023}
}
备注
8 pages, 7 figures