FedALA：面向个性化联邦学习的自适应局部聚合
机器学习
2023-09-19 v4 人工智能
摘要
联邦学习（FL）中的一个关键挑战是统计异质性，它损害了全局模型在每个客户端上的泛化能力。为此，我们提出了一种具有自适应局部聚合的联邦学习方法（FedALA），通过在个性化 FL 中捕获全局模型中客户端模型所需的信息来解决这个问题。FedALA 的关键组件是一个自适应局部聚合（ALA）模块，它可以在每次迭代训练前，在每个客户端上针对局部目标自适应地聚合下载的全局模型和局部模型，以初始化局部模型。为了评估 FedALA 的有效性，我们在计算机视觉和自然语言处理领域的五个基准数据集上进行了大量实验。FedALA 在测试准确率上比十一个最先进基线高出至多 3.27%。此外，我们还将 ALA 模块应用于其他联邦学习方法，并实现了至多 24.19% 的测试准确率提升。
引用
@article{arxiv.2212.01197,
title = {FedALA: Adaptive Local Aggregation for Personalized Federated Learning},
author = {Jianqing Zhang and Yang Hua and Hao Wang and Tao Song and Zhengui Xue and Ruhui Ma and Haibing Guan},
journal= {arXiv preprint arXiv:2212.01197},
year = {2023}
}
备注
Accepted by AAAI 2023