一种基于联盟形成博弈的个性化联邦学习方法
人工智能
2022-02-09 v2 分布式、并行与集群计算
机器学习
摘要
面对客户端本地数据分布统计异构的挑战，个性化联邦学习（PFL）已成为日益增长的研究热点。尽管现有基于模型相似度的成对协作方法取得了良好性能，但它们忽视了模型聚合本质上是联盟内的协作过程，其中客户端间存在复杂的多方影响。本文首先将联盟博弈论中的Shapley值（SV）引入PFL场景。为衡量一组客户端在个性化学习效果上的多方协作，SV将其对最终结果边际贡献作为度量。我们提出一种新个性化算法：pFedSV，其能够1. 识别每个客户端的最优协作联盟，以及2. 基于SV执行个性化模型聚合。在不同非独立同分布数据设置（Pathological与Dirichlet）下，基于多个数据集（MNIST、Fashion-MNIST与CIFAR-10）进行了大量实验。结果表明，与最先进基准相比，pFedSV能为每个客户端实现更优的个性化精度。
引用
@article{arxiv.2202.02502,
title = {A Coalition Formation Game Approach for Personalized Federated Learning},
author = {Leijie Wu and Song Guo and Yaohong Ding and Yufeng Zhan and Jie Zhang},
journal= {arXiv preprint arXiv:2202.02502},
year = {2022}
}
备注
6 pages exclude the reference, 6 figures