中文

基于 Stackelberg 博弈建模的激励相容联邦学习

机器学习 2025-01-07 v1 分布式、并行与集群计算

摘要

联邦学习(Federated Learning, FL)作为一种去中心化的机器学习范式备受瞩目,它允许客户端在保护数据隐私的同时协同训练全局模型。尽管具有潜力,FL 在异构环境中面临重大挑战,客户端资源和能力的差异可能会损害整体系统性能。现有方法主要侧重于最大化全局模型精度,往往以客户端之间的不公平和次优的系统效率为代价,尤其是在非独立同分布(non-IID)场景下。在本文中,我们提出了 FLamma,一种基于自适应 gamma Stackelberg 博弈的新型联邦学习框架,旨在解决上述局限性并促进公平性。我们的方法允许服务器作为领导者,动态调整衰减因子,而客户端作为跟随者,通过最优选择其本地训练轮数以最大化自身效用。随着时间推移,服务器逐步平衡各客户端的影响力,最初奖励贡献较高的客户端,并逐渐拉平其影响,从而驱动系统达到 Stackelberg 均衡。在 IID 和 non-IID 数据集上的大量仿真表明,我们的方法在不牺牲整体模型性能或收敛速度的情况下,显著提高了精度分布的公平性,优于传统 FL 基线方法。

关键词

引用

@article{arxiv.2501.02662,
  title  = {Incentive-Compatible Federated Learning with Stackelberg Game Modeling},
  author = {Simin Javaherian and Bryce Turney and Li Chen and Nian-Feng Tzeng},
  journal= {arXiv preprint arXiv:2501.02662},
  year   = {2025}
}