中文

GTFLAT:基于博弈论增强联邦学习聚合技术的附加模块

机器学习 2022-12-09 v1 人工智能 分布式、并行与集群计算 计算机科学与博弈论

摘要

GTFLAT 作为一种基于博弈论的附加模块,解决了一个重要研究问题:联邦学习算法如何通过在模型聚合阶段设置更有效的自适应权重进行平均,从而获得更好性能与训练效率?回答该问题的理想方法的主要目标是:(1) 使联邦学习算法在更少通信轮数内达到更好性能,尤其在异构场景下;(2) 易于作为新模块与最先进(SOTA)联邦学习算法配合使用。为此,GTFLAT 将平均任务建模为活跃用户间的策略博弈,进而提出基于种群博弈与演化动力学寻找均衡的系统化方案。与现有将权重强加于参与者的方法不同,GTFLAT 在客户端间达成自我执行的协议,使得任何一方都无单独偏离的动机。结果表明,使用 GTFLAT 平均提升 top-1 测试精度 1.38%,同时达到该精度所需通信轮数减少 21.06%。

关键词

引用

@article{arxiv.2212.04103,
  title  = {GTFLAT: Game Theory Based Add-On For Empowering Federated Learning Aggregation Techniques},
  author = {Hamidreza Mahini and Hamid Mousavi and Masoud Daneshtalab},
  journal= {arXiv preprint arXiv:2212.04103},
  year   = {2022}
}