中文

基于风险规避参与反馈的联邦学习中的目标导向通信

分布式、并行与集群计算 2023-09-06 v1 机器学习

摘要

我们处理联邦学习(FL)设置中的客户端选择问题,其中利用学习目标和参与者的局部激励来构建一个目标导向通信问题。具体地,我们纳入参与者的风险规避特性,并依靠来自参数服务器(\texttt{PS})的反馈,获得通信高效的设备端性能。客户端必须决定其何时不参与 FL 的传输计划。这基于其内在激励,即该客户端参与时训练出的全局模型的价值。糟糕的更新不仅以增加的通信成本拖累全局模型性能,还会在其他参与设备上传播性能损失。我们将局部更新的相关性视为开发局部传输策略的语义信息,即决定何时“不传输”。设备使用关于 PS 状态的反馈,并在每个聚合周期评估其对训练学习模型的贡献,这最终降低了被占用的连接数。仿真结果验证了我们提出方法的有效性,与基线相比通信链路利用率最高获得 1.4×1.4\times 的提升。

关键词

引用

@article{arxiv.2305.11633,
  title  = {Goal-Oriented Communications in Federated Learning via Feedback on Risk-Averse Participation},
  author = {Shashi Raj Pandey and Van Phuc Bui and Petar Popovski},
  journal= {arXiv preprint arXiv:2305.11633},
  year   = {2023}
}