中文

按需招募:基于拍卖的联邦学习的渐进式参与者招募

机器学习 2023-12-20 v2 分布式、并行与集群计算

摘要

联邦学习(FL)的成功取决于数据所有者(DOs)的数量与质量,以及其参与 FL 模型训练的动机。已有基于声誉的 FL 参与者选择方法被提出。然而,它们仍面临冷启动问题以及对高声誉 DOs 潜在选择偏倚的挑战。此类偏倚会导致低声誉 DOs 被过早排除于未来 FL 训练轮次之外,从而降低训练数据的多样性与所得模型的泛化能力。为应对这些挑战,我们提出了基于拍卖的联邦学习的渐进式参与者选择方案(GPS-AFL)。不同于现有 AFL 激励机制通常假定 FL 任务所需全部 DOs 须一次性选定,GPS-AFL 随着重复交互揭示出更多信息,在多个训练轮次中逐步选定所需 DOs。其旨在节约成本与提升性能之间取得平衡,同时缓解基于声誉的 FL 中选拔偏倚的弊端。基于真实世界数据集的大量实验证明了 GPS-AFL 的显著优势:与性能最优的现有 SOTA 方法相比,平均降低成本 33.65%,总效用提升 2.91%。

关键词

引用

@article{arxiv.2310.02651,
  title  = {Hire When You Need to: Gradual Participant Recruitment for Auction-based Federated Learning},
  author = {Xavier Tan and Han Yu},
  journal= {arXiv preprint arXiv:2310.02651},
  year   = {2023}
}

备注

9 Pages, 3 figures, 4 tables