中文

PAUSE:面向联邦学习的低延迟与隐私感知主动用户选择

机器学习 2025-10-22 v2 信号处理

摘要

联邦学习(FL)使多个边缘设备能够协作训练机器学习模型,而无需共享潜在的隐私数据。联邦学习通过迭代交换模型更新来进行,这带来了两个关键挑战:一是隐私泄漏随时间累积,二是通信延迟。这两个局限性通常被分别处理:前者通过对更新进行扰动以增强隐私,后者利用用户选择以缓解延迟——两者均以牺牲准确性为代价。在本工作中,我们提出了一种通过主动用户选择联合解决隐私泄漏累积与通信延迟的方法,旨在改善隐私、延迟与模型性能之间的权衡。为实现这一目标,我们构建了一个兼顾这三个目标的奖励函数。基于该奖励,我们提出了一种基于多臂老虎机(MAB)的算法,称为隐私感知主动用户选择(PAUSE),该算法在每轮动态选择用户子集的同时确保总体隐私泄漏有界。我们建立了理论分析,系统性地表明 PAUSE 的奖励增长率遵循 MAB 文献中已知的最佳速率。为解决主动用户选择的复杂度开销,我们提出了一种基于模拟退火的 PAUSE 松弛方法,并分析了其在降低复杂度下逼近奖励最大化策略的能力。我们在多种场景下通过数值实验验证了该方法的隐私泄漏、相关的延迟改善以及在联邦训练中的准确性提升。

关键词

引用

@article{arxiv.2503.13173,
  title  = {PAUSE: Low-Latency and Privacy-Aware Active User Selection for Federated Learning},
  author = {Ori Peleg and Natalie Lang and Dan Ben Ami and Stefano Rini and Nir Shlezinger and Kobi Cohen},
  journal= {arXiv preprint arXiv:2503.13173},
  year   = {2025}
}