中文

线上评分辅助的联邦学习:驾驭无线网络中的资源约束

机器学习 2025-08-28 v4 分布式、并行与集群计算 网络与互联网体系结构 系统与控制 系统与控制

摘要

尽管联邦学习(FL)是广受欢迎的分布式机器学习(ML)策略,但时间可变的无线网络参数和无线设备的异构配置构成了重大挑战。尽管网络和客户端的有限无线电资源和计算资源已广为人知,但仍有两个关键且常被忽视的方面:(a)无线设备只能为 FL 任务保留有限的存储空间,(b)新的训练样本在许多实际无线应用中以在线方式到达。因此,我们提出了一种新型 FL 算法,称为基于线上评分的联邦学习(OSAFL),专为针对这些实际考虑因素在无线应用场景中设计任务而开发。由于客户端在资源受限条件下的本地训练步数不同,可能导致在统计上异构的数据分布下出现客户端漂移,因此我们利用归一化梯度相似性并基于优化评分对客户端更新进行加权,以促进所提出 OSAFL 算法的收敛速率,而不会给客户端带来任何通信开销,或要求从他们那里获取任何统计数据信息。我们理论上展示了新的因素,即在线评分和本地数据分布偏移,如何影响收敛界限,并推导出亚线性收敛速率的必要条件。我们在多个主流 ML 模型上通过大量仿真结果验证了所提出 OSAFL 算法在两个不同任务上的有效性,优于修改后的最新 FL 基线方法。

关键词

引用

@article{arxiv.2408.05886,
  title  = {Online-Score-Aided Federated Learning: Taming the Resource Constraints in Wireless Networks},
  author = {Ferdous Pervej and Minseok Choi and Andreas F. Molisch},
  journal= {arXiv preprint arXiv:2408.05886},
  year   = {2025}
}

备注

Under review for possible publication in IEEE Transactions on Communications