基于单位模空中计算的边缘联邦学习
信息论
2022-04-12 v5 人工智能
math.IT
摘要
边缘联邦学习（FL）是一种基于无线通信从分布式数据集训练全局参数模型的新兴范式。本文提出一种单位模空中计算（UMAirComp）框架以促进高效的边缘联邦学习，其通过模拟波束成形同时上传本地模型参数并更新全局模型参数。所提框架避免了复杂的基带信号处理，从而带来低通信延迟与实现成本。推导了 UMAirComp FL 系统的训练损失界，并提出了两种低复杂度大规模优化算法，称为惩罚交替最小化（PAM）与加速梯度投影（AGP），以最小化非凸非光滑损失界。仿真结果表明，采用 PAM 算法的 UMAirComp 框架相较于其他基准方案取得了更小的模型参数估计均方误差、训练损失与测试误差。此外，采用 AGP 算法的 UMAirComp 框架取得了令人满意的性能，同时与现有优化算法相比将计算复杂度降低了数个数量级。最后，我们在车联网自动驾驶仿真平台上展示了 UMAirComp 的实现。研究发现，由于自动驾驶的神经网络包含更稀疏的模型参数，自动驾驶任务比其他任务对模型参数误差更敏感。
引用
@article{arxiv.2101.12051,
title = {Edge Federated Learning Via Unit-Modulus Over-The-Air Computation},
author = {Shuai Wang and Yuncong Hong and Rui Wang and Qi Hao and Yik-Chung Wu and Derrick Wing Kwan Ng},
journal= {arXiv preprint arXiv:2101.12051},
year = {2022}
}
备注
IEEE Transactions on Communications, vol. 70, no. 5, 2022