面向 5G+ 移动设备上高能效联邦学习的研究
机器学习
2021-01-14 v1 网络与互联网体系结构
摘要
机器学习算法、5G 及更高代（5G+）无线通信与人工智能（AI）硬件实现的持续融合，加速了 5G+ 移动设备上联邦学习（FL）的诞生，其将 AI 功能推至移动设备并开启了设备端 AI 应用的新时代。尽管 FL 取得了显著进展，巨大的能耗仍是制约电池受限的 5G+ 移动设备上 FL 发展的最显著障碍之一。为解决此问题，本文通过权衡“工作”（即本地计算）与“通信”（即无线通信）的能耗以提升整体能效，研究如何在 5G+ 移动设备上开发高能效的 FL。具体而言，我们首先考察图形处理单元（GPU）计算与无线传输的能耗模型。然后，我们概述将 FL 流程与高能效学习技术（如梯度稀疏化、权重量化、剪枝等）相整合的研究现状。最后，我们从能效角度提出 5G+ 移动设备上 FL 的几个潜在未来研究方向。
引用
@article{arxiv.2101.04866,
title = {Towards Energy Efficient Federated Learning over 5G+ Mobile Devices},
author = {Dian Shi and Liang Li and Rui Chen and Pavana Prakash and Miao Pan and Yuguang Fang},
journal= {arXiv preprint arXiv:2101.04866},
year = {2021}
}
备注
submitted to IEEE Wireless Communications