无线网络中面向异步联邦学习的自适应传输调度
信息论
2021-08-31 v2 机器学习
math.IT
摘要
在本文中，我们研究无线分布式学习网络（WDLN）中的异步联邦学习（FL）。为使各边缘设备能通过异步 FL 更高效地利用本地数据，WDLN 中面向异步 FL 的传输调度须谨慎确定，并考虑系统不确定性（如时变信道与随机数据到达）以及 WDLN 中稀缺的无线资源。为此，我们提出一种称为有效性分数（effectivity score）的度量，表示异步 FL 所带来的学习量。随后我们建立异步学习感知的传输调度（ALS）问题以最大化有效性分数，并设计了三种 ALS 算法——ALSA-PI、BALSA 与 BALSA-PO——来求解该问题。若已知关于不确定性的统计信息，该问题可由 ALSA-PI 最优且高效地求解。即便未知，也可由 BALSA 基于贝叶斯方法利用设备上报的状态信息学习不确定性从而最优求解。BALSA-PO 次优地求解该问题，但其适用于更受限的实际 WDLN，其中接入点（AP）可观测的状态信息比 BALSA 所用信息更有限。我们通过仿真表明，由我们的 ALS 算法训练的模型在模型精度、训练损失、学习速度与学习鲁棒性方面，性能接近理想基准，并优于其他最先进（SOTA）基线调度算法。这些结果证明我们的 ALS 算法中的自适应调度策略对异步 FL 是有效的。
引用
@article{arxiv.2103.01422,
title = {Adaptive Transmission Scheduling in Wireless Networks for Asynchronous Federated Learning},
author = {Hyun-Suk Lee and Jang-Won Lee},
journal= {arXiv preprint arXiv:2103.01422},
year = {2021}
}
备注
Accepted to IEEE JSAC