基于Lyapunov优化的联邦学习通信高效设备调度

联邦学习（FL）是一种在不集中收集数据的情况下训练机器学习模型的有用工具。然而，在受限无线环境中部署FL时，设备的间歇性连接、异构的连接质量以及非独立同分布（non-i.i.d）数据会严重延缓收敛速度。本文考虑联邦学习中每轮任意设备参与概率的情况，证明通过对每个设备的更新按其每轮参与概率的倒数进行加权，可以保证收敛到平稳点。我们的分析结果适用于非凸损失函数和非i.i.d数据集，并恢复了针对全参与和均匀部分参与的最新收敛率，包括线性加速，仅需单侧学习率。随后，基于推导的收敛上界，我们开发了一种新的在线客户端选择和功率分配算法，利用Lyapunov漂移加惩罚框架机会性地最小化收敛上界和平均通信时间之间的函数，在发射功率约束下。我们采用流形上的优化技术求解该最小化问题的解。由于Lyapunov框架，算法的一个关键特性是无需了解信道分布，只需知道瞬时信道状态信息。我们使用CIFAR-10数据集并模拟不同的数据异构性，结果表明，在异构信道条件下，本文算法相对于均匀随机参与可显著降低通信时间。