联邦学习中的及时通信

我们考虑一个联邦学习框架，其中参数服务器（PS）通过利用 $n$ 个客户端来训练全局模型，而无需将客户端数据集中存储在云服务器上。聚焦于客户端数据集快速变化且高度时间性的设置，我们研究了模型更新的及时性并提出了一种新颖的及时通信方案。在所提方案下，每次迭代时PS等待 $m$ 个可用客户端并向它们发送当前模型。然后，PS在每次迭代时使用 $m$ 个客户端中最早 $k$ 个的本地更新来更新全局模型。我们求得每个客户端经历的平均信息年龄，并在数值上刻画了给定 $n$ 下年龄最优的 $m$ 和 $k$ 值。我们的结果表明，除了确保及时性外，所提通信方案相较于随机客户端选择显著减小了平均迭代时间，且不损害全局学习任务的收敛性。