基于前导码随机接入的通信高效分布式 SGD
信息论
2021-05-21 v1 math.IT
摘要
本文研究通信高效的分布式随机梯度下降（SGD），其中用户的数据集分布在一定区域内并通过无线信道通信。由于所提方法中一次迭代的时间与用户数量无关，其非常适用于可扩展的分布式 SGD。此外，由于所提方法基于广泛用于机器类通信（MTC）的基于前导码的随机接入，它可轻易用于训练具有大量设备的模型，适用于各类使用 MTC 实现连接的物联网（IoT）应用。对于衰落信道，我们证明可使用非相干合并。因此，无需信道状态信息（CSI）估计。从分析与仿真结果中，我们确认所提方法不仅可扩展，而且随着设备数量增加提供改进的性能。
引用
@article{arxiv.2105.09427,
title = {Communication-Efficient Distributed SGD using Preamble-based Random Access},
author = {Jinho Choi},
journal= {arXiv preprint arXiv:2105.09427},
year = {2021}
}
备注
11 pages, 5 figures