动态网络辅助的 D2D 辅助编码分布式学习
机器学习
2024-10-28 v2 网络与互联网体系结构
摘要
如今，各种机器学习（ML）应用在无线网络边缘提供连续数据处理和实时数据分析。分布式实时 ML 解决方案对由资源异构性引起的所谓掉队者效应高度敏感，而各种计算卸载机制缓解了该效应，却严重挑战了通信效率，尤其在大规模场景中。为降低通信开销，我们依赖设备到设备（D2D）连接，其改善了频谱利用并允许邻近设备间高效的数据交换。具体而言，我们设计了一种新颖的 D2D 辅助编码联邦学习方法（D2D-CFL），用于跨设备的高效负载均衡。所提出的方案捕获系统动态，包括数据（时间依赖的学习模型、变化的数据到达强度）、设备（多样的计算资源和训练数据量）以及部署（变化的位置和 D2D 图连通性）。为最小化通信轮数，我们推导了实现最小处理时间的最优压缩率，并建立其与收敛时间的联系。由此产生的优化问题给出了次优压缩参数，改善了总训练时间。我们提出的方法有益于实时协作应用，其中用户持续生成训练数据从而导致模型漂移。
引用
@article{arxiv.2111.14789,
title = {Dynamic Network-Assisted D2D-Aided Coded Distributed Learning},
author = {Nikita Zeulin and Olga Galinina and Nageen Himayat and Sergey Andreev and Robert W. Heath},
journal= {arXiv preprint arXiv:2111.14789},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication