不可靠D2D网络中异构去中心化联邦学习的拓扑学习
机器学习
2024-03-12 v2 网络与互联网体系结构
信号处理
摘要
随着无线设备到设备(D2D)网络中智能移动设备的普及,去中心化联邦学习(DFL)引起了广泛关注。与集中式联邦学习(CFL)相比,DFL降低了因通信瓶颈导致的中央服务器故障风险。然而,DFL面临若干挑战,例如不同环境中数据分布的严重异构性,以及D2D网络中采用用户数据报协议(UDP)导致的传输中断和包错误。这些挑战通常会降低DFL模型训练的收敛性。为应对这些挑战,我们对DFL进行了深入的理论收敛性分析,并推导出收敛界。通过在该收敛界中定义一种名为“不可靠链路感知邻域差异”的新量,我们制定了一个可处理的优化目标,并开发了一种新颖的拓扑学习方法,该方法考虑了DFL中的表示差异和不可靠链路,命名为ToLRDUL。在特征偏斜和标签偏斜设置下的大量实验验证了我们方法的有效性,显示出收敛速度和测试准确率的提升,与我们的理论发现一致。
引用
@article{arxiv.2312.13611,
title = {Topology Learning for Heterogeneous Decentralized Federated Learning over Unreliable D2D Networks},
author = {Zheshun Wu and Zenglin Xu and Dun Zeng and Junfan Li and Jie Liu},
journal= {arXiv preprint arXiv:2312.13611},
year = {2024}
}
备注
To appear in IEEE Transactions on Vehicular Technology