分散式联邦学习:愿景、分类与未来方向
分布式、并行与集群计算
2021-06-21 v2
摘要
正在进行的基于物联网(IoT)的智能应用部署正刺激机器学习作为一种关键技术赋能器的采用。为克服集中式机器学习的隐私与开销挑战,近期人们对联邦学习概念产生了显著兴趣。联邦学习提供设备上、保护隐私的机器学习,而无需将终端设备数据传输至第三方位置。然而,由于聚合服务器可利用终端设备本地学习模型推断敏感信息,联邦学习仍存在隐私担忧。此外,联邦学习过程可能因聚合服务器故障(例如由于恶意攻击或物理缺陷)而失败。除隐私与鲁棒性问题外,IoT 网络上的联邦学习需要大量通信资源用于训练。为应对这些问题,我们提出了一种基于真正去中心化的分散式联邦学习(DFL)新概念。我们认为 DFL 将作为面向各种基于 IoT 的智能应用(如智能工业和智能交通系统)的联邦学习的实际实现。首先,给出了 DFL 的基础。其次,设计了分类法并对各种 DFL 方案进行定性分析。第三,提出了一种面向 IoT 网络的 DFL 框架及基于匹配理论的解决方案。最后,给出了未来研究方向的展望。
引用
@article{arxiv.2008.05189,
title = {Dispersed Federated Learning: Vision, Taxonomy, and Future Directions},
author = {Latif U. Khan and Walid Saad and Zhu Han and Choong Seon Hong},
journal= {arXiv preprint arXiv:2008.05189},
year = {2021}
}
备注
This paper has been accepted for publication in IEEE Wireless Communications