面向无线网络的 Hybrid-FL：基于非 IID 数据的协作学习机制
机器学习
2020-03-06 v3 分布式、并行与集群计算
机器学习
摘要
本文提出一种协作机制，用于缓解协作机器学习（ML）中因非独立同分布（non-IID）数据导致的性能下降，即联邦学习（FL），其利用移动客户端丰富的数据和计算资源训练 ML 模型而无需将数据传输至中心系统。由于移动客户端兴趣和使用的多样性，其数据通常是 non-IID 的，且带有 non-IID 数据的 FL 会降低模型性能。因此，为缓解 non-IID 数据引起的退化，我们假设有限数量（例如少于 1%）的客户端允许将其数据上传至服务器，并提出一种称为 Hybrid-FL 的混合学习机制，其中服务器利用从客户端收集的数据更新模型，并将该模型与客户端训练的模型进行聚合。Hybrid-FL 通过启发式算法解决客户端选择和数据选择问题，试图选出用自身数据训练模型的最佳客户端集合、将数据上传至服务器的客户端集合以及上传至服务器的数据。这些算法增加了参与 FL 的客户端数量，并使服务器聚集更多 IID 数据，从而提高聚合模型的预测精度。由网络仿真和 ML 实验组成的评估表明，所提方案在非 IID 情况下比先前提出的方案分类准确率高 13.5%。
引用
@article{arxiv.1905.07210,
title = {Hybrid-FL for Wireless Networks: Cooperative Learning Mechanism Using Non-IID Data},
author = {Naoya Yoshida and Takayuki Nishio and Masahiro Morikura and Koji Yamamoto and Ryo Yonetani},
journal= {arXiv preprint arXiv:1905.07210},
year = {2020}
}