面向基于云的物联网应用中非独立同分布数据的快速准确联邦学习
机器学习
2022-02-01 v1
摘要
作为一种在保护用户隐私的同时对去中心化设备数据进行中心模型训练的有前景的方法，联邦学习（FL）在物联网（IoT）设计中日益流行。然而，当物联网设备收集的数据以非独立同分布（non-IID）方式高度偏斜时，原始 FL 方法的准确性无法得到保证。尽管存在各种试图解决非 IID 数据下 FL 瓶颈的方案，但大多数都承受着额外的难以容忍的通信开销和较低的模型准确性。为实现快速准确的 FL，本文提出一种新颖的基于数据的设备分组方法，可有效减少非 IID 数据训练过程中的权重发散弊端。然而，由于我们的分组方法基于物联网设备提取特征图的相似性，可能带来额外的隐私暴露风险。为解决该问题，我们提出一种改进版本，利用局部敏感哈希（LSH）算法在不暴露提取特征图的情况下使用相似性信息。在知名基准上的综合实验结果表明，我们的方法不仅能加速收敛速率，还能提升非 IID 数据下 FL 的预测准确性。
引用
@article{arxiv.2201.12515,
title = {Towards Fast and Accurate Federated Learning with non-IID Data for Cloud-Based IoT Applications},
author = {Tian Liu and Jiahao Ding and Ting Wang and Miao Pan and Mingsong Chen},
journal= {arXiv preprint arXiv:2201.12515},
year = {2022}
}
备注
FL