联邦学习中用户贡献的无数据评估
机器学习
2021-08-25 v1 计算机科学与博弈论
摘要
联邦学习（FL）以分布式方式在移动设备上利用每个设备的私有数据和计算资源训练模型。一个关键问题是评估个体用户的贡献，以便（1）通过适当的激励补偿用户在模型训练中的努力，以及（2）检测并移除恶意和低质量用户。最先进的解决方案需要一个代表性的测试数据集用于评估目的，但这样的数据集通常不可用且难以合成。在本文中，我们提出了一种基于同伴预测思想的方法，称为成对相关一致性（PCA），用于在无测试数据集的情况下评估FL中的用户贡献。PCA利用用户上传的模型参数的统计相关性来实现这一点。然后，我们将PCA应用于设计（1）一种称为Fed-PCA的新联邦学习算法，以及（2）一种保证真实性的新激励机制。我们使用MNIST数据集和一个大型工业产品推荐数据集评估了PCA和Fed-PCA的性能。结果表明，我们的Fed-PCA在准确率上优于规范的FedAvg算法和其他基线方法，同时，PCA有效地激励用户诚实行事。
引用
@article{arxiv.2108.10623,
title = {Data-Free Evaluation of User Contributions in Federated Learning},
author = {Hongtao Lv and Zhenzhe Zheng and Tie Luo and Fan Wu and Shaojie Tang and Lifeng Hua and Rongfei Jia and Chengfei Lv},
journal= {arXiv preprint arXiv:2108.10623},
year = {2021}
}
备注
accepted by WiOpt 2021