中文

DPVS-Shapley:联邦学习中更快且更通用的贡献评估组件

机器学习 2024-10-22 v1 人工智能 密码学与安全 计算机科学与博弈论

摘要

在当前人工智能时代,联邦学习已成为一种新方法,用于解决中心化学习范式中固有的隐私问题。这种分布式学习模型不仅降低了数据泄露的风险,还增强了系统的可扩展性和鲁棒性。然而,这种方法引入了一个新挑战:如何公平且准确地评估每个参与者的贡献。开发有效的贡献评估机制对于联邦学习至关重要。这种机制激励参与者积极贡献其数据和计算资源,从而提高整个联邦学习系统的整体性能。通过根据贡献的大小来分配资源和奖励,可确保每个参与者获得公平的对待,促进持久的参与。目前,基于 Shapley 值的方法广泛用于评估参与者的贡献,许多研究人员提出了修改来适应这些方法在现实场景中的应用。在本文中,我们引入了一个名为 Dynamic Pruning Validation Set Shapley(DPVS-Shapley)的组件。该方法通过动态修剪原始数据集来加速贡献评估过程,而不会影响评估的准确性。此外,该组件可以对各种样本赋予不同的权重,从而允许能够区分难例的客户端获得更高的贡献得分。

关键词

引用

@article{arxiv.2410.15093,
  title  = {DPVS-Shapley:Faster and Universal Contribution Evaluation Component in Federated Learning},
  author = {Ketin Yin and Zonghao Guo and ZhengHan Qin},
  journal= {arXiv preprint arXiv:2410.15093},
  year   = {2024}
}