改进横向联邦学习中数据估值的公平性
机器学习
2022-09-19 v3
摘要
联邦学习是一种新兴的 decentralized 机器学习范式，允许多个数据拥有方在保障数据隐私的前提下协作。联邦学习的成功很大程度上依赖于数据拥有方的参与。为维持并激励数据拥有方的参与，公平地评估其提供数据的质量并相应给予回报至关重要。Wang 等人 [Federated Learning, 2020] 近期提出的联邦 Shapley 值，是联邦学习框架下满足诸多数据估值期望性质的数据价值度量。然而，联邦 Shapley 值的设计中仍存在潜在的不公平因素，因为拥有相同本地数据的两个数据拥有方可能得到不同的评估。我们提出一种称为完全联邦 Shapley 值的新度量，以改进联邦 Shapley 值的公平性。其设计依赖于补全一个由数据拥有方不同子集的所有可能贡献构成的矩阵。在温和条件下，借助优化中的概念与工具可证明该矩阵近似低秩。理论分析与经验评估均验证了所提度量在许多情形下确实提升了公平性。
引用
@article{arxiv.2109.09046,
title = {Improving Fairness for Data Valuation in Horizontal Federated Learning},
author = {Zhenan Fan and Huang Fang and Zirui Zhou and Jian Pei and Michael P. Friedlander and Changxin Liu and Yong Zhang},
journal= {arXiv preprint arXiv:2109.09046},
year = {2022}
}