跨机构联邦学习中的数据贡献激励
计算机科学与博弈论
2022-10-17 v2
摘要
在跨机构联邦学习中，客户端（如组织）使用本地数据训练一个共享的全局模型。然而，由于隐私担忧，客户端在训练期间可能不贡献足够的数据点。为解决此问题，我们提出一个通用激励框架，其中从全局模型获得的利润/收益可适当分配给客户端以激励数据贡献。我们将客户端的交互建模为数据贡献博弈并研究其均衡。我们刻画了均衡存在的条件，并证明每个客户端的均衡数据贡献随其数据质量增加、随隐私敏感度降低。我们进一步使用 CIFAR-10 进行实验，结果表明与分析一致。此外，我们展示了线性比例、留一法和 Shapley 值等实际分配机制能激励具有更高质量数据的客户端贡献更多数据，其中留一法往往在均衡时达到最高的全局模型精度。
引用
@article{arxiv.2203.03885,
title = {Incentivizing Data Contribution in Cross-Silo Federated Learning},
author = {Chao Huang and Shuqi Ke and Charles Kamhoua and Prasant Mohapatra and Xin Liu},
journal= {arXiv preprint arXiv:2203.03885},
year = {2022}
}