质量感知联邦学习中的稳定性代价
机器学习
2023-10-16 v1 人工智能
摘要
联邦学习（FL）是一种分布式机器学习方案，使客户端能够在不交换本地数据的情况下训练共享全局模型。标签噪声的存在会严重降低FL性能，一些现有研究聚焦于标签去噪的算法设计。然而，它们忽略了重要问题：客户端因自利且对FL性能有异质估值，可能不采用高代价的标签去噪策略。为填补此空白，我们将客户端交互建模为一种新颖的标签去噪博弈并刻画其均衡。我们还分析了稳定性代价，其量化了均衡结果与社会最优解之间系统性能（如全局模型精度、社会福利）的差异。我们证明均衡结果导致的全局模型精度总是低于社会最优解。我们进一步设计了高效算法计算社会最优解。在MNIST数据集上的数值实验表明，稳定性代价随客户端数据噪声增大而上升，亟需有效的激励机制。
引用
@article{arxiv.2310.08790,
title = {Price of Stability in Quality-Aware Federated Learning},
author = {Yizhou Yan and Xinyu Tang and Chao Huang and Ming Tang},
journal= {arXiv preprint arXiv:2310.08790},
year = {2023}
}
备注
Accepted to IEEE GLOBECOM 2023