中文

激励联邦学习代理获得高质量参与

人工智能 2025-06-23 v1 分布式、并行与集群计算 机器学习

摘要

联邦学习(FL)提供了一种促进多个客户端在不直接共享其本地数据的情况下共同学习全局模型的有前景的范例。然而,现有研究存在两个局限:1)从代理人角度来看,常常假设自愿和不自私的参与。但自利代理人可能在没有适当激励的情况下选择退出系统或提供低质量贡献;2)从机制设计者角度来看,聚合模型可能表现不佳,因为现有的基于博弈论的联邦学习方法在数据收集时忽略了由贡献数据引起的异构努力。为缓解上述挑战,我们提出了一种考虑数据异构性以加快收敛过程的代理人参与激励框架。具体而言,我们首先引入瓦斯塔斯塔距离(Wasserstein distance)的概念,以明确说明异构努力并重新阐述现有收敛上界。为促进代理人诚实报告,我们利用对等预测机制来分析和衡量任意两个代理人之间的泛化误差差距,从而开发评分函数。我们进一步提出了一个两阶段斯塔克贝尔格局,将该过程形式化并检验均衡的存在性。在真实数据集上的大量实验表明,我们提出的机制有效。

关键词

引用

@article{arxiv.2506.16731,
  title  = {Incentivizing High-quality Participation From Federated Learning Agents},
  author = {Jinlong Pang and Jiaheng Wei and Yifan Hua and Chen Qian and Yang Liu},
  journal= {arXiv preprint arXiv:2506.16731},
  year   = {2025}
}