联邦学习中贡献分数计算的脆弱性
机器学习
2025-10-28 v2 密码学与安全
计算机科学与博弈论
摘要
本文研究了联邦学习中贡献评估的脆弱性，这是确保公平性和激励参与的关键机制。我们论证贡献分数容易受到两个基本视角的显著扭曲：架构敏感性和故意操纵。首先，我们探讨了不同模型聚合方法如何影响这些分数。虽然大多数研究假设基本平均方法，但我们证明先进的技术，包括旨在处理不可靠或多样化客户端的技术，可能会无意但显著地改变最终分数。其次，我们探讨了投毒攻击带来的漏洞，恶意参与者策略性地操纵其模型更新以膨胀自己的贡献分数或降低其他参与者的重要性。通过在 Flower 框架内对多样化数据集和模型架构进行的大量实验，我们严格证明了聚合方法的选择和攻击者的存在都是扭曲贡献分数的有力因素，凸显了对更稳健评估方案的关键需求。
引用
@article{arxiv.2509.19921,
title = {On the Fragility of Contribution Score Computation in Federated Learning},
author = {Balazs Pejo and Marcell Frank and Krisztian Varga and Peter Veliczky and Gergely Biczok},
journal= {arXiv preprint arXiv:2509.19921},
year = {2025}
}