通过用户剔除防御联邦学习中的数据投毒攻击

在不断发展的联邦学习（FL）领域中，一种新型攻击引起了研究界的关注，即数据投毒攻击，它通过恶意篡改训练数据来威胁模型完整性。本文提出了一种新颖的防御框架，重点在于在联邦模型中策略性地剔除对抗性用户。我们通过将本地训练实例收集的元数据与差分隐私技术相结合，在联邦算法的聚合阶段检测这些异常，以确保不会发生数据泄露。据我们所知，这是 FL 领域首次利用模型梯度以外的元数据来确保所报告本地模型诚实性的提案。我们的大量实验证明了我们方法的有效性，在保持用户隐私和模型性能的同时，显著减轻了数据投毒的风险。我们的研究结果表明，这种新的用户剔除方法在隐私和效用之间取得了良好的平衡，从而为支持在学术环境和工业界的安全领域安全采用 FL 的论据库做出了贡献。