SMTFL：联邦学习中面向不可信参与者的安全模型训练
密码学与安全
2025-02-24 v2 分布式、并行与集群计算
摘要
联邦学习是一种重要的分布式模型训练技术。然而，梯度反转攻击和投毒攻击等威胁对训练数据的隐私和模型正确性构成了重大风险。我们提出了一种名为SMTFL的新方法，旨在不依赖可信参与者的情况下实现联邦学习中的安全模型训练。为保护梯度隐私免受梯度反转攻击，客户端被动态分组，允许将一个客户端的梯度进行分割，以混淆组内其他客户端的梯度。该方法引入了制衡机制，以减少推断特定客户端数据的合谋行为。为检测来自恶意客户端的投毒攻击，我们评估聚合梯度对全局模型性能的影响，从而有效识别并排除恶意客户端。每个客户端的梯度均被加密存储，解密由所有客户端共同管理。检测到的投毒梯度通过一种遗忘方法从全局模型中失效。我们提出了一种实用的安全聚合方案，该方案无需可信参与者，避免了传统噪声注入带来的性能下降，并规避了梯度聚合过程中的复杂密码学操作。基于四个数据集和两个模型的评估结果令人鼓舞：SMTFL能有效防御投毒攻击和梯度反转攻击，在定位恶意客户端方面达到超过95%的准确率，同时将诚实客户端的误报率控制在5%以内。当部署SMTFL时，模型准确率也几乎恢复到攻击前的状态。
引用
@article{arxiv.2502.02038,
title = {SMTFL: Secure Model Training to Untrusted Participants in Federated Learning},
author = {Zhihui Zhao and Xiaorong Dong and Yimo Ren and Jianhua Wang and Dan Yu and Hongsong Zhu and Yongle Chen},
journal= {arXiv preprint arXiv:2502.02038},
year = {2025}
}