踢出坏人!基于零知识证明验证的联邦学习条件激活异常检测
密码学与安全
2025-10-21 v6 人工智能
摘要
联邦学习(FL)系统易受对抗攻击,如模型投毒攻击与后门攻击。现有防御机制在实际部署中存在关键局限,例如依赖不切实际的假设(如攻击者在发起攻击前承认攻击存在),或在良性场景下亦损害模型训练精度。为应对这些挑战,我们提出 RedJasper,一种专为实际 FL 部署设计的两阶段异常检测方法。它在第一阶段识别可疑活动,随后条件激活第二阶段以进一步审查可疑本地模型,采用 3σ 规则识别真正的恶意本地模型并将其从 FL 训练中过滤掉。为确保 FL 系统内的完整性与透明性,RedJasper 集成了零知识证明,使客户端能够在无需依赖服务器善意的情况下,以密码学方式验证服务器的检测过程。RedJasper 无需不切实际的假设,且避免在无攻击场景中干扰 FL 训练。它弥合了 FL 安全理论进展与实际部署需求之间的鸿沟。实验结果表明,RedJasper 始终能提供与良性情况相当的性能,凸显了其在高精度识别潜在攻击与剔除恶意模型方面的有效性。
引用
@article{arxiv.2310.04055,
title = {Kick Bad Guys Out! Conditionally Activated Anomaly Detection in Federated Learning with Zero-Knowledge Proof Verification},
author = {Shanshan Han and Wenxuan Wu and Baturalp Buyukates and Weizhao Jin and Qifan Zhang and Yuhang Yao and Salman Avestimehr and Chaoyang He},
journal= {arXiv preprint arXiv:2310.04055},
year = {2025}
}