DEFEND：面向安全联邦学习的中毒模型检测与恶意客户端排除机制
密码学与安全
2025-12-09 v1 人工智能
摘要
联邦学习（FL）吸引了智能交通系统（ITS）社区的关注。FL 可在隐私保护的协作方式下训练 various 用于 ITS 任务的模型，尤其是基于摄像头的道路条件分类（RCC）。然而，向协作开放也使 FL-based RCC 系统暴露于对手，即能够发动针对性标签翻转攻击（TLFAs）的恶意参与者，这些攻击威胁交通安全。发动 TLFAs 的对手通过投毒训练数据来误导模型预测，将实际类别（如湿路）错误地感知为目标类别（如干路）。现有针对投毒攻击的对策无法在 TLFAs 接近无攻击场景性能水平的情况下维持模型性能，因为它们缺乏针对 TLFAs 的特定模型异常检测，以及在检测后忽略客户端排除。为弥合这一研究空白，我们提出 DEFEND，包括一种利用神经元级幅度分析进行攻击目标识别和基于高斯混合模型（GMM）聚类的中毒模型检测策略。DEFEND 在每个训练轮次中丢弃中毒模型的贡献，并据此调整客户端评级，从而排除恶意客户端。广泛的评估涉及各种 FL-RCC 模型和任务表明，DEFEND 能有效遏制 TLFAs，并超过七个基线对策，至少提升 15.78%，DEFEND 在遭受攻击时几乎达到无攻击场景的性能水平。
引用
@article{arxiv.2512.06172,
title = {DEFEND: Poisoned Model Detection and Malicious Client Exclusion Mechanism for Secure Federated Learning-based Road Condition Classification},
author = {Sheng Liu and Panos Papadimitratos},
journal= {arXiv preprint arXiv:2512.06172},
year = {2025}
}
备注
Accepted to the 41st ACM/SIGAPP Symposium on Applied Computing (SAC 2026)