FedNIA：基于噪声诱导激活分析的联邦学习数据投毒防御
机器学习
2025-02-25 v1 人工智能
密码学与安全
摘要
联邦学习系统正日益受到数据投毒攻击的威胁，恶意客户端通过贡献被篡改的更新来破坏全局模型。现有防御方法常依赖不切实际的假设，例如获取中心测试数据集，或无法在包含多个恶意客户端协同工作的攻击情形下普遍适用。为此，我们提出联邦噪声诱导激活分析 (FedNIA)，一种 novel 的防御框架，用于在不依赖任何中心测试数据集的情况下识别并排除恶意客户端。FedNIA 通过注入随机噪声输入来分析客户端模型的层级激活模式，利用自编码器检测表明数据投毒的异常行为。FedNIA 能防御各种攻击类型，包括样本投毒、标签翻转和后门攻击，即使在多个攻击节点协同作战的情况下亦然。实验在非独立同分布 (non-iid) 联邦数据集上表明其有效性和鲁棒性，凸显其作为增强联邦学习系统安全性基础方法的潜力。
引用
@article{arxiv.2502.16396,
title = {FedNIA: Noise-Induced Activation Analysis for Mitigating Data Poisoning in FL},
author = {Ehsan Hallaji and Roozbeh Razavi-Far and Mehrdad Saif},
journal= {arXiv preprint arXiv:2502.16396},
year = {2025}
}