FLTracer：联邦学习中的精确投毒攻击溯源
密码学与安全
2023-10-23 v1 人工智能
分布式、并行与集群计算
机器学习
摘要
联邦学习（FL）是一种前景广阔的分布式学习方法，使多个客户端能够协作训练一个共享的全局模型。然而，近期研究表明 FL 易受各类投毒攻击，这些攻击会降低全局模型性能或向其植入后门。本文首先对先前的 FL 攻击与检测方法进行了全面研究。结果表明，所有现有检测方法仅对有限且特定的攻击有效。大多数检测方法误报率高，导致显著的性能下降，尤其是在非独立同分布（non-IID）设置下。为解决这些问题，我们提出 FLTracer，首个 FL 攻击溯源框架，可精确检测各类攻击并追踪更新的攻击时间、目标、类型与投毒位置。不同于仅依赖跨客户端异常检测的现有方法，我们提出基于卡尔曼滤波的跨轮次检测，通过寻找攻击前后的行为变化来识别 adversary。因此，这使其对数据异构具有韧性，并在 non-IID 设置下同样有效。为进一步提升检测方法的准确性，我们采用四种新颖特征并通过联合决策捕获其异常。大量评估表明，FLTracer 在平均误报率低于 的情况下实现了超过 的平均真正率，显著优于 SOTA 检测方法。\footnote{代码见 \url{https://github.com/Eyr3/FLTracer}。}
引用
@article{arxiv.2310.13424,
title = {FLTracer: Accurate Poisoning Attack Provenance in Federated Learning},
author = {Xinyu Zhang and Qingyu Liu and Zhongjie Ba and Yuan Hong and Tianhang Zheng and Feng Lin and Li Lu and Kui Ren},
journal= {arXiv preprint arXiv:2310.13424},
year = {2023}
}
备注
18 pages, 27 figures