DABS：联邦学习中服务器端的数据无关后门攻击
密码学与安全
2023-05-03 v1 计算机视觉与模式识别
机器学习
摘要
联邦学习（FL）试图在中心服务器协调下聚合来自分布式设备的本地模型以训练全局模型。然而，大量异构设备的存在使 FL 易受各类攻击，尤其是隐蔽的后门攻击。后门攻击旨在通过注入特定触发器使神经网络将数据进行误分类至目标标签，同时在原始训练数据上保持正确预测。现有工作聚焦于客户端攻击，试图通过修改本地数据集来毒化全局模型。在本文中，我们提出一种针对 FL 的新攻击模型，即服务器端数据无关后门攻击（DABS），其中服务器直接修改全局模型以在 FL 系统中植入后门。大量仿真结果表明，该攻击方案相较于基线方法实现了更高的攻击成功率，同时在干净数据上保持正常准确率。
引用
@article{arxiv.2305.01267,
title = {DABS: Data-Agnostic Backdoor attack at the Server in Federated Learning},
author = {Wenqiang Sun and Sen Li and Yuchang Sun and Jun Zhang},
journal= {arXiv preprint arXiv:2305.01267},
year = {2023}
}
备注
Accepted by Backdoor Attacks and Defenses in Machine Learning (BANDS) Workshop at ICLR 2023