向前看两步：预判其他用户改进联邦学习中的后门攻击
机器学习
2022-10-18 v1 密码学与安全
摘要
联邦学习尤其易受模型投毒与后门攻击，因为个体用户直接控制训练数据与模型更新。同时，单个用户的攻击能力受限，因为其更新很快被众多其他用户的更新所淹没。现有攻击未考虑其他用户的未来行为，因而需要多次顺序更新且效果迅速被抹除。我们提出一种预判并考量整个联邦学习流程（包括其他客户端行为）的攻击，确保后门快速生效并在多轮群体更新后依然持久。我们表明该新攻击在攻击者仅参与少量随机采样轮次的现实场景中有效，并在图像分类、下一词预测与情感分析上演示了该攻击。
引用
@article{arxiv.2210.09305,
title = {Thinking Two Moves Ahead: Anticipating Other Users Improves Backdoor Attacks in Federated Learning},
author = {Yuxin Wen and Jonas Geiping and Liam Fowl and Hossein Souri and Rama Chellappa and Micah Goldblum and Tom Goldstein},
journal= {arXiv preprint arXiv:2210.09305},
year = {2022}
}
备注
Code is available at \url{https://github.com/YuxinWenRick/thinking-two-moves-ahead}