联邦学习中利用稀有词嵌入与梯度集成的后门攻击
机器学习
2022-10-25 v2 人工智能
计算与语言
摘要
联邦学习的最新进展展示了其在去中心化数据集上学习的良好能力。然而，大量工作因对手可能参与该框架以出于对抗目的毒化全局模型而引发了担忧。本文研究了通过 NLP 模型的稀有词嵌入进行模型毒化以实现后门攻击的可行性。在文本分类中，少于 1% 的对手客户端就足以操纵模型输出，且干净句子上的性能无任何下降。对于较简单的数据集，仅 0.1% 的对手客户端就足以有效毒化全局模型。我们还提出了一种专为联邦学习方案设计的技术，称为梯度集成（Gradient Ensemble），它在我们所有实验设置中均提升了后门性能。
引用
@article{arxiv.2204.14017,
title = {Backdoor Attacks in Federated Learning by Rare Embeddings and Gradient Ensembling},
author = {KiYoon Yoo and Nojun Kwak},
journal= {arXiv preprint arXiv:2204.14017},
year = {2022}
}
备注
Accepted to EMNLP 2022, 9 pages and Appendix