基于彩票假设对联邦学习进行后门攻击
机器学习
2021-09-23 v1 密码学与安全
摘要
与数据中心中的服务器相比，联邦学习中的边缘设备通常具有更有限的计算和通信资源。近来，先进的模型压缩方法（如彩票假设）已在联邦学习中实现，以降低模型大小和通信成本。然而，后门攻击会破坏其在联邦学习场景中的实现。恶意边缘设备使用投毒的私有数据训练客户端模型，并将参数上传至中心，在无意间的聚合优化后向全局共享模型嵌入后门。在推理阶段，带后门的模型将具有特定触发器的样本分类为目标类别，同时对干净样本的推理精度略有下降。在本工作中，我们通过实验证明彩票模型与原始稠密模型一样易受后门攻击，且后门攻击会影响所提取彩票的结构。基于各彩票之间的相似性，我们提供了一种针对多种数据集上联邦学习后门攻击的可行防御方法。
引用
@article{arxiv.2109.10512,
title = {Backdoor Attacks on Federated Learning with Lottery Ticket Hypothesis},
author = {Zeyuan Yin and Ye Yuan and Panfeng Guo and Pan Zhou},
journal= {arXiv preprint arXiv:2109.10512},
year = {2021}
}