深度神经网络上可迁移的干净标签投毒攻击
机器学习
2019-05-17 v2 密码学与安全
机器学习
摘要
干净标签投毒攻击将看似无害（且标签“正确”）的毒化图像注入训练数据，使模型在该数据上训练后将目标图像误分类。我们考虑无需访问受害者网络输出、架构或（某些情况下）训练数据的可迁移投毒攻击。为此，我们提出了一种新的“多面体攻击”，其中毒化图像被设计为在特征空间中包围目标图像。我们还证明在毒化图像创建过程中使用 Dropout 有助于增强该攻击的可迁移性。我们仅毒化 1% 的训练集便实现了超过 50% 的可迁移攻击成功率。
引用
@article{arxiv.1905.05897,
title = {Transferable Clean-Label Poisoning Attacks on Deep Neural Nets},
author = {Chen Zhu and W. Ronny Huang and Ali Shafahi and Hengduo Li and Gavin Taylor and Christoph Studer and Tom Goldstein},
journal= {arXiv preprint arXiv:1905.05897},
year = {2019}
}
备注
Accepted to ICML2019