Bullseye Polytope：一种具有改进可迁移性的可扩展干净标签投毒攻击
机器学习
2021-03-16 v3 密码学与安全
机器学习
摘要
近来神经网络安全性的一大担忧是干净标签数据集投毒攻击的出现，其中被正确标注的毒样本被注入训练数据集。虽然这些毒样本在人类观察者看来是合法的，但它们包含恶意特征，会在推理时触发有针对性的误分类。我们提出了一种针对迁移学习的可扩展且可迁移的干净标签投毒攻击，其在特征空间中创建中心接近目标图像的毒图像。我们的攻击方法 Bullseye Polytope 在端到端迁移学习中将当前最先进方法的攻击成功率提高了 26.75%，同时将攻击速度提升了 12 倍。我们进一步将 Bullseye Polytope 扩展到一个更实用的攻击模型，在制作毒样本时包含同一对象的多张图像（例如从不同角度）。我们证明该扩展在不使用额外毒样本的情况下，将针对未见图像（同一对象）的攻击可迁移性提高了超过 16%。
引用
@article{arxiv.2005.00191,
title = {Bullseye Polytope: A Scalable Clean-Label Poisoning Attack with Improved Transferability},
author = {Hojjat Aghakhani and Dongyu Meng and Yu-Xiang Wang and Christopher Kruegel and Giovanni Vigna},
journal= {arXiv preprint arXiv:2005.00191},
year = {2021}
}