基于随机判别器的生成式投毒攻击
机器学习
2022-11-03 v1 密码学与安全
计算机视觉与模式识别
摘要
我们提出 ShortcutGen，一种新颖的数据投毒攻击方法，它通过学习一个生成器来产生依赖于样本、最小化误差的扰动。ShortcutGen 的关键创新在于使用随机初始化的判别器，该判别器为生成投毒样本提供了虚假的捷径。与近期迭代式方法不同，我们的 ShortcutGen 仅需一次前向传播即可在无标签方式下生成扰动；并且与唯一已有的生成式方法 DeepConfuse 相比，我们的 ShortcutGen 训练更快、更简单，同时保持了相当的竞争力。我们还证明，集成一种简单的增强策略可进一步提升 ShortcutGen 抵御早停的鲁棒性，而结合增强与非增强在最终验证准确率上取得了新的 SOTA 结果，尤其在具有挑战性的迁移场景中。最后，通过揭示其工作机制，我们推测学习更具泛化性的表示空间可使 ShortcutGen 对未见数据生效。
引用
@article{arxiv.2211.01086,
title = {Generative Poisoning Using Random Discriminators},
author = {Dirren van Vlijmen and Alex Kolmus and Zhuoran Liu and Zhengyu Zhao and Martha Larson},
journal= {arXiv preprint arXiv:2211.01086},
year = {2022}
}
备注
6 pages, 2 figures, 4 tables, accepted as an oral presentation at RCV (ECCV 2022 Workshop)