无约束对抗样本的细粒度合成
计算机视觉与模式识别
2020-10-23 v2 密码学与安全
机器学习
机器学习
摘要
我们提出一种通过操控图像生成的细粒度方面来生成无约束对抗样本的新方法。与现有通常手工设计几何变换的无约束攻击不同，我们利用最先进的生成模型学习风格化与随机修改。这使我们能够以受控、细粒度的方式操控图像，而不受范数阈值的限制。我们的方法可用于对分类、语义分割和目标检测模型的有目标与无目标无约束攻击。我们的攻击能够绕过认证防御，但如人工评估所验证，我们的对抗图像与自然图像难以区分。此外，我们证明使用我们的样本进行对抗训练可在不修改架构的情况下提升模型在干净图像上的性能。我们在 LSUN、CelebA-HQ 和 COCO-Stuff 等高分辨率数据集上开展实验以验证所提方法的有效性。
引用
@article{arxiv.1911.09058,
title = {Fine-grained Synthesis of Unrestricted Adversarial Examples},
author = {Omid Poursaeed and Tianxing Jiang and Yordanos Goshu and Harry Yang and Serge Belongie and Ser-Nam Lim},
journal= {arXiv preprint arXiv:1911.09058},
year = {2020}
}