针对实例分割与目标检测的对抗样本的特质与可迁移性
计算机视觉与模式识别
2018-08-07 v1
摘要
尽管近期在部署神经网络进行图像分类方面取得了进展，但已发现对抗样本能够欺骗这些模型使其误分类图像。由于这些模型现被广泛部署，我们通过评估对抗样本的特征及其向以图像分类为子任务的更复杂模型的可迁移性，提供关于这些对抗样本威胁的洞见。我们展示了对抗样本在应用于实例分割与对象检测模型时的无效性。我们表明这种无效性源于对抗样本无法承受缩放或光照条件变化等变换。此外，我们展示了存在一个较小阈值，在此阈值以下施加这些输入变换时对抗属性得以保留。另外，这些攻击在不同神经网络架构（如 VGG16 和 ResNet50）间表现出弱跨网络可迁移性，然而若在形成过程中依次经过这些网络，该攻击可能同时欺骗两者。可扩展性与可迁移性的缺乏对对抗图像在真实世界中如何有效提出了质疑。
引用
@article{arxiv.1808.01452,
title = {Traits & Transferability of Adversarial Examples against Instance Segmentation & Object Detection},
author = {Raghav Gurbaxani and Shivank Mishra},
journal= {arXiv preprint arXiv:1808.01452},
year = {2018}
}
备注
8 pages