针对分割模型的语义隐蔽对抗攻击
计算机视觉与模式识别
2022-01-21 v3
摘要
分割模型已被发现易受到定向与非定向对抗攻击。然而，由此产生的分割输出往往受损严重，使得攻击很容易被察觉。在本文中，我们提出语义隐蔽对抗攻击，其能够在操纵目标标签的同时保持非目标标签不变。一个挑战是在不同数据集与模型间进行具有语义意义的操纵；另一个挑战是避免损坏非目标标签。为解决这些挑战，我们将每张输入图像视为先验知识以生成扰动，并设计了一个特殊的正则化器来帮助提取特征。为评估模型性能，我们设计了三种基本攻击类型，即“消隐于背景中”“嵌入伪造标签”和“位移目标物体”。我们的实验表明，在 Cityscapes、Mapillary 和 BDD100K 上，我们的隐蔽对抗模型能以较高成功率攻击分割模型。我们的框架在不同数据集与模型间展现出良好的经验泛化能力。
引用
@article{arxiv.2104.01732,
title = {Semantically Stealthy Adversarial Attacks against Segmentation Models},
author = {Zhenhua Chen and Chuhua Wang and David J. Crandall},
journal= {arXiv preprint arXiv:2104.01732},
year = {2022}
}