SegPGD：一种用于评估与提升分割鲁棒性的高效对抗攻击方法
计算机视觉与模式识别
2023-08-16 v3 图像与视频处理
摘要
基于深度神经网络的图像分类易受对抗扰动影响。通过向输入图像添加人工的微小且不可察觉的扰动，图像分类可被轻易欺骗。作为最有效的防御策略之一，对抗训练被提出以解决分类模型的脆弱性，其在训练期间将对抗样本生成并注入训练数据。分类模型的攻击与防御在过去数年已被深入研究。语义分割作为分类的延伸，近来也受到极大关注。近期工作表明，需要大量攻击迭代才能生成有效的对抗样本以欺骗分割模型。该现象使得分割模型的鲁棒性评估与对抗训练均具挑战性。本工作中，我们提出一种高效且有效的分割攻击方法，称为 SegPGD。此外，我们给出收敛性分析以表明所提 SegPGD 在相同攻击迭代次数下可生成比 PGD 更有效的对抗样本。进而，我们提出将 SegPGD 作为分割对抗训练的基础攻击方法。由于 SegPGD 能生成更有效的对抗样本，采用我们的 SegPGD 的对抗训练可提升分割模型的鲁棒性。我们的方案亦在流行的分割模型架构与标准分割数据集上经实验验证。
引用
@article{arxiv.2207.12391,
title = {SegPGD: An Effective and Efficient Adversarial Attack for Evaluating and Boosting Segmentation Robustness},
author = {Jindong Gu and Hengshuang Zhao and Volker Tresp and Philip Torr},
journal= {arXiv preprint arXiv:2207.12391},
year = {2023}
}