基于困难区域发现的视频对象分割对抗攻击
计算机视觉与模式识别
2023-12-14 v1
摘要
视频对象分割已应用于多种计算机视觉任务，如视频编辑、自动驾驶与人机交互。然而，基于深度神经网络的方法易受对抗样本的攻击，对抗样本是受到几乎为人眼难以察觉的扰动所干扰的输入，攻击者将欺骗分割模型做出错误的像素级预测。这会在高要求任务中引发安全问题，因为对输入视频的微小扰动将导致潜在的攻击风险。尽管对抗样本已广泛用于分类任务，但在视频对象分割中鲜有研究。计算机视觉中现有的相关方法要么需要类别的先验知识，要么因针对特定任务的特殊设计而无法直接应用，未能考虑像素级区域攻击。因此，本工作开发了一种对象无关的对抗方法，通过基于困难区域发现的首帧攻击对视频对象分割（VOS）产生对抗影响。具体而言，利用分割模型的梯度来发现易混淆区域，即在一帧中难以从背景中辨识像素级对象的区域。这提供了一个困难度图，有助于生成具有更强对抗能力的扰动以攻击首帧。在三个基准上的实证研究表明，我们的攻击方法显著降低了若干最先进视频对象分割模型的性能。
引用
@article{arxiv.2309.13857,
title = {Adversarial Attacks on Video Object Segmentation with Hard Region Discovery},
author = {Ping Li and Yu Zhang and Li Yuan and Jian Zhao and Xianghua Xu and Xiaoqin Zhang},
journal= {arXiv preprint arXiv:2309.13857},
year = {2023}
}