DIMBA：单目标跟踪中的离散掩码黑盒攻击
计算机视觉与模式识别
2022-07-19 v1
摘要
对抗攻击可通过巧妙操纵人类不可感知的输入，迫使基于 CNN 的模型产生错误输出。探索此类扰动有助于我们更深入理解神经网络的脆弱性，并为深度学习抵御各类对抗者提供鲁棒性。尽管已有大量研究关注图像、音频与 NLP 的鲁棒性，关于视觉目标跟踪——尤其是黑盒方式——的对抗样本的工作相当缺乏。在本文中，我们提出一种新颖的对抗攻击方法，在黑盒设定下为单目标跟踪生成噪声，其中扰动仅添加于跟踪序列的初始帧，从整个视频片段的视角难以被察觉。具体而言，我们将算法分为三部分，并利用强化学习精确局部化重要帧块，同时减少不必要的计算查询开销。与现有技术相比，我们的方法在视频初始帧上需要更少查询即可操纵出有竞争力甚至更优的攻击性能。我们在长期与短期数据集（包括 OTB100、VOT2018、UAV123 与 LaSOT）上测试算法。大量实验证明了我们的方法在三类主流跟踪器上的有效性：判别式、基于 Siamese 的与基于强化学习的跟踪器。
引用
@article{arxiv.2207.08044,
title = {DIMBA: Discretely Masked Black-Box Attack in Single Object Tracking},
author = {Xiangyu Yin and Wenjie Ruan and Jonathan Fieldsend},
journal= {arXiv preprint arXiv:2207.08044},
year = {2022}
}