视频识别模型的启发式黑盒对抗攻击
计算机视觉与模式识别
2019-11-22 v1
摘要
我们研究黑盒设定下攻击视频识别模型的问题，其中模型信息未知且 adversary 仅能进行查询以检测预测的最高概率类别（top-1 类）及其概率。与图像黑盒攻击相比，攻击视频更具挑战性，因为视频的高维性使得搜索对抗扰动的计算成本更高。为克服该挑战，我们提出一种启发式黑盒攻击模型，仅在所选帧和区域上生成对抗扰动。更具体地，提出一种基于启发式的算法来衡量视频中每帧对生成对抗样本的重要性。基于帧的重要性，所提算法启发式地搜索一个帧子集，使得生成的对抗样本具有强对抗攻击能力，同时将扰动保持在给定界限以下。此外，为进一步提升攻击效率，我们提出仅在所选帧的显著区域上生成扰动。如此，生成的扰动在时域和空域上均为稀疏的。在 UCF-101 数据集和 HMDB-51 数据集上攻击两种主流视频识别方法的实验结果表明，所提启发式黑盒对抗攻击方法能显著降低计算成本，并在两个数据集的无目标攻击中实现查询次数减少超过 28%。
引用
@article{arxiv.1911.09449,
title = {Heuristic Black-box Adversarial Attacks on Video Recognition Models},
author = {Zhipeng Wei and Jingjing Chen and Xingxing Wei and Linxi Jiang and Tat-Seng Chua and Fengfeng Zhou and Yu-Gang Jiang},
journal= {arXiv preprint arXiv:1911.09449},
year = {2019}
}
备注
AAAI-2020 Oral