基于强化学习的稀疏黑盒视频攻击
计算机视觉与模式识别
2022-03-14 v3
摘要
近期已有针对视频识别模型的对抗攻击研究。然而，现有工作大多平等对待每个视频帧而忽略其时间交互。为克服该缺陷，少数方法尝试选取若干关键帧并基于其实施攻击。遗憾的是，其选择策略与攻击步骤相互独立，因而性能有限。我们认为帧选择阶段与攻击阶段密切相关，关键帧应根据攻击结果进行调整。为此，我们将黑盒视频攻击建模为强化学习（RL）框架。具体而言，RL中的环境设为识别模型，RL中的智能体扮演帧选择角色。通过持续查询识别模型并接收攻击反馈，智能体逐步调整其帧选择策略，对抗扰动越来越小。我们在公开UCF-101与HMDB-51数据集上，使用C3D与LRCN两种主流视频识别模型进行了一系列实验。结果表明，所提方法能以高效查询次数显著减小对抗扰动。
引用
@article{arxiv.2001.03754,
title = {Sparse Black-box Video Attack with Reinforcement Learning},
author = {Xingxing Wei and Huanqian Yan and Bo Li},
journal= {arXiv preprint arXiv:2001.03754},
year = {2022}
}
备注
Accepted at IJCV 2022