面向基于光流的动作识别分类器的对抗攻击
计算机视觉与模式识别
2018-11-30 v1
摘要
深度学习研究的成功已将深度模型推入生产系统，我们的社会正日益依赖这些系统，尤其在图像与视频领域。然而，近期工作表明这些大体不可解释的模型在对抗者存在时表现出明显的安全漏洞。本工作中，我们针对动作识别系统开发了在白盒与黑盒设定下均有效的强力无目标对抗攻击。动作识别模型不同于图像分类模型，其输入包含时间维度，我们在攻击中显式针对该维度。受图像分类器攻击启发，我们创建了在 UCF-101 数据集上训练的双流分类器上达到最先进（state-of-the-art, SOTA）成功率的新攻击。我们发现，我们的攻击能以稀疏且难以察觉的扰动样本显著降级模型性能。我们还展示了攻击向黑盒动作识别系统的可迁移性。
引用
@article{arxiv.1811.11875,
title = {Adversarial Attacks for Optical Flow-Based Action Recognition Classifiers},
author = {Nathan Inkawhich and Matthew Inkawhich and Yiran Chen and Hai Li},
journal= {arXiv preprint arXiv:1811.11875},
year = {2018}
}