针对视频识别网络的空中对抗性闪烁攻击
机器学习
2021-06-08 v4 密码学与安全
计算机视觉与模式识别
机器学习
摘要
用于视频分类的深度神经网络，正如图像分类网络一样，可能受到对抗性操纵。图像分类器与视频分类器的主要区别在于后者通常利用视频中包含的时间信息。在本工作中，我们提出了一种通过引入闪烁时间扰动来欺骗视频分类器的操纵方案，该扰动在某些情况下人类观察者难以察觉，且可在现实世界中实现。在演示了对单段视频动作分类的操纵后，我们将该过程推广以生成通用对抗扰动，实现了较高的欺骗率。此外，我们推广了通用扰动并产生了时间不变扰动，其可应用于视频而无需将扰动与输入同步。该攻击在多个目标模型上实现，并展示了攻击的可迁移性。这些特性使我们缩小了模拟环境与真实世界应用之间的差距，正如本文首次针对空中闪烁攻击所展示的那样。
引用
@article{arxiv.2002.05123,
title = {Over-the-Air Adversarial Flickering Attacks against Video Recognition Networks},
author = {Roi Pony and Itay Naeh and Shie Mannor},
journal= {arXiv preprint arXiv:2002.05123},
year = {2021}
}