利用时间一致性识别并抵御对抗视频
机器学习
2019-09-12 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
视频分类是计算机视觉中的一项具有挑战性的任务。尽管深度神经网络（DNNs）在视频分类中取得了优异的性能，但近期研究表明，向干净视频添加难以察觉的扰动可使训练良好的模型以高置信度输出错误标签。本文提出一种有效的防御框架来刻画并防御对抗视频。所提方法包含两个阶段：（1）利用相邻帧之间的时间一致性检测对抗视频；（2）分别通过空间域和时间域的去噪器削弱对抗扰动。具体而言，由于DNNs的线性特性，难以察觉的扰动会随网络深度增加而放大，导致相邻帧间DNNs输出不一致；而良性视频帧因变化微小，常与相邻帧输出相同。基于该观察，我们可区分对抗视频与良性视频。随后，针对不同类型攻击采用不同防御策略：对于稀疏污染帧的对抗视频，提出时间防御，利用时间上相邻的干净帧重建污染帧；对于密集污染帧的视频，使用高效的对抗去噪器在空间域处理每帧以净化扰动（称为空间防御）。在UCF-101数据集上的一系列实验表明，该方法显著提升了视频分类器对抗对抗攻击的鲁棒性。
引用
@article{arxiv.1909.04837,
title = {Identifying and Resisting Adversarial Videos Using Temporal Consistency},
author = {Xiaojun Jia and Xingxing Wei and Xiaochun Cao},
journal= {arXiv preprint arXiv:1909.04837},
year = {2019}
}