利用时间帧乱序防御深度动作识别模型免受对抗攻击
计算机视觉与模式识别
2023-12-08 v2
摘要
近年来，基于卷积神经网络（CNNs）的视频动作识别方法取得了显著的识别性能。然而，对于动作识别模型的泛化机制仍缺乏理解。本文指出，动作识别模型对运动信息的依赖低于预期，因而它们对帧顺序的随机化具有鲁棒性。此外，我们发现随机化后保留的运动单调性也促成了这种鲁棒性。基于该观察，我们提出了一种通过对输入视频进行时间乱序来防御动作识别模型对抗攻击的新防御方法。支撑我们防御方法的另一观察是，视频上的对抗扰动对时间破坏敏感。据我们所知，这是首次针对基于3D CNN的视频动作识别模型设计无需额外训练的防御方法。
引用
@article{arxiv.2112.07921,
title = {Temporal Shuffling for Defending Deep Action Recognition Models against Adversarial Attacks},
author = {Jaehui Hwang and Huan Zhang and Jun-Ho Choi and Cho-Jui Hsieh and Jong-Seok Lee},
journal= {arXiv preprint arXiv:2112.07921},
year = {2023}
}
备注
12 pages, accepted to Neural Networks