防御多种且未预见的对抗视频
机器学习
2021-12-15 v3 计算机视觉与模式识别
机器学习
摘要
深度神经网络的对抗鲁棒性已被积极研究。然而，大多数现有防御方法局限于特定类型的对抗扰动。具体而言，它们往往无法同时抵抗多种攻击类型，即缺乏多扰动鲁棒性。此外，相比图像识别问题，视频识别模型的对抗鲁棒性相对未被充分探索。虽然若干研究提出了如何生成对抗视频，但文献中仅发表了少数关于防御策略的方法。本文中，我们提出了首批针对视频识别中多种类型对抗视频的防御策略之一。所提方法称为MultiBN，利用多个独立的批归一化(BN)层与基于学习的BN选择模块，对多种对抗视频类型进行对抗训练。通过多BN结构，每个BN分支负责学习单一扰动类型的分布，从而提供更精确的分布估计。该机制有利于处理多种扰动类型。BN选择模块检测输入视频的攻击类型并将其发送至相应BN分支，使MultiBN完全自动化并支持端到端训练。与现有对抗训练方法相比，所提MultiBN对不同甚至未预见的对抗视频类型(从Lp有界攻击到物理可实现攻击)表现出更强的多扰动鲁棒性。这在不同的数据集和目标模型上均成立。此外，我们进行了广泛分析以研究多BN结构的特性。
引用
@article{arxiv.2009.05244,
title = {Defending Against Multiple and Unforeseen Adversarial Videos},
author = {Shao-Yuan Lo and Vishal M. Patel},
journal= {arXiv preprint arXiv:2009.05244},
year = {2021}
}
备注
Accepted in IEEE Transactions on Image Processing (TIP)