StyleFool：通过风格迁移欺骗视频分类系统
计算机视觉与模式识别
2024-04-02 v4 密码学与安全
摘要
视频分类系统易受对抗攻击，这可能在视频验证中造成严重的安全问题。当前的黑盒攻击需要大量查询才能成功，导致攻击过程中计算开销高。另一方面，具有受限扰动的攻击在面对去噪或对抗训练等防御时无效。在本文中，我们关注无限制扰动，并提出 StyleFool，一种通过风格迁移来欺骗视频分类系统的黑盒视频对抗攻击。StyleFool 首先利用色彩主题邻近性选择最佳风格图像，这有助于避免风格化视频中的不自然细节。同时，在定向攻击中额外考虑目标类置信度，通过将风格化视频移近甚至跨越决策边界来影响分类器的输出分布。然后采用无梯度方法进一步优化对抗扰动。我们在两个标准数据集 UCF-101 和 HMDB-51 上进行了大量实验来评估 StyleFool。实验结果表明，StyleFool 在查询数量和针对现有防御的鲁棒性方面均优于最先进的对抗攻击。此外，在无定向攻击中，50% 的风格化视频不需要任何查询，因为它们已经可以欺骗视频分类模型。此外，我们通过用户研究评估了不可区分性，表明尽管存在无限制扰动，StyleFool 的对抗样本在人眼中看起来难以察觉。
引用
@article{arxiv.2203.16000,
title = {StyleFool: Fooling Video Classification Systems via Style Transfer},
author = {Yuxin Cao and Xi Xiao and Ruoxi Sun and Derui Wang and Minhui Xue and Sheng Wen},
journal= {arXiv preprint arXiv:2203.16000},
year = {2024}
}
备注
18 pages, 9 figures. Accepted to S&P 2023