针对实时视频分类系统的对抗扰动
机器学习
2019-04-30 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
近期研究已表明机器学习系统对对抗扰动的脆弱性。然而，这些研究大多局限于图像上的扰动，更一般地，局限于不处理时间变化输入的分类。本文中我们追问“实时视频分类系统中是否可能存在对抗扰动，若存在，其必须满足什么性质？”此类系统应用于监控、智能车辆与智能养老照护等场景，因此误分类可能尤其有害（例如，养老照护机构中的意外事件可能被遗漏）。我们表明，在此类系统中考虑时间结构对生成对抗样本至关重要。我们利用生成对抗网络（GAN）架构的近期进展来考虑时间相关性，并生成可使目标活动的误分类率超过 80% 的对抗样本。更重要的是，这些样本基本不影响其他活动，使其极具隐蔽性。最后，我们还惊讶地发现，在许多场景中，同一扰动可应用于视频片段的每一帧，使攻击者实现误分类的能力相对容易。
引用
@article{arxiv.1807.00458,
title = {Adversarial Perturbations Against Real-Time Video Classification Systems},
author = {Shasha Li and Ajaya Neupane and Sujoy Paul and Chengyu Song and Srikanth V. Krishnamurthy and Amit K. Roy Chowdhury and Ananthram Swami},
journal= {arXiv preprint arXiv:1807.00458},
year = {2019}
}