实用通用对抗扰动的实时检测
机器学习
2021-05-25 v2 人工智能
密码学与安全
计算机视觉与模式识别
摘要
通用对抗扰动（UAPs）是一类突出的对抗样本，其利用系统性漏洞，实现对深度神经网络（DNNs）的物理可实现且鲁棒的攻击。UAPs可泛化至许多不同输入；这导致了可规模化应用的现实且有效的攻击。本文中，我们提出HyperNeuron，一种高效且可扩展的算法，通过识别可疑的神经元超激活来实现UAPs的实时检测。我们的结果显示了HyperNeuron在多种任务（图像分类、目标检测）、针对多种通用攻击以及现实场景（如感知广告拦截与对抗补丁）中的有效性。HyperNeuron能够同时检测对抗掩码与补丁UAPs，性能与现有UAP防御相当或更优，而每图像引入的延迟仅显著降低至0.86毫秒。这表明许多现实且实用的通用攻击可被实时可靠缓解，为机器学习系统的鲁棒部署带来前景。
引用
@article{arxiv.2105.07334,
title = {Real-time Detection of Practical Universal Adversarial Perturbations},
author = {Kenneth T. Co and Luis Muñoz-González and Leslie Kanthan and Emil C. Lupu},
journal= {arXiv preprint arXiv:2105.07334},
year = {2021}
}