LanCe：一种针对嵌入式多媒体应用中物理对抗攻击的综合性轻量 CNN 防御方法
计算机视觉与模式识别
2019-10-22 v1
摘要
近来，对抗攻击可被应用于物理世界，给各类由卷积神经网络（CNN）驱动的应用带来实际问题。现有多数物理对抗攻击防御工作仅聚焦于从输入中消除显式扰动模式，忽略了对 CNN 内在脆弱性的解释。因此，它们缺乏针对不同攻击预期的通用性，并依赖可观的数据处理代价。本文提出 LanCe——一种针对各类物理对抗攻击的综合性轻量 CNN 防御方法。通过解释 CNN 的脆弱性，我们发现非语义对抗扰动能以显著异常的激活激活 CNN，甚至压倒其他语义输入模式的激活。我们通过增加自验证阶段来改进 CNN 识别过程，仅以一次 CNN 推理代价检测潜在对抗输入。基于检测结果，我们进一步提出一种数据恢复方法以防御物理对抗攻击。我们将该防御方法应用于图像与音频 CNN 识别场景，并分别分析各场景的计算复杂度。实验表明，我们的方法可实现平均 91% 的攻击检测成功率和 89% 的准确率恢复。此外，与最先进防御方法相比其速度至多快 3 倍，使其可用于移动设备等资源受限的嵌入式系统。
引用
@article{arxiv.1910.08536,
title = {LanCe: A Comprehensive and Lightweight CNN Defense Methodology against Physical Adversarial Attacks on Embedded Multimedia Applications},
author = {Zirui Xu and Fuxun Yu and Xiang Chen},
journal= {arXiv preprint arXiv:1910.08536},
year = {2019}
}
备注
6 pages, 8 figures. arXiv admin note: substantial text overlap with arXiv:1905.08790