时光旅行：防御图像分类对抗样本攻击
密码学与安全
2025-02-27 v2 计算机视觉与模式识别
摘要
对抗样本攻击已成为机器学习的关键威胁。图像分类中的对抗攻击滥用各种微小修改来混淆图像分类神经网络——而图像仍然对人类可辨认。一个重要应用领域是自动驾驶场景中的交通标志分类。研究者已演示，添加贴纸、照射光线或添加阴影都是不同的手段，使机器学习推理算法误分类交通标志。这可能导致危险情况，例如将停车标志识别为限速标志，使车辆忽视它并可能导致事故。为此，本 work 聚焦于增强抵御此类对抗攻击的防御措施。本 work 将优势转向用户，提出利用历史图像和多数投票的概念。当攻击者修改正在受害者机器学习推理的当前交通标志时，受害者可以通过检查同一交通标志的过去图像来获得优势。本 work 引入了“时光旅行”的概念，并利用任何人都可访问的历史街景图像，对同一交通标志的不同过去版本进行推理。在评估中，提出的防御对最新对抗样本攻击具有 100% 的防御效果。
引用
@article{arxiv.2410.08338,
title = {Time Traveling to Defend Against Adversarial Example Attacks in Image Classification},
author = {Anthony Etim and Jakub Szefer},
journal= {arXiv preprint arXiv:2410.08338},
year = {2025}
}