面向多种语言的雪球对抗攻击于交通标志分类
计算机视觉与模式识别
2025-02-28 v1 密码学与安全
摘要
对机器学习模型的对抗攻击通常依赖小幅不可感知的扰动来误导分类器。这种策略侧重于最小化对人类感知的视觉扰动，以免其产生误解，同时最大化对机器学习算法的误分类。另一种策略是创建明显可见的扰动，但不误导人类，同时仍能最大化对机器学习算法的误分类。本工作遵循后者策略，通过交通标志识别的场景演示其实例，即雪球对抗攻击。该攻击利用人脑在各种遮挡下识别物体的优势，而机器学习算法则容易被误导。评估显示，雪球对抗攻击在各种图像上具有鲁棒性，能够误导最先进的交通标志识别算法。研究发现，雪球对抗攻击可以最小的工作量显著降低模型性能，揭示了深度神经网络的重要脆弱性，凸显了针对图像识别机器学习模型提高防御的必要性。
引用
@article{arxiv.2502.19757,
title = {Snowball Adversarial Attack on Traffic Sign Classification},
author = {Anthony Etim and Jakub Szefer},
journal= {arXiv preprint arXiv:2502.19757},
year = {2025}
}