落叶对交通标志分类的对抗攻击

对抗输入图像扰动攻击已成为机器学习算法的重大威胁，尤其是在图像分类任务中。这些攻击涉及对输入图像进行微妙的扰动，导致神经网络对输入图像进行误分类，尽管这些图像对人类而言仍然易于识别。一个关键领域是汽车系统，在该系统中，交通标志的分类和识别至关重要，且误分类的图像可能导致自动系统采取错误行动。本工作提出了新的一类对抗攻击。不同于已有工作侧重于利用人造制品导致扰动的攻击，例如在交通标志上添加贴纸、颜料或照亮灯光，本工作利用自然制品：树叶。通过利用自然制品，新一类的攻击具有显著的辩护能力：一片落叶粘在街灯上可能来自附近的树木，而非由恶意人类攻击者放置。为评估新一类的对抗输入图像扰动攻击，本工作分析了落叶如何导致街灯误分类。该工作评估了来自不同树种树叶的各种树叶，并考虑了各种参数，如大小、由于树叶类型导致的颜色以及旋转。该工作展示了高成功率的误分类。该工作还探讨了成功攻击与其如何影响边缘检测之间的相关性，这在许多图像分类算法中至关重要。