不要直视太阳：针对图像分类器的对抗性日光化攻击
计算机视觉与模式识别
2023-08-25 v1 人工智能
机器学习
摘要
评估深度神经网络对分布外输入的鲁棒性至关重要，尤其在自动驾驶等安全关键领域，以及在恶意行为者可通过数字方式篡改输入以规避安全守卫的安全系统中。然而，设计有效的分布外测试以涵盖所有可能场景同时保留准确标签信息是一项挑战性任务。现有方法常在攻击的多样性和约束水平之间做出妥协，有时两者皆然。作为对图像分类模型更整体鲁棒性评估的第一步，我们提出一种基于图像日光化（solarization）的攻击方法，其概念简单，却能在不依赖强度的条件下避免破坏自然图像的全局结构。通过对多个ImageNet模型的综合评估，我们证明了该攻击能显著降低准确率，只要其未被纳入训练增强。有趣的是，即便如此，也无法完全免疫于准确率退化。在其他设定下，该攻击常可简化为具有模型无关参数的黑盒攻击。针对其他扰动的防御手段并非总能有效抵御我们的特定攻击。项目网站：https://github.com/paulgavrikov/adversarial_solarization
引用
@article{arxiv.2308.12661,
title = {Don't Look into the Sun: Adversarial Solarization Attacks on Image Classifiers},
author = {Paul Gavrikov and Janis Keuper},
journal= {arXiv preprint arXiv:2308.12661},
year = {2023}
}