通过不确定性估计检测语义分割中的对抗攻击：深度分析
计算机视觉与模式识别
2024-08-20 v1 密码学与安全
摘要
深度神经网络在语义分割等广泛任务中已展现出显著成效。然而，这些网络易受对抗攻击的影响，对输入图像添加不可察觉的扰动，从而导致错误预测。这种脆弱性在自动驾驶等安全关键应用中尤为危险。虽然对抗样本和防御策略在图像分类领域已有深入研究，但针对语义分割的研究相对较少。近期，我们提出了一种基于不确定性的方法，用于检测神经网络在语义分割中的对抗攻击。我们观察到，以输出分布熵衡量的不确定性在干净图像与对抗扰动图像上的行为不同，并利用这一特性区分两者。在本文的工作扩展版中，我们对基于不确定性的对抗攻击检测进行了详细分析，涵盖了多样化的对抗攻击和各种最先进的神经网络。数值实验表明，所提出的基于不确定性的检测方法有效且轻量，作为后处理步骤运行，即无需修改模型或了解对抗样本的生成过程。
引用
@article{arxiv.2408.10021,
title = {Detecting Adversarial Attacks in Semantic Segmentation via Uncertainty Estimation: A Deep Analysis},
author = {Kira Maag and Roman Resner and Asja Fischer},
journal= {arXiv preprint arXiv:2408.10021},
year = {2024}
}