CosPGD：一种面向像素级预测任务的高效白盒对抗攻击
计算机视觉与模式识别
2024-07-09 v3
摘要
尽管神经网络在许多任务中能实现高精度预测，但其对轻微输入扰动的鲁棒性不足常常阻碍其部署。诸如经典的投影梯度下降（PGD）等对抗攻击为评估模型的鲁棒性提供了有效手段，并且已有针对语义分割或光流估计攻击的专用解决方案被提出。这些方案在试图提高攻击效率的同时，另一个目标是平衡其效果，使其作用于整个图像域而非孤立的逐点预测。这往往以优化稳定性和效率为代价。在此，我们提出CosPGD，一种鼓励在整个图像域上产生更均衡误差的攻击方法，同时提高攻击的整体效率。为此，CosPGD利用从任意像素级预测及其目标计算出的一个简单对齐分数，以平滑且完全可微的方式缩放损失。它能高效评估语义分割以及回归模型（如光流、视差估计或图像复原）的模型鲁棒性，并在语义分割上超越了先前的最先进攻击方法。我们在https://github.com/shashankskagnihotri/cospgd提供了CosPGD算法的代码和使用示例。
引用
@article{arxiv.2302.02213,
title = {CosPGD: an efficient white-box adversarial attack for pixel-wise prediction tasks},
author = {Shashank Agnihotri and Steffen Jung and Margret Keuper},
journal= {arXiv preprint arXiv:2302.02213},
year = {2024}
}
备注
Accepted at 41st International Conference on Machine Learning (ICML), 2024