探究基于决策的黑盒攻击在语义分割上的应用
计算机视觉与模式识别
2024-02-05 v1 密码学与安全
摘要
语义分割是一项基础的视觉任务，广泛应用于具有安全敏感性的场景。然而，近期研究揭示了语义分割模型在白盒攻击下的对抗脆弱性。但其对黑盒攻击的对抗鲁棒性尚未得到充分探索。本文首次对语义分割上的黑盒决策攻击进行了探索。首先，我们通过案例研究分析了语义分割给决策攻击带来的挑战。然后，为应对这些挑战，我们率先提出了一种针对语义分割的决策攻击，称为离散线性攻击（DLA）。基于随机搜索和代理索引，我们利用离散线性噪声进行扰动探索与校准，以实现高效的攻击效率。我们在Cityscapes和ADE20K数据集上，对5个模型在8种攻击下进行了对抗鲁棒性评估。DLA在Cityscapes上展现了其强大威力，仅用50次查询就将PSPNet的mIoU从令人印象深刻的77.83%急剧降至仅2.14%。
引用
@article{arxiv.2402.01220,
title = {Delving into Decision-based Black-box Attacks on Semantic Segmentation},
author = {Zhaoyu Chen and Zhengyang Shan and Jingwen Chang and Kaixun Jiang and Dingkang Yang and Yiting Cheng and Wenqiang Zhang},
journal= {arXiv preprint arXiv:2402.01220},
year = {2024}
}