基于 SHAP 值的计算机视觉对抗逃逸攻击
计算机视觉与模式识别
2026-04-13 v3 人工智能
摘要
本文介绍了一种利用 SHAP 值进行计算机视觉模型对抗逃逸攻击的白盒方法。它展示了如何通过降低输出置信度或诱导误分类来破坏深度学习模型的性能。此类攻击尤其危险，因为它们可以在不被人类感知的情况下欺骗算法的感知。该攻击方法利用 SHAP 值量化输入各个部分对推断阶段输出的重要性。我们将 SHAP 攻击与著名的快速梯度符号方法进行了比较。我们发现，SHAP 攻击在生成误分类方面尤其在梯度隐藏场景下更具鲁棒性。
引用
@article{arxiv.2601.10587,
title = {Adversarial Evasion Attacks on Computer Vision using SHAP Values},
author = {Frank Mollard and Marcus Becker and Florian Roehrbein},
journal= {arXiv preprint arXiv:2601.10587},
year = {2026}
}
备注
10th bwHPC Symposium - September 25th & 26th, 2024