针对 Segment Anything Models 的实用区域级攻击
计算机视觉与模式识别
2024-12-10 v2 密码学与安全
摘要
Segment Anything Models (SAM) 在图像分割领域取得了重大进展，允许用户通过单击(即用户提示)分割图像中的目标部分。鉴于其广泛的应用，SAM 对抗对抗攻击的鲁棒性是一个关键问题。尽管最近的工作探索了针对预定义提示/点击的对抗攻击，但其威胁模型尚不切实际：(1) 它们通常假设攻击者知道用户点击的位置(基于点的攻击)，(2) 它们通常在白盒设置下运行，可迁移性有限。在本文中，我们提出了一种更实用的区域级攻击，攻击者无需知道精确的用户提示。当用户点击图像中目标对象上的任意点时，该攻击仍然有效，从而将该对象从 SAM 中隐藏。此外，通过适配频谱变换方法，我们使该攻击在黑盒设置下更具可迁移性。对照实验和针对真实世界 SAM 服务的测试均证实了其有效性。
引用
@article{arxiv.2404.08255,
title = {Practical Region-level Attack against Segment Anything Models},
author = {Yifan Shen and Zhengyuan Li and Gang Wang},
journal= {arXiv preprint arXiv:2404.08255},
year = {2024}
}
备注
Code is released at https://github.com/ShenYifanS/S-RA_T-RA