攻击 SAM：面向以对抗样本攻击分割一切模型
计算机视觉与模式识别
2023-05-09 v2 人工智能
摘要
分割一切模型（SAM）近来备受关注，因其在各类下游任务上以零样本方式取得了令人印象深刻的性能。计算机视觉（CV）领域或许会追随自然语言处理（NLP）领域的步伐，走上从任务特定视觉模型迈向基础模型的道路。然而，深度视觉模型被广泛认为易受对抗样本的攻击，后者以难以察觉的扰动欺骗模型做出错误预测。这种对对抗攻击的脆弱性在将深度模型应用于安全敏感场景时引发了严重担忧。因此，了解视觉基础模型 SAM 是否也会被对抗攻击欺骗至关重要。据我们所知，我们的工作是首个对如何以对抗样本攻击 SAM 进行全面探究的工作。在将基本攻击目标设定为掩码移除的基础上，我们研究了 SAM 在完全白盒设定与基于迁移的黑盒设定下的对抗鲁棒性。除掩码移除这一基本目标外，我们进一步研究并发现通过对抗攻击生成任意期望掩码是可能的。
引用
@article{arxiv.2305.00866,
title = {Attack-SAM: Towards Attacking Segment Anything Model With Adversarial Examples},
author = {Chenshuang Zhang and Chaoning Zhang and Taegoo Kang and Donghun Kim and Sung-Ho Bae and In So Kweon},
journal= {arXiv preprint arXiv:2305.00866},
year = {2023}
}
备注
The first work to attack Segment Anything Model with adversarial examples