抢夺后攻击：评估目标检测对黑箱对抗攻击的鲁棒性
计算机视觉与模式识别
2024-04-25 v1 人工智能
摘要
针对目标检测的延迟攻击代表了一种对抗攻击的变体，旨在通过在目标图像中生成额外的幽灵对象来增加推理时间。然而，在黑箱场景下生成幽灵对象仍然是一个挑战，因为这些不合格对象的信息是透明的。在本研究中，我们演示了通过扩展“抢夺后攻击”概念来生成幽灵对象的可行性。这些对抗性示例一旦生成，就可用于利用潜在的 AI 服务漏洞，从而引发重大的安全问题。实验结果表明，所提出的攻击在各种常用模型和 Google Vision API 上均成功攻击，且无需对目标模型进行任何先验知识。此外，每次攻击的平均成本不足一美元，构成对 AI 安全的重大威胁。
引用
@article{arxiv.2404.15881,
title = {Steal Now and Attack Later: Evaluating Robustness of Object Detection against Black-box Adversarial Attacks},
author = {Erh-Chung Chen and Pin-Yu Chen and I-Hsin Chung and Che-Rung Lee},
journal= {arXiv preprint arXiv:2404.15881},
year = {2024}
}