通过复杂目标场景的 3D 建模增强真实世界对抗补丁
计算机视觉与模式识别
2021-09-03 v2 人工智能
密码学与安全
机器学习
摘要
对抗样本已被证明是对深度学习模型的一种令人担忧的威胁，尤其是在图像领域。然而，尽管许多研究考察了真实世界中的对抗样本，它们大多依赖于攻击场景的 2D 照片。因此，所提出的攻击在具有 3D 物体或变化条件的真实环境中实施时可能效果有限。使用 3D 物体的对抗学习研究很少，并且在许多情况下，其他研究人员无法复现真实世界的评估过程。在本研究中，我们提出了一个利用 3D 建模为现有真实世界场景制作对抗补丁的框架。我们的方法使用场景的 3D 数字近似作为真实世界的仿真。凭借在数字场景中添加和操控任何元素的能力，我们的框架使攻击者能够提升对抗补丁在真实世界环境中的影响。我们利用该框架为一个日常场景创建补丁，并使用一种新颖的评估过程评估其性能，该过程确保我们的结果在数字空间和真实世界中均可复现。我们的评估结果表明，该框架能够生成对真实世界中不同设置具有鲁棒性的对抗补丁。
引用
@article{arxiv.2102.05334,
title = {Enhancing Real-World Adversarial Patches through 3D Modeling of Complex Target Scenes},
author = {Yael Mathov and Lior Rokach and Yuval Elovici},
journal= {arXiv preprint arXiv:2102.05334},
year = {2021}
}