针对全自动零售店的对抗性贴纸攻击鲁棒性分析

配备人工智能驱动的自动结账系统的便利且高效的全自动零售店的出现标志着零售业的一个新时代。然而，这些系统具有固有的人工智能安全漏洞，容易在物理环境中通过对抗性贴纸攻击被利用。本研究表明，对抗性贴纸可以严重干扰用于全自动零售店的对象检测模型，导致盗窃、库存 discrepancy 以及干扰等问题。我们研究了三种类型 of 对抗性贴纸攻击——隐藏攻击、创建攻击和更改攻击——并突出了其有效性。我们引入了一种新型的颜色直方图相似度损失函数，利用攻击者对目标类对象颜色信息的了解。除了传统的基于混淆矩阵的攻击成功率指标外，我们还引入了基于边界框的新指标来分析这些攻击的实际影响。我们从针对零食和水果数据集中训练的对象检测模型的攻击开始，在模仿真实全自动零售店的物理测试平台上评估对抗性贴纸的有效性，该平台配备了 RGB 摄像机和真实环境。此外，我们评估了这些攻击在黑箱场景中的鲁棒性，表明阴影攻击即使没有直接访问模型参数也能提高攻击成功率。本研究强调了保护全自动零售店免受对抗威胁所需的鲁棒防御策略。我们概述了当前防御机制在实时检测系统中的局限性，并讨论了各种主动措施，为改进对象检测模型的鲁棒性并强化零售环境防御这些攻击提供了见解。