X-Adv：针对X光违禁品检测的物理对抗物体攻击
密码学与安全
2023-02-21 v1 人工智能
计算机视觉与模式识别
摘要
对抗攻击对于评估深度学习模型的鲁棒性很有价值。现有攻击主要在可见光光谱上进行（例如像素级纹理扰动）。然而，尽管X光成像在安全关键场景（如X光违禁品检测）中广泛应用，针对无纹理X光图像的对抗攻击研究仍处于空白。本文首次对针对X光违禁品检测的对抗攻击展开研究，并揭示了此类攻击在这一安全关键场景中构成的严重威胁。具体而言，我们认为，该场景下成功的物理对抗攻击需要专门设计，以规避颜色/纹理消退和复杂重叠带来的挑战。为此，我们提出X-Adv，用于生成物理可打印的金属物体，作为对抗性介质，放置在行李中时能够欺骗X光检测器。为解决颜色/纹理消退问题，我们开发了一个可微转换器，利用替代模型的梯度而非直接生成对抗纹理，来生成具有对抗形状的3D可打印物体。为将打印出的3D对抗物体放置在具有复杂重叠实例的行李中，我们设计了一种基于策略的强化学习策略，以在最坏情况下（即违禁品被其他物品严重遮挡时）找到能引发强攻击效果的位置。为验证所提X-Adv的有效性，我们在数字世界和物理世界（后者使用商用X光安检系统）进行了大量实验。此外，我们还发布了物理世界X光对抗攻击数据集XAD。
引用
@article{arxiv.2302.09491,
title = {X-Adv: Physical Adversarial Object Attacks against X-ray Prohibited Item Detection},
author = {Aishan Liu and Jun Guo and Jiakai Wang and Siyuan Liang and Renshuai Tao and Wenbo Zhou and Cong Liu and Xianglong Liu and Dacheng Tao},
journal= {arXiv preprint arXiv:2302.09491},
year = {2023}
}
备注
Accepted by USENIX Security 2023