针对无线信号分类的对抗攻击的视觉 Transformer 带对抗指示标记
机器学习
2025-07-02 v1 人工智能
密码学与安全
摘要
视觉 Transformer 在自然语言处理和计算机视觉等多个领域取得了显著成功，为其在自动调制分类中的应用铺平了道路，这是物联网（IoT）设备通信系统中的关键组件。然而，人们注意到基于 Transformer 的无线信号分类对细微且复杂的对抗攻击极其敏感。为此，我们开发了一种针对 Transformer-based 调制分类系统以抵御此类对抗攻击的防御策略。本文提出一种新型视觉 Transformer（ViT）架构，通过引入一种新概念——对抗指示标记（AdvI token）来检测对抗攻击。据我们所知，这是首次提出在 ViT 中引入 AdvI token 以抵御对抗攻击的工作。将对抗训练方法与使用 AdvI token 的检测机制相结合，我们将训练时防御和运行时防御统一集成到一个神经网络模型中，该模型相较于使用独立模型检测对抗扰动的系统，显著降低了系统架构的复杂性。我们通过检查注意力机制来探讨该方法的运作原理。我们展示，所提出的 AdvI token 作为 ViT 中的关键元素，影响注意力权重，从而凸显输入数据中可能可疑或异常的区域或特征。通过实验结果，我们表明该方法在处理白盒攻击场景时优于several竞争方法，包括使用快速梯度法、投影梯度下降攻击和基本迭代方法的攻击。
关键词
引用
@article{arxiv.2507.00015,
title = {Vision Transformer with Adversarial Indicator Token against Adversarial Attacks in Radio Signal Classifications},
author = {Lu Zhang and Sangarapillai Lambotharan and Gan Zheng and Guisheng Liao and Xuekang Liu and Fabio Roli and Carsten Maple},
journal= {arXiv preprint arXiv:2507.00015},
year = {2025}
}