基于 Transformer 的对抗攻击在安全领域中的效能
密码学与安全
2023-10-19 v1 人工智能
摘要
如今，许多领域的安全依赖于使用机器学习来检测威胁、识别漏洞并保护系统免受攻击。近来，Transformer 架构在恶意软件检测和网络入侵检测等广泛任务上提升了最先进性能。但在抛弃当前方法转向 Transformer 之前，理解其特性及对网络安全应用的影响至关重要。本文中，我们评估了 Transformer 对系统防御者（即对不同架构生成的对抗扰动的弹性）的鲁棒性，以及其对系统攻击者（即 Transformer 生成的对抗样本到其他目标模型的迁移性）的对抗强度。为此，我们首先微调一组预训练 Transformer、卷积神经网络（CNN）与混合（Transformer 与 CNN 集成）模型，以解决不同的下游基于图像的任务。然后，我们使用攻击算法在每个任务上对每个模型制作 19,367 个对抗样本。通过在其他模型上评估每组样本来衡量这些对抗样本的迁移性，以确定哪些模型提供更强对抗强度，从而对这些攻击更具鲁棒性。我们发现，在 Transformer 上制作的对抗样本对其他模型具有最高迁移率（即比平均值高 25.7%）。类似地，在其他模型上制作的对抗样本对 Transformer 的迁移率最低（即比平均值低 56.7%）。我们的工作强调了在安全领域研究 Transformer 架构以攻击和防御模型的重要性，并建议在迁移攻击设置中将其作为首要架构使用。
引用
@article{arxiv.2310.11597,
title = {The Efficacy of Transformer-based Adversarial Attacks in Security Domains},
author = {Kunyang Li and Kyle Domico and Jean-Charles Noirot Ferrand and Patrick McDaniel},
journal= {arXiv preprint arXiv:2310.11597},
year = {2023}
}
备注
Accepted to IEEE Military Communications Conference (MILCOM), AI for Cyber Workshop, 2023