TSFool：通过多目标攻击构造高不可感知对抗时间序列
机器学习
2024-09-06 v4 密码学与安全
摘要
近年来，循环神经网络（RNN）模型在时间序列分类（TSC）中取得了成功。然而，神经网络（NNs）易受对抗样本攻击，这导致了削弱AI模型鲁棒性的现实对抗攻击。迄今为止，大多数现有攻击针对前馈神经网络和图像识别任务，但它们在基于RNN的TSC上表现不佳。这是由于RNN的循环计算阻止了直接的模型微分。此外，时间序列对扰动的高视觉敏感性也给对抗样本的局部目标优化带来了挑战。在本文中，我们提出一种名为TSFool的高效方法，用于为基于RNN的TSC构造高不可感知的对抗时间序列。其核心思想是一个称为“伪装系数（Camouflage Coefficient）”的新的全局优化目标，该目标从类分布中捕获对抗样本的不可感知性。基于此，我们将对抗攻击问题转化为一个提升扰动质量的多目标优化问题。此外，为加速优化过程，我们提议使用一种RNN的表示模型来捕获深度嵌入的、其特征偏离潜在流形的脆弱样本。在11个UCR和UEA数据集上的实验表明，TSFool在标准度量、人类研究和现实防御等多种视角下，在有效性、效率和不可感知性方面显著优于六种白盒和三种黑盒基准攻击。
引用
@article{arxiv.2209.06388,
title = {TSFool: Crafting Highly-Imperceptible Adversarial Time Series through Multi-Objective Attack},
author = {Yanyun Wang and Dehui Du and Haibo Hu and Zi Liang and Yuanhao Liu},
journal= {arXiv preprint arXiv:2209.06388},
year = {2024}
}
备注
27th European Conference on Artificial Intelligence (ECAI'24)