时间序列上的无目标、有目标与通用对抗攻击及防御
机器学习
2021-01-15 v1
摘要
基于深度学习的模型易受对抗攻击。在有目标攻击中，攻击者不仅试图欺骗深度学习模型，还试图误导模型预测特定类别，此类攻击危害更大。此类有目标与无目标攻击针对单个样本定制，需向样本添加难以察觉的噪声。相反，通用对抗攻击计算一种特殊的难以察觉噪声，可添加至给定数据集的任意样本，从而迫使深度学习模型预测错误类别。据我们所知，先前工作均未研究时间序列数据上的此类有目标与通用攻击。本工作中，我们在UCR时间序列数据集上实施了无目标、有目标与通用对抗攻击。结果表明，基于深度学习的时间序列分类模型易受这些攻击。我们还表明通用对抗攻击具有良好的泛化性，因其仅需训练数据的一小部分。我们也实施了基于对抗训练的防御。结果表明，使用快速梯度符号法（FGSM，单步攻击）进行对抗训练的模型能够防御FGSM及基础迭代法（BIM，一种流行迭代攻击）。
引用
@article{arxiv.2101.05639,
title = {Untargeted, Targeted and Universal Adversarial Attacks and Defenses on Time Series},
author = {Pradeep Rathore and Arghya Basak and Sri Harsha Nistala and Venkataramana Runkana},
journal= {arXiv preprint arXiv:2101.05639},
year = {2021}
}
备注
Published at IJCNN 2020