时间序列上的对抗攻击
机器学习
2019-03-04 v2 机器学习
摘要
时间序列分类模型在研究界正获得日益重要的地位。然而,关于为这些模型生成对抗样本的研究尚不多见。这些对抗样本可能成为安全隐患。在本文中,我们提出在蒸馏模型上利用对抗变换网络(ATN)来攻击多种时间序列分类模型。所提出的对分类模型的攻击利用蒸馏模型作为模仿被攻击的经典时间序列分类模型行为的替代模型。我们提出的方法应用于 1-最近邻动态时间规整(1-NN DTW)、全连接网络以及全卷积网络(FCN),它们均在 42 个加州大学河滨分校(UCR)数据集上训练。在本文中,我们表明这些模型在所有 42 个数据集上均易受攻击。据我们所知,针对时间序列分类模型的此类攻击此前从未有过。最后,我们建议未来开发时间序列分类模型的研究人员将对抗数据样本纳入其训练数据集以提升对对抗样本的抵抗力,并将模型鲁棒性作为评估指标加以考虑。
引用
@article{arxiv.1902.10755,
title = {Adversarial Attacks on Time Series},
author = {Fazle Karim and Somshubra Majumdar and Houshang Darabi},
journal= {arXiv preprint arXiv:1902.10755},
year = {2019}
}
备注
13 pages, 7 figures, 6 tables