针对时间序列分类深度神经网络的对抗攻击
机器学习
2019-10-15 v2 密码学与安全
机器学习
摘要
时间序列分类（TSC）问题出现在许多现实生活中的数据挖掘任务中，范围涵盖医学、安全、人类活动识别到食品安全。随着深度神经网络在计算机视觉和自然语言处理等多个领域近期取得成功，研究人员开始采用这些技术来解决时间序列数据挖掘问题。然而，据我们所知，此前尚无工作考虑深度学习模型对对抗性时间序列样本的脆弱性，这可能在分类器所作决策至关重要（如医学和安全领域）的情况下使其变得不可靠。对于计算机视觉问题，已表明此类攻击非常容易实施，只需修改图像并向其中添加难以察觉的少量噪声即可欺骗网络错误分类输入图像。遵循这一工作思路，我们提议利用现有的对抗攻击机制向输入时间序列添加特殊噪声，以降低网络在测试时分类实例的置信度。我们的结果表明，当前最先进的深度学习时间序列分类器易受对抗攻击，这可能在食品安全与质量保证等多个领域产生重大影响。
引用
@article{arxiv.1903.07054,
title = {Adversarial Attacks on Deep Neural Networks for Time Series Classification},
author = {Hassan Ismail Fawaz and Germain Forestier and Jonathan Weber and Lhassane Idoumghar and Pierre-Alain Muller},
journal= {arXiv preprint arXiv:1903.07054},
year = {2019}
}
备注
Accepted at IJCNN 2019