关于时间序列异常检测模型对抗脆弱性的认知
机器学习
2022-08-25 v1 密码学与安全
摘要
时间序列异常检测在统计学、经济学和计算机科学中被广泛研究。多年来，人们提出了许多基于深度学习的时间序列异常检测方法。其中许多方法在基准数据集上展现出最先进的性能，给人一种这些系统鲁棒且可部署于许多实际工业和现实场景的错觉。在本文中，我们证明仅对传感器数据添加微小的对抗扰动，就会使最先进异常检测方法的性能大幅下降。我们在从航空航天应用、服务器机群到电厂信息物理系统的多个公开和私有数据集上，使用了预测误差、异常和分类分数等不同评分指标。在快速梯度符号法（FGSM）和投影梯度下降（PGD）等已知对抗攻击下，我们证明声称对异常鲁棒且可能已集成到实际系统中的最先进深度神经网络（DNNs）和图神经网络（GNNs）方法，其性能可降至低至 0%。据我们所知，我们首次展示了异常检测系统面对对抗攻击的脆弱性。本研究的总体目标是提高对时间序列异常检测器的对抗脆弱性的认知。
引用
@article{arxiv.2208.11264,
title = {Towards an Awareness of Time Series Anomaly Detection Models' Adversarial Vulnerability},
author = {Shahroz Tariq and Binh M. Le and Simon S. Woo},
journal= {arXiv preprint arXiv:2208.11264},
year = {2022}
}
备注
Part of Proceedings of the 31st ACM International Conference on Information and Knowledge Management (CIKM '22)