AnomalyBERT：基于数据退化方案的自监督Transformer时间序列异常检测
机器学习
2023-05-09 v1 人工智能
摘要
现实情形中的机械缺陷会影响观测值并导致多元时间序列（如传感器值或网络数据）出现异常。为了感知此类数据中的异常，同时理解时间上下文与变量间相互关系至关重要。时间序列的异常检测任务，尤其是针对无标签数据，一直是一个具有挑战性的问题，我们通过将合适的数据退化方案应用于自监督模型训练来解决它。我们定义了四类合成离群值，并提出了一种退化方案，将部分输入数据替换为其中一种合成离群值。受自注意力机制启发，我们设计了一种基于Transformer的架构，以高效识别时间上下文并检测非自然序列。我们的模型将多元数据点转换为带有相对位置偏置的时间表示，并基于这些表示给出异常分数。我们的方法AnomalyBERT展现出检测复杂时间序列中异常的强大能力，并在五个真实世界基准上超越了以往的SOTA方法。我们的代码可在 https://github.com/Jhryu30/AnomalyBERT 获取。
引用
@article{arxiv.2305.04468,
title = {AnomalyBERT: Self-Supervised Transformer for Time Series Anomaly Detection using Data Degradation Scheme},
author = {Yungi Jeong and Eunseok Yang and Jung Hyun Ryu and Imseong Park and Myungjoo Kang},
journal= {arXiv preprint arXiv:2305.04468},
year = {2023}
}
备注
11 pages, Presented at ICLR 2023 workshop on Machine Learning for IoT