Anomaly Transformer：基于关联差异的时间序列异常检测
机器学习
2022-06-30 v5
摘要
时间序列中异常点的无监督检测是一个具有挑战性的问题，要求模型推导出可区分的判据。以往方法主要通过学习逐点表示或成对关联来解决该问题，然而二者均不足以推断复杂的动态。近来，Transformers在逐点表示与成对关联的统一建模上展现出强大能力，我们发现每个时间点的自注意力权重分布可体现与整个序列的丰富关联。我们的关键观察是：由于异常罕见，从异常点到整个序列建立非平凡关联极其困难，因此异常的关联应主要集中在相邻时间点。这种相邻集中偏置暗示了一种基于关联的、本质上可区分正常与异常点的判据，我们通过\emph{关联差异}（Association Discrepancy）加以凸显。在技术层面，我们提出带有新\emph{异常注意力}（Anomaly-Attention）机制的\emph{Anomaly Transformer}来计算关联差异。我们设计了一种极小极大策略以放大关联差异的正常-异常可区分性。Anomaly Transformer在三个应用（服务监控、空间与地球探测、水处理）的六个无监督时间序列异常检测基准上取得了SOTA结果。
引用
@article{arxiv.2110.02642,
title = {Anomaly Transformer: Time Series Anomaly Detection with Association Discrepancy},
author = {Jiehui Xu and Haixu Wu and Jianmin Wang and Mingsheng Long},
journal= {arXiv preprint arXiv:2110.02642},
year = {2022}
}