DDMT：用于多元时间序列异常去噪扩散掩码Transformer模型
机器学习
2023-10-31 v2 人工智能
摘要
多元时间序列中的异常检测已成为时间序列研究中的关键挑战，在欺诈检测、故障诊断和系统状态估计等多个领域具有重要的研究意义。近年来，基于重构的模型在检测时间序列数据异常方面展现出良好潜力。然而，由于数据规模和维度的快速增长，时间序列重构过程中的噪声与弱恒等映射（WIM）问题日益凸显。为此，我们提出一种新颖的自适应动态邻域掩码（ADNM）机制，并将其与Transformer和去噪扩散模型相结合，构建了一个用于多元时间序列异常检测的新框架，称为去噪扩散掩码Transformer（DDMT）。引入ADNM模块旨在缓解数据重构过程中输入与输出特征之间的信息泄漏，从而减轻重构时的WIM问题。去噪扩散Transformer（DDT）采用Transformer作为去噪扩散模型内部的神经网络结构，学习时间序列数据的逐步生成过程以建模数据的概率分布，捕捉正常数据模式并通过去噪逐步恢复时间序列数据，从而清晰揭示异常。据我们所知，这是首个将去噪扩散模型与Transformer结合用于多元时间序列异常检测的模型。我们在五个公开的多元时间序列异常检测数据集上进行了实验评估，结果表明该模型能有效识别时间序列数据中的异常，取得了异常检测的最先进（SOTA）性能。
引用
@article{arxiv.2310.08800,
title = {DDMT: Denoising Diffusion Mask Transformer Models for Multivariate Time Series Anomaly Detection},
author = {Chaocheng Yang and Tingyin Wang and Xuanhui Yan},
journal= {arXiv preprint arXiv:2310.08800},
year = {2023}
}
备注
16 pages, 9 figures