具忠实编码的可诊断时空Transformer
机器学习
2023-05-30 v1 人工智能
摘要
本文研究当底层数据生成过程具有复杂时空（spatio-temporal, ST）依赖时的异常诊断任务。关键技术挑战在于从刻画时间与空间索引间高阶交互的依赖张量中提取可操作的洞察。我们将该问题形式化为有监督依赖发现，其中ST依赖作为多变量时间序列分类的副产物被学习。我们指出已有ST Transformer工作中使用的时间位置编码在捕捉高频（短时间尺度）方面存在严重局限。我们基于离散傅里叶变换提出了一种具有理论保证的新位置编码。我们还提出了一种新的ST依赖发现框架，其能在空间与时间方向上提供可直接使用的诊断信息。最后，我们在楼宇电梯控制的真实工业应用中展示了所提模型DFStrans（Diagnostic Fourier-based Spatio-temporal Transformer）的效用。
引用
@article{arxiv.2305.17149,
title = {Diagnostic Spatio-temporal Transformer with Faithful Encoding},
author = {Jokin Labaien and Tsuyoshi Idé and Pin-Yu Chen and Ekhi Zugasti and Xabier De Carlos},
journal= {arXiv preprint arXiv:2305.17149},
year = {2023}
}