用于稀疏不规则时间序列的具有局部注意力的 Transformer 自动编码器及其在风险估计中的应用

本文提出了一个专为稀疏和不规则时间序列风险估计设计的框架。它基于具有局部注意力的 Transformer 自动编码器，通过结合 transformer 的强大模式识别能力与传统数据清洗和归一化方法，有效捕获稀疏数据收集导致的不规则序列中的相关模式，受益于局部注意力机制的判别能力。该框架被应用于一个真实案例研究，即希腊某大范围电力系统非技术性损失的风险估计。非技术性损失主要源于电力盗窃，构成经济和运营上的重大挑战。由于真实世界数据收集实践的内在稀疏和不规则特性，检测这些异常尤其具有挑战性。传统的风险估计方法在有效捕获长程依赖和稳健处理此类数据特征方面存在困难。我们证明，该方法能够有效生成高度判别性的潜在特征，从而在与现有最先进方法和广泛使用方法相比，实现更一致的风险估计。它在召回率和精确率方面均取得高水平，满足问题的关键目标。因此，我们的解决方案为不规则时间序列数据集的风险检测提供了一个稳健且有效的工具。