DBT-DMAE：一种缺失数据下有效的多元时间序列预训练模型
机器学习
2022-09-19 v1 人工智能
摘要
多元时间序列（MTS）是一种与众多实际应用相关的普遍数据类型。然而，MTS 受缺失数据问题困扰，导致预测与分类等下游任务性能下降甚至崩溃。当面对多个下游任务时，并发的缺失数据处理流程不可避免地引发有偏估计与冗余训练问题。本文提出一种普遍适用的 MTS 预训练模型 DBT-DMAE，以克服上述障碍。首先，通过引入动态位置嵌入与随机掩码处理设计缺失表示模块，以刻画缺失特征。其次，我们提出一种自编码器结构，利用称为动态双向 TCN（dynamic-bidirectional-TCN）的改进 TCN 结构作为基本单元获取泛化 MTS 编码表示，该单元集成动态核与时间翻转技巧以有效提取时间特征。最后，建立整体输入与损失策略以确保整个模型的充分训练。对比实验结果表明，在六个真实世界数据集与两种不同的下游任务上，DBT-DMAE 优于其他 SOTA 方法。此外，通过消融与可解释性实验验证了 DBT-DMAE 各子结构的有效性。
引用
@article{arxiv.2209.07798,
title = {DBT-DMAE: An Effective Multivariate Time Series Pre-Train Model under Missing Data},
author = {Kai Zhang and Qinmin Yang and Chao Li},
journal= {arXiv preprint arXiv:2209.07798},
year = {2022}
}