SDE-Attention:用于缺失数据和不规则采样时间序列的 SDE-RNN 中的潜在注意力
机器学习
2025-12-01 v1
摘要
不规则采样且缺失大量观测值的数据序列在医疗保健和传感网络中十分常见。我们提出 SDE-Attention,一种在 SDE-RNN 中引入潜在空间注意力机制的家族,包括通道级注意力、时变特征注意力和金字塔多尺度自注意力。因此我们在合成周期数据集和真实基准数据集上进行比较测试,考察不同缺失率下的表现。潜在空间注意力始终优于基础 SDE-RNN。在单变量 UCR 数据集上,基于 LSTM 的时变特征模型 SDE-TVF-L 实现了最高的平均准确率,在 30%、60% 和 90% 缺失率下的平均性能分别提升约 4、6 和 10 个百分点。 在多变量 UEA 基准数据集上,注意力增强模型同样优于基线模型,SDE-TVF-L 在高缺失率下平均准确率提升最高可达 7 个百分点。在所提出的机制中,时变特征注意力在单变量数据集上最稳健。在多变量数据集上,不同注意力类型在不同任务上表现各异,表明 SDE-Attention 可灵活适配每个问题的结构。
引用
@article{arxiv.2511.23238,
title = {SDE-Attention: Latent Attention in SDE-RNNs for Irregularly Sampled Time Series with Missing Data},
author = {Yuting Fang and Qouc Le Gia and Flora Salim},
journal= {arXiv preprint arXiv:2511.23238},
year = {2025}
}
备注
11 pages, 6 figures