EVEREST:用于罕见事件时间序列预测的证据性、尾部敏感 Transformer
摘要
对 multivariate time-series 数据中的罕见事件进行预测具有挑战性,主要due to severe class imbalance、long-range dependencies 和 distributional uncertainty。我们引入 EVEREST,一种基于 transformer 的 architecture,用于概率性罕见事件预测,能够提供已校准的预测和尾部敏感的风险估计,并通过 attention-based signal attribution 实现辅助可解释性。EVEREST 集成了四个组件:(i) 用于软聚合 temporal dynamics 的可学习 attention bottleneck;(ii) 用于估计 aleatoric 和 epistemic 不确定性的 evidential head,通过 Normal--Inverse--Gamma 分布实现;(iii) 建模尾部风险的 extreme-value head,使用 Generalized Pareto Distribution;(iv) 用于早期事件检测的轻量级 precursor head。这些模块通过组合损失函数(焦点损失、evidential NLL 和 tail-sensitive EVT penalty)联合优化,仅在 training time 起作用;部署时使用单个 classification head,无 inference overhead(约 0.81M 参数)。在十年的 space-weather 数据上,EVEREST 实现了在 24/48/72 小时 horizon 上 C-class flares 的 state-of-the-art True Skill Statistic (TSS) 为 0.973/0.970/0.966。该模型紧凑、高效,可在普通硬件上训练,并适用于 industrial monitoring、气象和卫星诊断等 high-stakes 领域。局限性在于依赖固定长度输入且排除了 image-based 模态,激励未来扩展到 streaming 和 multimodal 预测。
引用
@article{arxiv.2601.19022,
title = {EVEREST: An Evidential, Tail-Aware Transformer for Rare-Event Time-Series Forecasting},
author = {Antanas Zilinskas and Robert N. Shorten and Jakub Marecek},
journal= {arXiv preprint arXiv:2601.19022},
year = {2026}
}
备注
Updated author affiliation. No changes to technical content