时间序列预测的校准：检测与适应上下文驱动的分布偏移
机器学习
2024-06-12 v2 人工智能
摘要
近年来，引入深度学习模型进行时间序列预测已取得成效。从数据生成视角，我们阐明现有模型易受由时间上下文（无论可观测或不可观测）驱动的分布偏移影响。此类上下文驱动的分布偏移（CDS）在特定上下文中引入预测偏差，并对常规训练范式构成挑战。本文提出一种通用校准方法，用于对已训练模型检测和适应 CDS。为此，我们提出一种新颖的 CDS 检测器，称为“基于残差的 CDS 检测器”或“Reconditionor”，其通过评估预测残差与对应上下文之间的互信息来量化模型对 CDS 的脆弱性。较高的 Reconditionor 分数表明严重的易感性，从而需要进行模型适配。在此情形下，我们提出一种简洁而有力的用于模型校准的适配器框架，称为“样本级上下文适配器”或“SOLID”。该框架涉及筛选与所给测试样本上下文相似的数据集，并随后以有限步数微调模型的预测层。我们的理论分析表明，该适配策略可实现最优的偏差-方差权衡。值得注意的是，我们提出的 Reconditionor 与 SOLID 是与模型无关的，并可轻易适配于广泛模型。大量实验表明，SOLID 在真实世界数据集上持续增强当前预测模型的性能，尤其在由所提 Reconditionor 检测到显著 CDS 的案例中，从而验证了校准方法的有效性。
引用
@article{arxiv.2310.14838,
title = {Calibration of Time-Series Forecasting: Detecting and Adapting Context-Driven Distribution Shift},
author = {Mouxiang Chen and Lefei Shen and Han Fu and Zhuo Li and Jianling Sun and Chenghao Liu},
journal= {arXiv preprint arXiv:2310.14838},
year = {2024}
}
备注
KDD'24 research paper