基于不变学习的分布外时间序列预测
机器学习
2024-06-14 v1 人工智能
摘要
时间序列预测（Time-Series Forecasting，TSF）在现实场景中具有广泛应用。由于时间序列数据的动态特性，为确保 TSF 模型具备分布外（Out-of-Distribution，OOD）泛化能力至关重要，因为历史训练数据和未来测试数据可能具有不同的分布。在本文中，我们旨在通过不变学习缓解 TSF 中固有的 OOD 问题。我们确定 TSF 不变学习的基本挑战：首先，TSF 中的目标变量可能无法通过输入充分决定，因为存在未观测的核心变量，这破坏了不变学习的常规假设；其次，时间序列数据缺乏充分的环境标签，而现有的环境推断方法不适用于 TSF。为解决这些挑战，我们提出了 FOIL（Forecasting for Out-of-distribution generalization via Invariant Learning），一个 model-agnostic 的框架，使 TSF 具备通过不变学习实现的分布外泛化能力。FOIL 采用新型的代理损失函数以减轻未观测变量的影响。进一步，FOIL 通过交替推断环境实现联合优化，同时保持时间相邻结构，并学习跨推断环境的不变表示，以实现 OOD 泛化的 TSF。我们展示，所提出的 FOIL 显著改进了各种 TSF 模型的性能，提升幅度可达 85%。
引用
@article{arxiv.2406.09130,
title = {Time-Series Forecasting for Out-of-Distribution Generalization Using Invariant Learning},
author = {Haoxin Liu and Harshavardhan Kamarthi and Lingkai Kong and Zhiyuan Zhao and Chao Zhang and B. Aditya Prakash},
journal= {arXiv preprint arXiv:2406.09130},
year = {2024}
}
备注
14 pages