时间序列基础模型的原语微调
机器学习
2024-11-01 v1 人工智能
计算与语言
摘要
受最近时间序列基础模型实现零样本预测成功的启发，我们提出一种 方法。具体而言，我们设计一个可在推理时通过提示（例如多个时间序列示例）进行预测的预训练基础模型，以预测目标时间序列的未来。该基础模型特别训练用于利用上下文窗口中来自多个相关时间序列的示例（除目标时间序列历史外）以帮助其在推理时适应目标领域的特定分布。我们展示，该在原语示例下推理的基础模型在众多预测基准测试上表现优于监督式深度学习方法、统计模型以及其他时间序列基础模型。值得注意的是，我们的原语微调方法甚至能与在目标领域显式微调的基础模型性能相媳美。
引用
@article{arxiv.2410.24087,
title = {In-Context Fine-Tuning for Time-Series Foundation Models},
author = {Abhimanyu Das and Matthew Faw and Rajat Sen and Yichen Zhou},
journal= {arXiv preprint arXiv:2410.24087},
year = {2024}
}