零样图预测混沌系统

时间序列预测是一项具有挑战性的任务，传统上需要为具体任务定制训练的模型。近期受大型语言模型成功的启发，基于多样化领域中大量时间序列数据预训练的基础模型（foundation models）已成为通用时间序列预测的有前景的候选方案。这些基础模型的核心特征是其零样学习能力，即无需显式再训练或微调，即可从有限的上下文数据预测新系统。本文评估了零样学习范式是否扩展到预测混沌系统这一具有挑战性的任务。我们在135个不同的混沌动力学系统中进行实验，共计$10^8$个时间点，发现基础模型在预测中表现出竞争力，尤其是在训练数据有限的情况下不输于定制训练模型（包括NBEATS、TiDE等）。有趣的是，即使在预测值失败后，大型基础模型仍能保留混沌吸引子的几何和统计特性。我们将成功归因于基础模型进行情境学习的能力，并将上下文模仿（context parroting）视为这些模型捕捉混沌动力学系统长期行为的简单机制。我们的结果凸显了基础模型作为探测非线性和复杂系统工具的潜力。